神秘的Q-Star項(xiàng)目，人工智能再次突破引發(fā)恐慌？

2023-11-27 15:23

前天我們發(fā)布了關(guān)于OpenAI宮斗大戲的事件經(jīng)過(guò)，雖然事件以Sam重歸CEO告一段落，但是董事會(huì)為何突然罷免Sam依然是一片疑團(tuán)。

不過(guò)就在昨天，路透社援引兩位知情人士的話透露，在 OpenAI 罷免阿爾特曼之前，曾有多名研究人員向董事會(huì)發(fā)出了一封信，警告稱(chēng)其人工智能領(lǐng)域的一項(xiàng)技術(shù)取得了突破，而它被發(fā)現(xiàn)可能會(huì)威脅到人類(lèi)。消息人士稱(chēng)，這封以前未報(bào)道的信件和人工智能算法是董事會(huì)罷免 Altman 的一個(gè)關(guān)鍵線索，也是董事會(huì)對(duì) Altman 的諸多不滿的因素之一。

路透社還提到，OpenAI 在發(fā)給員工的內(nèi)部信息中承認(rèn)了一個(gè)名為 Q * 的項(xiàng)目，并在 Altman 被開(kāi)除之前致信董事會(huì)。OpenAI 的一位發(fā)言人表示，上述內(nèi)部信息是由長(zhǎng)期擔(dān)任高管的 Mira Murati（OpenAI 前 CTO，在混亂之初曾被任命為臨時(shí) CEO）發(fā)布的，目的是提醒員工注意某些媒體報(bào)道，但不評(píng)論其準(zhǔn)確性。

Q * 的發(fā)音為 Q-Star，網(wǎng)絡(luò)上一些人士認(rèn)為，OpenAI可能已經(jīng)在AGI的研發(fā)升級(jí)上又有了一次重大突破或者發(fā)現(xiàn)。

Q-Star是否真的有那么神奇，目前還沒(méi)有更多信息可以判斷，有一些短視頻博主通過(guò)Copilot來(lái)判斷，ChatGPT隱藏的能力越來(lái)越可怕，自主意識(shí)越來(lái)越強(qiáng)。據(jù) The Information 報(bào)道，神秘模型 Q-Star 是由 OpenAI 的兩位頂級(jí)研究人員 ——Jakub Pachocki 和 Szymon Sidor—— 基于 OpenAI 首席科學(xué)家 Ilya Sutskever 的研究成果構(gòu)建的。在 Altman 被開(kāi)除后，二人也成了首批辭職的高級(jí)員工之一。

而這似乎也可以說(shuō)明為何Sam會(huì)沒(méi)有任何征兆地被罷免而無(wú)法向外說(shuō)明具體原因。

另外這也從側(cè)面解釋了為何首席科學(xué)家IIya會(huì)投票罷免老戰(zhàn)友Sam，基于他了解AGI突破帶來(lái)的影響，以及一直以來(lái)他對(duì)外表達(dá)的對(duì)AGI安全的擔(dān)憂。

其實(shí)IIya是ChatGPT之父或許更加貼切，他是最早卷積網(wǎng)絡(luò)算法的三個(gè)作者之一，谷歌Deepmind的核心成員，也是AlphaGo的作者之一。

IIya

作為一個(gè)低調(diào)的科學(xué)家，如果不是因?yàn)檫@次宮斗，恐怕很多人還不認(rèn)識(shí)他。

從他不多的公開(kāi)發(fā)言的視頻來(lái)看，他很早就在思考通用人工智能AGI到底能給人類(lèi)帶來(lái)什么。

一方面他對(duì)人工智能不斷突破后的發(fā)展速度毫不懷疑，另外一方面，他對(duì)通用人工智能的風(fēng)險(xiǎn)又有著深深的擔(dān)憂。

他的理由是，通用人工智能技術(shù)的發(fā)展和自然生物的發(fā)展有著一樣的趨勢(shì)。他認(rèn)為，AGI可能會(huì)像一種新生物一樣發(fā)展。

如果不在底層編程上加以控制，AGI的發(fā)展就如同生物的進(jìn)化一樣，會(huì)朝著將自己的生存放在首位的方向發(fā)展。

他認(rèn)為，通用人工智能如果不加以管控，未來(lái)它看人類(lèi)就像人類(lèi)看其他動(dòng)物一樣，通用人工智能并不會(huì)憎恨人類(lèi)，但是它可以為了自己而無(wú)視人類(lèi)。

他打了一個(gè)比方，人類(lèi)可以愛(ài)動(dòng)物，但并不會(huì)因?yàn)閻?ài)動(dòng)物而在修建高速的時(shí)候咨詢(xún)一下動(dòng)物的意見(jiàn)。

這就好像三體里黑暗森林一樣，當(dāng)其他星球的生命暴露自己時(shí)，你肯定會(huì)優(yōu)先考慮自己的安全。

IIya認(rèn)為，如果通用人工智能被利用作為武器，或者被用來(lái)實(shí)施犯罪，那對(duì)人類(lèi)來(lái)說(shuō)是災(zāi)難。

整體來(lái)說(shuō)，他對(duì)人工智能的發(fā)展是充滿信心的，但是他對(duì)人類(lèi)的命運(yùn)似乎又有一些悲觀，他希望屆時(shí)AGI能對(duì)人類(lèi)好一點(diǎn)。這種既想探索前沿又對(duì)新技術(shù)充滿警惕的想法值得稱(chēng)贊，但也解釋了他一開(kāi)始罷免Sam，后續(xù)又歡迎Sam回歸的糾結(jié)。

作為一個(gè)頂尖科學(xué)家，他一定想真的看看到底AGI能發(fā)展到什么程度，但又害怕OpenAI面臨當(dāng)年奧本海默一樣的情況。

所以，在今年 7 月，他組建了一個(gè)「超級(jí)對(duì)齊」團(tuán)隊(duì)，致力于讓強(qiáng)大的 AI 系統(tǒng)遵循人類(lèi)的意愿，而不是傷害人類(lèi)。

但不管如何，人類(lèi)已經(jīng)打開(kāi)了潘多拉魔盒，即便一部分人提出了擔(dān)憂并行動(dòng)了起來(lái)，但利益的驅(qū)動(dòng)還是可能讓人類(lèi)像當(dāng)年的原子彈軍備競(jìng)賽一樣不斷挖掘AGI的能力。

而我們對(duì)待這種可能會(huì)有自主意識(shí)但又十分強(qiáng)大的新技術(shù)有著非常糾結(jié)的心態(tài)，怕它不來(lái)，但是又怕它亂來(lái)。未來(lái)到底會(huì)如何，我們只能希望OpenAI及其投資人能否真的在底層邏輯上控制好AGI了。

原文標(biāo)題 : 神秘的Q-Star項(xiàng)目，人工智能再次突破引發(fā)恐慌？