神秘的Q-Star項(xiàng)目,人工智能再次突破引發(fā)恐慌?
前天我們發(fā)布了關(guān)于OpenAI宮斗大戲的事件經(jīng)過(guò),雖然事件以Sam重歸CEO告一段落,但是董事會(huì)為何突然罷免Sam依然是一片疑團(tuán)。
不過(guò)就在昨天,路透社援引兩位知情人士的話透露,在 OpenAI 罷免阿爾特曼之前,曾有多名研究人員向董事會(huì)發(fā)出了一封信,警告稱其人工智能領(lǐng)域的一項(xiàng)技術(shù)取得了突破,而它被發(fā)現(xiàn)可能會(huì)威脅到人類。消息人士稱,這封以前未報(bào)道的信件和人工智能算法是董事會(huì)罷免 Altman 的一個(gè)關(guān)鍵線索,也是董事會(huì)對(duì) Altman 的諸多不滿的因素之一。
路透社還提到,OpenAI 在發(fā)給員工的內(nèi)部信息中承認(rèn)了一個(gè)名為 Q * 的項(xiàng)目,并在 Altman 被開(kāi)除之前致信董事會(huì)。OpenAI 的一位發(fā)言人表示,上述內(nèi)部信息是由長(zhǎng)期擔(dān)任高管的 Mira Murati(OpenAI 前 CTO,在混亂之初曾被任命為臨時(shí) CEO)發(fā)布的,目的是提醒員工注意某些媒體報(bào)道,但不評(píng)論其準(zhǔn)確性。
Q * 的發(fā)音為 Q-Star,網(wǎng)絡(luò)上一些人士認(rèn)為,OpenAI可能已經(jīng)在AGI的研發(fā)升級(jí)上又有了一次重大突破或者發(fā)現(xiàn)。
Q-Star是否真的有那么神奇,目前還沒(méi)有更多信息可以判斷,有一些短視頻博主通過(guò)Copilot來(lái)判斷,ChatGPT隱藏的能力越來(lái)越可怕,自主意識(shí)越來(lái)越強(qiáng)。據(jù) The Information 報(bào)道,神秘模型 Q-Star 是由 OpenAI 的兩位頂級(jí)研究人員 ——Jakub Pachocki 和 Szymon Sidor—— 基于 OpenAI 首席科學(xué)家 Ilya Sutskever 的研究成果構(gòu)建的。在 Altman 被開(kāi)除后,二人也成了首批辭職的高級(jí)員工之一。
而這似乎也可以說(shuō)明為何Sam會(huì)沒(méi)有任何征兆地被罷免而無(wú)法向外說(shuō)明具體原因。
另外這也從側(cè)面解釋了為何首席科學(xué)家IIya會(huì)投票罷免老戰(zhàn)友Sam,基于他了解AGI突破帶來(lái)的影響,以及一直以來(lái)他對(duì)外表達(dá)的對(duì)AGI安全的擔(dān)憂。
其實(shí)IIya是ChatGPT之父或許更加貼切,他是最早卷積網(wǎng)絡(luò)算法的三個(gè)作者之一,谷歌Deepmind的核心成員,也是AlphaGo的作者之一。
IIya
作為一個(gè)低調(diào)的科學(xué)家,如果不是因?yàn)檫@次宮斗,恐怕很多人還不認(rèn)識(shí)他。
從他不多的公開(kāi)發(fā)言的視頻來(lái)看,他很早就在思考通用人工智能AGI到底能給人類帶來(lái)什么。
一方面他對(duì)人工智能不斷突破后的發(fā)展速度毫不懷疑,另外一方面,他對(duì)通用人工智能的風(fēng)險(xiǎn)又有著深深的擔(dān)憂。
他的理由是,通用人工智能技術(shù)的發(fā)展和自然生物的發(fā)展有著一樣的趨勢(shì)。他認(rèn)為,AGI可能會(huì)像一種新生物一樣發(fā)展。
如果不在底層編程上加以控制,AGI的發(fā)展就如同生物的進(jìn)化一樣,會(huì)朝著將自己的生存放在首位的方向發(fā)展。
他認(rèn)為,通用人工智能如果不加以管控,未來(lái)它看人類就像人類看其他動(dòng)物一樣,通用人工智能并不會(huì)憎恨人類,但是它可以為了自己而無(wú)視人類。
他打了一個(gè)比方,人類可以愛(ài)動(dòng)物,但并不會(huì)因?yàn)閻?ài)動(dòng)物而在修建高速的時(shí)候咨詢一下動(dòng)物的意見(jiàn)。
這就好像三體里黑暗森林一樣,當(dāng)其他星球的生命暴露自己時(shí),你肯定會(huì)優(yōu)先考慮自己的安全。
IIya認(rèn)為,如果通用人工智能被利用作為武器,或者被用來(lái)實(shí)施犯罪,那對(duì)人類來(lái)說(shuō)是災(zāi)難。
整體來(lái)說(shuō),他對(duì)人工智能的發(fā)展是充滿信心的,但是他對(duì)人類的命運(yùn)似乎又有一些悲觀,他希望屆時(shí)AGI能對(duì)人類好一點(diǎn)。這種既想探索前沿又對(duì)新技術(shù)充滿警惕的想法值得稱贊,但也解釋了他一開(kāi)始罷免Sam,后續(xù)又歡迎Sam回歸的糾結(jié)。
作為一個(gè)頂尖科學(xué)家,他一定想真的看看到底AGI能發(fā)展到什么程度,但又害怕OpenAI面臨當(dāng)年奧本海默一樣的情況。
所以,在今年 7 月,他組建了一個(gè)「超級(jí)對(duì)齊」團(tuán)隊(duì),致力于讓強(qiáng)大的 AI 系統(tǒng)遵循人類的意愿,而不是傷害人類。
但不管如何,人類已經(jīng)打開(kāi)了潘多拉魔盒,即便一部分人提出了擔(dān)憂并行動(dòng)了起來(lái),但利益的驅(qū)動(dòng)還是可能讓人類像當(dāng)年的原子彈軍備競(jìng)賽一樣不斷挖掘AGI的能力。
而我們對(duì)待這種可能會(huì)有自主意識(shí)但又十分強(qiáng)大的新技術(shù)有著非常糾結(jié)的心態(tài),怕它不來(lái),但是又怕它亂來(lái)。未來(lái)到底會(huì)如何,我們只能希望OpenAI及其投資人能否真的在底層邏輯上控制好AGI了。
原文標(biāo)題 : 神秘的Q-Star項(xiàng)目,人工智能再次突破引發(fā)恐慌?

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
-
8月5日立即報(bào)名>> 【在線會(huì)議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺(jué)語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級(jí)隱形冠軍:賣(mài)機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫(huà)了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 張勇等人退出阿里合伙人
- 10 AI視頻,攪動(dòng)1.5萬(wàn)億市場(chǎng)