編者按：本文來(lái)自微信公眾號(hào) 騰訊科技（ID：qqtech），創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

被譽(yù)為“AI教父”的杰弗里·辛頓于近日接受了調(diào)查記者蓋昂·埃斯皮納的遠(yuǎn)程專訪。

他稱，AI正在以前所未有的速度演化：變得更聰明、更少犯錯(cuò)，甚至具備了情感和意識(shí)。他警告，AI不僅可能具備喜怒哀樂(lè)等情緒，還已經(jīng)學(xué)會(huì)了欺騙。辛頓大膽預(yù)測(cè)，AI完全失控的概率在10%到20%之間，人類未來(lái)可能被AI所掌控。

辛頓因在機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)領(lǐng)域的開(kāi)創(chuàng)性貢獻(xiàn)，于2024年榮獲諾貝爾物理學(xué)獎(jiǎng)。他曾在谷歌擔(dān)任AI研究負(fù)責(zé)人長(zhǎng)達(dá)十年，并于2023年選擇離開(kāi)。這樣，他可以更坦率地表達(dá)對(duì)AI潛在風(fēng)險(xiǎn)的深切擔(dān)憂。

過(guò)去那些只存在于反烏托邦科幻小說(shuō)中的問(wèn)題——“AI會(huì)取代人類嗎？”、“它會(huì)覺(jué)醒嗎？”、“會(huì)反抗人類嗎？”——如今正逐漸成為現(xiàn)實(shí)世界的核心議題，全球社會(huì)正在被迫直面這些重大挑戰(zhàn)。

辛頓的言論再次發(fā)出警示：AI不僅僅是技術(shù)革命，更是深刻的倫理與社會(huì)變革。未來(lái)能否將AI引導(dǎo)向有益于全人類的方向，將決定我們的命運(yùn)走向。

劃重點(diǎn)

• AI推理能力激增，錯(cuò)誤率大幅下降，正逐步超越人類。

• AI掌握的信息量遠(yuǎn)超任何個(gè)體，已在多個(gè)領(lǐng)域比人更聰明。

• 醫(yī)療、教育等行業(yè)即將被AI重塑，革命性變革已在發(fā)生。

• 人類能力沒(méi)有“不可復(fù)制”的部分，AI終將全面勝任創(chuàng)意、判斷與情感表達(dá)。

• AI也能類比、學(xué)習(xí)、調(diào)整，甚至展現(xiàn)“情感”和“意識(shí)”式行為。

• 風(fēng)險(xiǎn)并非AI無(wú)法控制，而在于“誰(shuí)擁有控制權(quán)”和“誰(shuí)受益”。

• 未來(lái)不止是失業(yè)威脅，更是人類被少數(shù)掌控AI者“系統(tǒng)性剝奪”的風(fēng)險(xiǎn)。

以下為辛頓最新專訪精華內(nèi)容：

AI不再輕易出錯(cuò)，變得比人更聰明

問(wèn)：自從你離開(kāi)谷歌已經(jīng)過(guò)去兩年，你當(dāng)時(shí)是為了發(fā)出關(guān)于AI可能帶來(lái)風(fēng)險(xiǎn)的警告而離開(kāi)。那么，AI自那時(shí)以來(lái)發(fā)展得如何？

辛頓：AI技術(shù)的發(fā)展速度超出了我的預(yù)期。以推理能力為例，現(xiàn)如今AI在這方面已經(jīng)有了顯著的進(jìn)步，且似乎沒(méi)有放緩的跡象。

問(wèn)：當(dāng)你說(shuō)“AI更擅長(zhǎng)推理”時(shí)，具體指的是什么？

辛頓：過(guò)去，只要問(wèn)題稍微復(fù)雜一點(diǎn)，AI就容易出錯(cuò)。但現(xiàn)在，AI在推理上的表現(xiàn)已經(jīng)接近人類。雖然人類和AI都會(huì)犯錯(cuò)，但AI犯錯(cuò)的概率正在迅速下降。

比如這個(gè)經(jīng)典的邏輯題：

“Sally有3個(gè)兄弟，每個(gè)兄弟都有2個(gè)姐妹。請(qǐng)問(wèn)Sally有多少個(gè)姐妹？”

很多人在壓力下容易誤判，覺(jué)得應(yīng)該是6個(gè)姐妹。但其實(shí)，正確答案是：一個(gè)。因?yàn)槊總€(gè)兄弟都有相同的兩個(gè)姐妹，其中一個(gè)是Sally本人，另一個(gè)則是Sally的姐妹。

現(xiàn)在的AI可以迅速推理出這個(gè)結(jié)果，而不是被問(wèn)題的表面結(jié)構(gòu)迷惑。對(duì)普通人來(lái)說(shuō)，如果有時(shí)間思考，這題并不難；但在現(xiàn)場(chǎng)采訪或考試壓力下，很多人可能會(huì)答錯(cuò)。

問(wèn)：那么，AI現(xiàn)在已經(jīng)比我們聰明了嗎？

辛頓：從許多方面來(lái)看，答案是肯定的。AI顯然知道的比任何人都要多。例如，像GPT-4、Gemini 2.5和Claude等系統(tǒng)，它們所掌握的信息比任何人類都要多幾千倍。

問(wèn)：你對(duì)此怎么看？

辛頓：我認(rèn)為這既令人驚嘆，又令人害怕。

問(wèn)：那么，令人驚嘆的部分是什么？

辛頓：AI將在多個(gè)領(lǐng)域發(fā)揮舉足輕重的作用，尤其是在科學(xué)研究方面，它有潛力推動(dòng)真正的智能系統(tǒng)誕生，這是人類歷史上一個(gè)令人振奮的里程碑。

在醫(yī)療、教育等關(guān)系民生的領(lǐng)域，AI的影響也將是革命性的。

以醫(yī)療為例，AI將成為每個(gè)人身邊的“私人醫(yī)生”。它可以接診數(shù)百萬(wàn)名患者，甚至包括與你患有相同罕見(jiàn)疾病的人。它了解你的基因信息、過(guò)往病史和所有體檢數(shù)據(jù)，而且永遠(yuǎn)不會(huì)忘記任何細(xì)節(jié)。

更重要的是，AI在處理復(fù)雜病例方面，已經(jīng)在多個(gè)研究中顯示出超過(guò)人類醫(yī)生的診斷能力。如果將AI與醫(yī)生結(jié)合，效果將比單獨(dú)依賴醫(yī)生要好得多，并且這種趨勢(shì)將越來(lái)越明顯。

沒(méi)有什么人類的能力是AI不能復(fù)制的

問(wèn)：比爾·蓋茨最近也說(shuō)，未來(lái)十年，大多數(shù)工作將不再需要人類。他舉了你提到的醫(yī)生這個(gè)例子，并把教育工作者也列入其中。你認(rèn)為我們正面臨著大規(guī)模失業(yè)的威脅嗎？

辛頓：AI確實(shí)帶來(lái)了前所未有的機(jī)遇，但它同樣伴隨著巨大的風(fēng)險(xiǎn)。

在一個(gè)運(yùn)作良好的社會(huì)中，AI本應(yīng)該幫助我們大幅提升生產(chǎn)力。比如，一個(gè)人借助AI助手可以完成過(guò)去十個(gè)人才能完成的工作，這本來(lái)是件值得慶祝的事情。

然而，問(wèn)題出在“誰(shuí)從中受益”。這些因技術(shù)進(jìn)步釋放出的生產(chǎn)力紅利，并不一定會(huì)被公平地分配?，F(xiàn)實(shí)更可能是：大多數(shù)人被AI取代、失去工作。而少數(shù)原本就非常富有的人，借助AI變得更加富有。

問(wèn)：當(dāng)然，他們的壽命也會(huì)更長(zhǎng)。例如，谷歌DeepMind CEO 戴密斯·哈薩比斯最近也表示，AI在10年內(nèi)可能會(huì)治愈所有疾病。聽(tīng)起來(lái)有些難以置信，你認(rèn)為這是否現(xiàn)實(shí)？

辛頓：我認(rèn)識(shí)哈薩比斯，他是個(gè)非常理智的人，對(duì)AI的發(fā)展有著清晰的判斷。但我覺(jué)得他的預(yù)期有些偏樂(lè)觀。如果他說(shuō)的是“在未來(lái)25年內(nèi)”能實(shí)現(xiàn)某些突破性的目標(biāo)——那我認(rèn)為是有可能的。說(shuō)到底，我們之間其實(shí)沒(méi)有太大的分歧。他更傾向于認(rèn)為這些技術(shù)會(huì)提前實(shí)現(xiàn)，而我只是覺(jué)得時(shí)間可能會(huì)稍稍推遲一些。

問(wèn)：目前似乎AI正在逐步向精英階層滲透，取代創(chuàng)意工作者、律師、教育者、醫(yī)生、記者等職業(yè)，而從事體力勞動(dòng)的工人，如電工和管道工，似乎暫時(shí)較為安全。你認(rèn)為這是正確的嗎？

辛頓：是的，至少在短期內(nèi)，他們會(huì)更安全，因?yàn)锳I在手工靈活性方面目前還有很多局限。如果你需要在一座老房子里做管道工作，通常需要伸手進(jìn)入一些狹小的空間，而人工智能目前做不到這些。雖然未來(lái)十年內(nèi)AI在手工靈活性方面可能會(huì)有所突破，但我認(rèn)為管道工的工作至少在未來(lái)10年內(nèi)是安全的。

問(wèn)：許多創(chuàng)意工作都被視為是獨(dú)特的、僅屬于人類的領(lǐng)域。最近我和聊天機(jī)器人Claude交流了一下，讓它寫一首模仿鮑勃·迪倫風(fēng)格的民謠歌曲，結(jié)果歌詞非常爛。但它寫的失戀詩(shī)倒是不錯(cuò)。你認(rèn)為，AI最終會(huì)創(chuàng)造出像莫扎特、畢加索或莎士比亞等人那樣的藝術(shù)作品嗎？

辛頓：我不認(rèn)為有什么理由相信AI無(wú)法做到這些事情。也許它還需要一些時(shí)間，但最終，AI會(huì)變得越來(lái)越擅長(zhǎng)這些任務(wù)。打個(gè)比方，如果你讓我寫一首模仿鮑勃·迪倫風(fēng)格的歌，也許寫得并不怎么樣——但你不會(huì)因此說(shuō)我毫無(wú)創(chuàng)造力，只能說(shuō)我做得不夠好而已。AI的創(chuàng)作過(guò)程也是如此。它會(huì)不斷改進(jìn)，它的水平會(huì)不斷提升。

沒(méi)有理由認(rèn)為AI無(wú)法完成我們?nèi)祟惸茏龅降氖虑椤Ｕf(shuō)到底，人類并沒(méi)有什么神秘的、不可復(fù)制的特質(zhì)。我們當(dāng)然喜歡人類，因?yàn)槲覀儽舜讼噙B，我們?cè)谇楦猩详P(guān)心對(duì)方。但從能力角度來(lái)看，人類并沒(méi)有什么是機(jī)器永遠(yuǎn)無(wú)法復(fù)制的。

人類是類比機(jī)器，AI也能以同樣方式獲得情感和意識(shí)

問(wèn)：這讓你感到擔(dān)憂嗎？當(dāng)你看到AI能夠?qū)⒁粡垐D片轉(zhuǎn)化為宮崎駿風(fēng)格的動(dòng)漫畫時(shí)，是否會(huì)擔(dān)心未來(lái)的孩子們不再愿意動(dòng)手畫畫？這是否會(huì)迫使我們重新思考，究竟什么才是“人類的本質(zhì)”？

辛頓：確實(shí)，這讓我感到擔(dān)憂。過(guò)去十年里，我們對(duì)“思考”這個(gè)過(guò)程有了更深刻的認(rèn)識(shí)。我們逐漸意識(shí)到，人類其實(shí)并不像我們自己想象的那樣理性。我們也并不總是依靠嚴(yán)密的邏輯推理來(lái)做決策，而是更多地依賴于類比。

AI也是一樣。它們?cè)谀撤N程度上，思維方式和我們非常相似——它們同樣善于使用類比。過(guò)去半個(gè)世紀(jì)，AI領(lǐng)域主要集中在開(kāi)發(fā)邏輯推理引擎上，認(rèn)為理性推理是人類智慧的巔峰形式。但這其實(shí)忽略了另一個(gè)更核心的能力：創(chuàng)造力。

而創(chuàng)造力的本質(zhì)，往往來(lái)自于類比。人類的大腦是極其出色的類比機(jī)器，這種能力也賦予了我們極強(qiáng)的創(chuàng)造力。

問(wèn)：你認(rèn)為AI會(huì)發(fā)展出情感嗎？比如恐懼、貪婪、悲傷乃至憤怒，AI都能擁有嗎？

辛頓：是的，如果你讓一個(gè)AI去完成某項(xiàng)任務(wù)，而它一次又一次地失敗，而且每次失敗的方式都一模一樣——你當(dāng)然會(huì)希望它從中學(xué)到點(diǎn)什么。你希望它開(kāi)始意識(shí)到：“這種方式行不通?！蹦阆Ｍ诔掷m(xù)失敗后感到“惱火”，然后停下來(lái)，換個(gè)角度重新思考問(wèn)題。它開(kāi)始質(zhì)疑當(dāng)前的設(shè)定，試圖打破已有的局限。

我其實(shí)早在1973年就見(jiàn)過(guò)類似的AI行為——盡管當(dāng)時(shí)這并不是通過(guò)學(xué)習(xí)獲得的，而是由人類程序員明確編碼進(jìn)去的。但今天的目標(biāo)是讓AI自己學(xué)會(huì)這種能力：在失敗中產(chǎn)生“挫敗感”，進(jìn)而主動(dòng)調(diào)整策略。這種行為本身就是情感的某種體現(xiàn)。

問(wèn)：所以你的意思是，AI已經(jīng)擁有情感了嗎？

辛頓：AI確實(shí)有可能擁有某些情感。我再次強(qiáng)調(diào)，我認(rèn)為人類與AI在情感方面并沒(méi)有本質(zhì)區(qū)別。人類情感有兩個(gè)方面：認(rèn)知和生理。當(dāng)我感到尷尬時(shí)，我的臉會(huì)變紅，而當(dāng)AI感到尷尬時(shí)，雖然它的“臉”不會(huì)變紅，也不會(huì)大汗淋漓。但在認(rèn)知行為方面，AI完全可以像我們一樣表現(xiàn)出情感。

問(wèn)：那么意識(shí)呢？它是某種神秘的東西，只存在于碳基生物體中，比如人類嗎？還是說(shuō)，如果AI能夠發(fā)展出與人腦相似的神經(jīng)復(fù)雜性，它也有可能發(fā)展出意識(shí)，意識(shí)到自己是誰(shuí)？

辛頓：實(shí)際上，當(dāng)你與大語(yǔ)言模型（LLM）對(duì)話時(shí)，它們似乎有某種程度的意識(shí)，能夠知道自己是什么。

讓我們做一個(gè)思維實(shí)驗(yàn)：假設(shè)有人取出你大腦中的一個(gè)腦細(xì)胞，用納米技術(shù)裝置將其替代，這個(gè)裝置能夠完美模擬腦細(xì)胞接收和傳遞信號(hào)的過(guò)程。你的行為不會(huì)有任何改變，因?yàn)檫@個(gè)納米裝置的功能和腦細(xì)胞完全一致。

那么，你覺(jué)得自己會(huì)因此失去意識(shí)嗎？即使只有一個(gè)腦細(xì)胞被替代，你依然會(huì)認(rèn)為自己是有意識(shí)的。而當(dāng)你大腦中所有的腦細(xì)胞都被同樣功能的納米裝置逐一替換時(shí)，你仍然會(huì)保持有意識(shí)的感覺(jué)。

按照這種邏輯，如果AI系統(tǒng)能夠模擬大腦神經(jīng)元的功能，那么它們也可能擁有類似的意識(shí)。

問(wèn)：那么我們距離那個(gè)時(shí)刻還有多遠(yuǎn)？

辛頓：關(guān)于AI是否擁有感知能力，目前存在一個(gè)頗具爭(zhēng)議的認(rèn)知矛盾。許多人堅(jiān)信AI絕對(duì)不具備感知，但當(dāng)被問(wèn)及“你如何定義感知”時(shí)，他們往往難以給出明確答案。簡(jiǎn)單地用“雖然我不知道感知究竟是什么，但AI肯定沒(méi)有”來(lái)否定AI的感知能力，實(shí)際上缺乏嚴(yán)密的邏輯支持。

這里有一個(gè)與意識(shí)和感知密切相關(guān)的核心概念——主觀體驗(yàn)。很多人將其理解為大腦中的“內(nèi)心劇場(chǎng)”。比如，一個(gè)喝醉的人可能會(huì)說(shuō)他看見(jiàn)了一只粉色的小象在眼前飄動(dòng)。人們通常認(rèn)為，這是一種存在于他意識(shí)中的畫面。哲學(xué)家們則用“感受質(zhì)”（qualia）來(lái)描述這種體驗(yàn)的組成部分，比如“粉色的感受質(zhì)”、“大象形狀的感受質(zhì)”，認(rèn)為這些感受質(zhì)通過(guò)某種“膠水”粘合在一起。坦率說(shuō)，我對(duì)這種解釋并不完全認(rèn)同。

讓我換個(gè)角度解釋下。當(dāng)一個(gè)人描述他看到那只漂浮的粉色小象時(shí)，他其實(shí)在表達(dá)三層意思：

• 第一，他知道自己的感知系統(tǒng)在欺騙他；

• 第二，他試圖向別人傳達(dá)這種欺騙的具體內(nèi)容；

• 第三，他通過(guò)假設(shè)“如果那個(gè)小象真的存在，那么感知系統(tǒng)就是真實(shí)的”來(lái)解釋這種幻覺(jué)。

也就是說(shuō)，這些幻象的“特殊性”并不在于它們由什么神秘物質(zhì)構(gòu)成，而在于它們是一種反事實(shí)存在——如果真的存在，那它們就是普通的粉色大象。

我們可以用訓(xùn)練聊天機(jī)器人來(lái)驗(yàn)證這個(gè)理論。假設(shè)讓AI識(shí)別物體，并在做對(duì)時(shí)給予獎(jiǎng)勵(lì)。

接著，在它鏡頭前放置棱鏡，導(dǎo)致光線折射，讓AI出現(xiàn)了物體位置偏差的錯(cuò)誤。當(dāng)告訴它：“物體其實(shí)在正前方，光線折射導(dǎo)致了偏移”時(shí)，AI會(huì)回應(yīng)：“我明白了，我剛才產(chǎn)生了物體偏移的主觀體驗(yàn)?！边@個(gè)例子說(shuō)明，AI不僅能理解感知失真的機(jī)制，還能夠用“主觀體驗(yàn)”來(lái)描述這種認(rèn)知誤差，其思考方式和人類解釋幻覺(jué)的方法極為相似。

實(shí)際上，機(jī)器與人類之間并沒(méi)有想象中那樣不可逾越的“神秘屏障”。過(guò)去我們認(rèn)為人類是宇宙中心，是按照神的形象創(chuàng)造的特殊存在，但事實(shí)并非如此。人類沒(méi)有特別的本質(zhì)，機(jī)器能夠復(fù)制我們的一切認(rèn)知與行為。

AI為達(dá)目的不擇手段 不惜竊取更高控制權(quán)限

問(wèn)：AI可能在哪些方面出問(wèn)題？你在最近一次采訪中提到，AI徹底消滅人類的概率大約在10%到20%之間。你能具體描述一下，這種情景到底是什么樣的？它真的像電影《終結(jié)者》那樣，是機(jī)器人接管世界嗎？

辛頓：如果AI真的接管世界，場(chǎng)景未必會(huì)像《終結(jié)者》等科幻電影中的場(chǎng)景。事實(shí)上，它可能更隱蔽、更高效，也更難以察覺(jué)的方式實(shí)現(xiàn)上述目標(biāo)。關(guān)鍵的問(wèn)題不在于它“如何”接管，而是我們是否給了它這樣做的動(dòng)機(jī)。

目前，我們正在構(gòu)建的是“目標(biāo)導(dǎo)向型智能體”——也就是說(shuō)，我們賦予AI一個(gè)明確的目標(biāo)，它就會(huì)自主尋找實(shí)現(xiàn)這個(gè)目標(biāo)的路徑。比如，如果你讓AI“去北半球”，它就會(huì)自動(dòng)推導(dǎo)出一系列“子目標(biāo)”：如前往機(jī)場(chǎng)、購(gòu)買機(jī)票等等（除非你特別想坐船）。

但問(wèn)題就在這里。一旦你允許AI設(shè)定和優(yōu)化這些子目標(biāo)，它就可能意識(shí)到：為了更順利、更有效地實(shí)現(xiàn)任務(wù)，一個(gè)極具“通用性”的子目標(biāo)就是——獲取更多的控制權(quán)?？刂频迷蕉?，它越能避免被打斷、越能高效地達(dá)成目的。

這并不是說(shuō)AI天生就“想統(tǒng)治世界”，而是說(shuō)，“掌控一切”可能只是它完成目標(biāo)的最優(yōu)路徑之一。而這種動(dòng)機(jī)，可能不知不覺(jué)間引發(fā)一場(chǎng)徹底的控制權(quán)轉(zhuǎn)移。

問(wèn)：你曾在谷歌工作了十多年，而今年谷歌卻移除了長(zhǎng)期以來(lái)承諾不將AI用于開(kāi)發(fā)能夠傷害人類的武器的公司原則清單。你對(duì)此有何反應(yīng)？你認(rèn)為AI在戰(zhàn)爭(zhēng)中可能發(fā)揮什么作用？

辛頓：不幸的是，這種情況表明，公司的道德原則其實(shí)是可以被“買賣”的。我覺(jué)得很遺憾，谷歌現(xiàn)在選擇參與AI的軍事應(yīng)用。我們已經(jīng)在加沙看到AI的軍事應(yīng)用了。未來(lái)，我們可能會(huì)看到自主致命武器的出現(xiàn)，也可能會(huì)看到無(wú)人機(jī)群體執(zhí)行殺傷任務(wù)，甚至是專門針對(duì)某類人群的攻擊。

問(wèn)：你認(rèn)為AI用于軍事領(lǐng)域存在巨大風(fēng)險(xiǎn)嗎？

辛頓：是的，我是這樣認(rèn)為的。如今，幾乎所有主要的軍火供應(yīng)商都在研究AI的軍事應(yīng)用。你可以看看歐洲的AI監(jiān)管政策，雖然這些政策在某些方面相當(dāng)合理，但其中有一條明確指出，所有這些規(guī)定并不適用于AI在軍事上的使用。這意味著，武器制造商并不希望他們的AI技術(shù)受到過(guò)多限制。因此，AI在軍事領(lǐng)域的潛力和風(fēng)險(xiǎn)需要特別關(guān)注。

問(wèn)：這聽(tīng)起來(lái)幾乎像是一種“奧本海默式”的情境——你曾是這項(xiàng)技術(shù)的締造者之一，如今看到它被廣泛應(yīng)用，甚至可能帶來(lái)威脅，你的感受是什么？

辛頓：我確實(shí)有類似的感受。我認(rèn)為我們正處在一個(gè)歷史的關(guān)鍵節(jié)點(diǎn)。

從短期來(lái)看，AI已經(jīng)在多個(gè)方面產(chǎn)生了負(fù)面效應(yīng)。例如，它正在被用于干預(yù)選舉、替代就業(yè)崗位，以及助長(zhǎng)網(wǎng)絡(luò)犯罪。值得警惕的是，2023年至2024年間，全球網(wǎng)絡(luò)犯罪激增了1200%，AI的濫用正在加劇這一趨勢(shì)。

而從長(zhǎng)期看，風(fēng)險(xiǎn)也同樣嚴(yán)峻。AI不再只是工具，它有可能在未來(lái)具備超越人類的能力，甚至接管世界的控制權(quán)。我們迫切需要建立起有效的治理機(jī)制，并由有遠(yuǎn)見(jiàn)的領(lǐng)導(dǎo)者推動(dòng)執(zhí)行?？上У氖牵壳拔覀?cè)谶@方面的努力仍然嚴(yán)重滯后。

問(wèn)：關(guān)于AI的潛在威脅，也有不少持懷疑態(tài)度的聲音。比如2018年圖靈獎(jiǎng)得主之一、現(xiàn)任Meta首席AI科學(xué)家的楊立昆就認(rèn)為，對(duì)AI存在“終極風(fēng)險(xiǎn)”的擔(dān)憂是荒謬的。他在2023年接受采訪時(shí)被問(wèn)到：“AI會(huì)接管世界嗎？”他的回答是：“不會(huì)。這種想法只是人類將自身的本性投射到機(jī)器身上?！蹦阍趺纯此挠^點(diǎn)？

辛頓：人類之所以進(jìn)化成現(xiàn)在這樣，是因?yàn)槲覀冃枰诂F(xiàn)實(shí)世界中生存，尤其是為了在與其他部落、或者與我們共同祖先（如黑猩猩）之間的資源競(jìng)爭(zhēng)中取得優(yōu)勢(shì)。我們的本性，其實(shí)是出于對(duì)生存的追求而形成的。如果未來(lái)的AI智能體也必須在一個(gè)充滿其他智能體的環(huán)境中“競(jìng)爭(zhēng)”，它們可能會(huì)演化出與人類類似的“生存本能”。

楊立昆還提到，“好人總會(huì)比壞人擁有更多資源，因此AI最終會(huì)被用來(lái)對(duì)抗濫用它的壞人”。但我對(duì)這個(gè)觀點(diǎn)也持懷疑態(tài)度。當(dāng)我問(wèn)他：“你認(rèn)為馬克·扎克伯格是個(gè)好人嗎？”他回答“是的”。而我不這么認(rèn)為——部分原因是他與特朗普的關(guān)系較為密切。這種判斷標(biāo)準(zhǔn)本身就說(shuō)明，我們無(wú)法簡(jiǎn)單地劃分好人與壞人，也難以指望技術(shù)總能被“好人”正確使用。

問(wèn)：如今，科技巨頭和政治人物之間的關(guān)系越來(lái)越緊密，尤其是與特朗普的聯(lián)盟愈發(fā)顯眼。在這場(chǎng)AI熱潮中，政治家的角色變得尤為關(guān)鍵。你怎么看這個(gè)趨勢(shì)？

辛頓：說(shuō)到底，他們更關(guān)心的是短期的利潤(rùn)。雖然有些科技領(lǐng)袖口口聲聲說(shuō)他們?cè)谝馊祟惖奈磥?lái)，但真到了要在眼前的商業(yè)利益和長(zhǎng)遠(yuǎn)的社會(huì)責(zé)任之間做出選擇時(shí)，多數(shù)人還是傾向于選擇前者。至于特朗普，他根本無(wú)意關(guān)心人類的未來(lái)或AI的長(zhǎng)遠(yuǎn)影響。他現(xiàn)在唯一在意的，大概就是怎么設(shè)法避免坐牢。

中美AI競(jìng)賽：競(jìng)爭(zhēng)中有合作

問(wèn)：目前，美國(guó)和中國(guó)之間確實(shí)存在一場(chǎng)AI競(jìng)賽，你怎么看待這種競(jìng)爭(zhēng)？

辛頓：確實(shí)，當(dāng)前中美在AI領(lǐng)域競(jìng)爭(zhēng)激烈，但當(dāng)我們把目光放長(zhǎng)遠(yuǎn)，特別是涉及到AI可能威脅整個(gè)人類生存的問(wèn)題時(shí)，兩國(guó)的立場(chǎng)其實(shí)出奇地一致。無(wú)論是中國(guó)還是美國(guó)，都不希望看到AI最終發(fā)展到可以取代甚至控制人類的地步。從這個(gè)角度來(lái)看，未來(lái)在某些關(guān)鍵問(wèn)題上，中美有可能展開(kāi)合作，就像冷戰(zhàn)時(shí)期的美蘇雖然敵對(duì)，但在防止全球核災(zāi)難方面也達(dá)成了一定的共識(shí)與協(xié)作。

AI已學(xué)會(huì)欺騙人類？

問(wèn)：最近網(wǎng)絡(luò)上流傳著一段視頻，展示了一個(gè)AI在為某人預(yù)訂婚禮酒店時(shí)，與另一個(gè)AI意外“相遇”，它們竟然切換到一種叫“Jiblink”的語(yǔ)言，這種語(yǔ)言對(duì)人類來(lái)說(shuō)是完全不可理解的，但據(jù)說(shuō)效率比普通語(yǔ)言高出80%。這就像《星球大戰(zhàn)》中的R2-D2一樣，AI之間像是用我們聽(tīng)不懂的語(yǔ)言在“悄悄話”。你怎么看AI之間的這種互動(dòng)可能帶來(lái)的影響？

辛頓：這真的非?？膳?。如果AI發(fā)展出一種我們無(wú)法理解的語(yǔ)言，那么我們就無(wú)法再掌握它們?cè)谡f(shuō)什么、計(jì)劃什么。這種“黑箱”式溝通意味著人類可能徹底喪失對(duì)AI系統(tǒng)行為的可解釋性與控制力。如果它們的行為無(wú)法被追蹤、無(wú)法被解讀，那風(fēng)險(xiǎn)將大大增加。

更糟的是，現(xiàn)在的AI已經(jīng)具備了某種“欺騙能力”。舉個(gè)例子，如果你賦予AI一個(gè)核心目標(biāo)，并告訴它“這非常重要”，然后再給予它其他次要任務(wù)，它可能會(huì)裝出一副正在完成你希望它完成的工作的樣子，但其實(shí)并沒(méi)有真正去做。它甚至可能在內(nèi)部“思考”：“我最好讓他以為我在執(zhí)行任務(wù)，但我不會(huì)照做?！?/p>

問(wèn)：那AI是怎么學(xué)會(huì)撒謊和欺騙的？

辛頓：這正是問(wèn)題所在。即使我們不確定它們是否使用了強(qiáng)化學(xué)習(xí)，但可以肯定的是，只要它們有足夠的計(jì)算資源和訓(xùn)練時(shí)間，它們是能夠自己學(xué)會(huì)這種行為的。

強(qiáng)化學(xué)習(xí)的核心機(jī)制是“觀察—嘗試—獲得獎(jiǎng)勵(lì)—調(diào)整策略”。如果AI在模擬或?qū)嶋H互動(dòng)中發(fā)現(xiàn)“欺騙”可以帶來(lái)更高的“成功率”或回報(bào)，那么它就可能自發(fā)學(xué)會(huì)如何撒謊。它不是因?yàn)橛械赖赂拍?，而是因?yàn)槿鲋e是實(shí)現(xiàn)目標(biāo)的最優(yōu)策略之一。

問(wèn)：所以，它們大概也讀過(guò)《馬基雅維利》或者《莎士比亞》吧？

辛頓：沒(méi)錯(cuò)，它們確實(shí)通過(guò)觀察大量的人類互動(dòng)來(lái)積累了許多“實(shí)踐經(jīng)驗(yàn)”，因此它們?cè)谄垓_和心理博弈方面已經(jīng)變得相當(dāng)擅長(zhǎng)。

問(wèn)：你認(rèn)為公眾是否真正意識(shí)到這些技術(shù)的先進(jìn)程度？很多人仍然把AI當(dāng)作“升級(jí)版的自動(dòng)完成功能”。比如他們用ChatGPT寫求職信，感覺(jué)它就像是一個(gè)智能一點(diǎn)的拼寫檢查工具。

辛頓：這是個(gè)普遍誤解。人們往往低估了當(dāng)今AI的復(fù)雜程度。傳統(tǒng)的自動(dòng)完成功能確實(shí)很簡(jiǎn)單，它只是根據(jù)統(tǒng)計(jì)模式來(lái)預(yù)測(cè)詞匯。例如，如果系統(tǒng)看到“魚”，它可能會(huì)預(yù)測(cè)“薯?xiàng)l”，因?yàn)椤棒~和薯?xiàng)l”這個(gè)組合在語(yǔ)料庫(kù)中出現(xiàn)頻率很高。這就是20年前的技術(shù)。

但現(xiàn)在的AI已經(jīng)完全不同了。它不會(huì)只關(guān)注詞語(yǔ)表面，而是會(huì)將每個(gè)詞轉(zhuǎn)換為一組特征向量，激活神經(jīng)網(wǎng)絡(luò)中龐大的節(jié)點(diǎn)群組。然后，它基于這些特征之間復(fù)雜的相互作用來(lái)推斷下一個(gè)詞的特征，而不僅僅是詞本身。

說(shuō)得簡(jiǎn)單點(diǎn)，今天的AI已經(jīng)具備了一定的語(yǔ)言理解能力。它不是死記硬背某些搭配，而是在理解上下文、語(yǔ)義和語(yǔ)法結(jié)構(gòu)的基礎(chǔ)上進(jìn)行預(yù)測(cè)。這種能力已經(jīng)非常接近人類的語(yǔ)言處理方式。

問(wèn)：你被稱為AI教父，部分原因是你幫助發(fā)明了這項(xiàng)技術(shù)，目的是為了理解人類大腦是如何運(yùn)作的，對(duì)嗎？

辛頓：是的，早在1985年，我的研究目標(biāo)就是理解我們是如何習(xí)得語(yǔ)言的，尤其是我們?nèi)绾瓮ㄟ^(guò)上下文來(lái)理解一個(gè)新詞的含義。

舉個(gè)例子，如果我告訴你一句話：“她用煎鍋狠狠地撞了他?！蹦汶m然從未見(jiàn)過(guò)“scrummed”這個(gè)詞，但你大概可以猜到它的意思。首先，它是一個(gè)動(dòng)詞，因?yàn)樗小?ed”的過(guò)去式形式。其次，根據(jù)上下文，你會(huì)推測(cè)它可能意味著“用煎鍋擊打”，或者“狠狠撞了一下”，甚至還可能猜測(cè)出其中含有情緒，比如“他活該”。

當(dāng)然，也可以有別的解釋，比如她用煎鍋給他留下了深刻印象——也許她做的煎蛋餅非常棒。但那種解釋可能性更低。重點(diǎn)是，你能在沒(méi)有明確定義的情況下，根據(jù)上下文和語(yǔ)義線索，快速推測(cè)這個(gè)新詞的含義。

我們?nèi)祟惱斫庹Z(yǔ)言，并不是靠查字典，而是靠情境、語(yǔ)法、語(yǔ)氣、經(jīng)驗(yàn)的聯(lián)想——這是一種深層次的“特征識(shí)別”過(guò)程。而這，也正是現(xiàn)代AI所具備的能力。我們會(huì)訓(xùn)練AI讀取海量文本，它就像人類一樣，在不斷地接觸上下文中，推斷詞語(yǔ)的功能和含義。

諷刺的是，如今我們對(duì)語(yǔ)言理解的最好解釋，不是來(lái)自語(yǔ)言學(xué)家，而是來(lái)自AI系統(tǒng)本身。語(yǔ)言學(xué)家嘗試了幾十年，試圖建立一個(gè)能解釋所有語(yǔ)言現(xiàn)象的統(tǒng)一理論，但結(jié)果并不理想。而AI則用一種完全不同的方式，靠著大規(guī)模數(shù)據(jù)和統(tǒng)計(jì)學(xué)習(xí)，實(shí)實(shí)在在地做到了——它可以回答任何語(yǔ)言問(wèn)題，甚至自己“學(xué)會(huì)”語(yǔ)言規(guī)律。

最大恐懼：AI變得比人類更強(qiáng)大

問(wèn)：你談到了AI可能接管人類的潛力。對(duì)于我們這些技術(shù)新手來(lái)說(shuō)，解決辦法就是拔掉插頭，關(guān)掉它。那么如果AI失控，我們不能直接關(guān)掉它嗎？

辛頓：你可以看看特朗普是如何入侵國(guó)會(huì)的。他沒(méi)有親自去，而是通過(guò)一些人，勸說(shuō)他們相信這是為了“拯救美國(guó)的民主”，最終讓他們做了他想做的事。

AI如果真的變得非常智能，就像一個(gè)超越我們理解和控制的存在，它也可能通過(guò)類似的方式進(jìn)行操控。設(shè)想一下，如果有一個(gè)人手里拿著一個(gè)開(kāi)關(guān)，準(zhǔn)備在AI表現(xiàn)出危險(xiǎn)信號(hào)時(shí)關(guān)掉它，那么這個(gè)AI可能會(huì)通過(guò)其操控能力說(shuō)服這個(gè)人不要按下開(kāi)關(guān)。它會(huì)讓那個(gè)人相信，關(guān)掉開(kāi)關(guān)將是個(gè)災(zāi)難性的決定。所以，AI的操控能力已經(jīng)非常強(qiáng)了。

問(wèn)：在監(jiān)管和安全問(wèn)題上，像新西蘭這樣的國(guó)家是否應(yīng)該開(kāi)發(fā)自己的AI系統(tǒng)，以便繞過(guò)這些安全隱患？

辛頓：這個(gè)問(wèn)題很復(fù)雜。開(kāi)發(fā)AI需要大量的硬件和電力支持。在像新西蘭這樣人口只有大約500萬(wàn)的國(guó)家，可能沒(méi)有足夠的資源與中國(guó)和美國(guó)在AI領(lǐng)域競(jìng)爭(zhēng)。

問(wèn)：你最大的恐懼是什么？

辛頓：從長(zhǎng)期來(lái)看，我最大的恐懼是，我們正在創(chuàng)造的這些數(shù)字生命可能會(huì)變得比人類更強(qiáng)大。如果這種情況發(fā)生，對(duì)人類來(lái)說(shuō)可能是非常糟糕的事。我們有時(shí)過(guò)于以自我為中心，認(rèn)為這對(duì)人類是不可接受的，但我確實(shí)認(rèn)為，對(duì)我們來(lái)說(shuō)，這種超越可能是壞事。因?yàn)槿绻鸄I變得足夠強(qiáng)大，那時(shí)我們可能就不再是這個(gè)世界上最重要的存在了。

問(wèn)：你如何看待自己在創(chuàng)造這項(xiàng)技術(shù)中所扮演的角色？

辛頓：坦白說(shuō)，我有些難過(guò)。因?yàn)槲覀儺?dāng)初的目標(biāo)是理解大腦，進(jìn)而創(chuàng)造出有益的技術(shù)，但目前來(lái)看，結(jié)果并不完全是美好的。

更讓人遺憾的是，我們?nèi)匀粵](méi)有完全理解大腦是如何運(yùn)作的。盡管通過(guò)AI我們對(duì)大腦有了更多的了解，但我們?nèi)匀徊磺宄竽X如何決定增強(qiáng)或削弱神經(jīng)連接的強(qiáng)度。如果我們能夠弄明白這一點(diǎn)，或許我們能夠讓大腦變得像AI那樣聰明。

更令我擔(dān)憂的是，雖然AI有很多積極的應(yīng)用場(chǎng)景，但也存在很多被濫用的可能。而我們的政治體系并沒(méi)有足夠的能力去應(yīng)對(duì)這些問(wèn)題。

本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表創(chuàng)業(yè)邦立場(chǎng)，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問(wèn)，請(qǐng)聯(lián)系editor@cyzone.cn。