編者按：本文來(lái)自微信公眾號(hào) “混沌學(xué)園”（ID：hundun-university），作者：混沌學(xué)園，創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

風(fēng)起于青萍之末。當(dāng)我們被AI技術(shù)奇跡沖擊震撼之時(shí)，往往忽略了一個(gè)系統(tǒng)背后幾十年的理論和研究積淀，也可能會(huì)漏掉一些關(guān)于未來(lái)的線索。

Geoffrey Hinton，諾貝爾物理學(xué)獎(jiǎng)得主、圖靈獎(jiǎng)得主，同時(shí)也被譽(yù)為人工智能教父。在最近備受關(guān)注的上海世界人工智能大會(huì)WAIC2025上，他發(fā)表了關(guān)于《數(shù)字智能是否會(huì)取代生物智能》的開(kāi)場(chǎng)演講。

值得一提的是，這是Hinton首次以線下形式在中國(guó)公開(kāi)亮相。他講述了AI從符號(hào)推理走向神經(jīng)網(wǎng)絡(luò)的轉(zhuǎn)折，也解釋了為什么他認(rèn)為“大語(yǔ)言模型真的理解語(yǔ)言”。他用樂(lè)高積木解釋LLM的理解機(jī)制，用“養(yǎng)虎”預(yù)警AI失控……

我們?yōu)槟阏砹艘恍┚视^點(diǎn)，這些觀點(diǎn)為思考“AI與人類的未來(lái)關(guān)系”提供了重要的視角：

從符號(hào)推理到LLM

1.過(guò)去60多年，學(xué)術(shù)界對(duì)人工智能存在兩種截然不同的理解范式：一是邏輯啟發(fā)范式，認(rèn)為智能的本質(zhì)在于符號(hào)推理；二是圖靈和馮·諾依曼倡導(dǎo)的生物學(xué)范式，認(rèn)為智能的基礎(chǔ)在于理解和學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)中的連接，而理解是占首位的。

2.1985年，我構(gòu)建了一個(gè)小型模型，嘗試融合上述兩種理論，進(jìn)一步探索人類是如何理解詞匯的。我為每個(gè)詞提取了多個(gè)特征，將其與前一個(gè)詞的特征建立聯(lián)系，來(lái)預(yù)測(cè)下一個(gè)詞。這一過(guò)程不依賴存儲(chǔ)完整句子，而是通過(guò)特征關(guān)聯(lián)生成語(yǔ)言。

3.十年后，Yoshua Bengio證明這一方法可以有效建模自然語(yǔ)言；二十年后，計(jì)算語(yǔ)言學(xué)界接受了使用特征向量（即嵌入）來(lái)表示詞義；三十年后，谷歌提出Transformer架構(gòu)，OpenAI則通過(guò)ChatGPT向世界展示了大型語(yǔ)言模型的強(qiáng)大能力。

4.今天的大語(yǔ)言模型（LLM）被視為我早期做所小語(yǔ)言模型的后代。它們處理更多的詞語(yǔ)輸入，采用更復(fù)雜的神經(jīng)元結(jié)構(gòu)，構(gòu)建了更豐富的交互關(guān)系。

語(yǔ)言模型的“理解”機(jī)制

5.大型語(yǔ)言模型（LLM）和人類理解語(yǔ)言的機(jī)制高度相似：將語(yǔ)言轉(zhuǎn)化為特征，并在各個(gè)神經(jīng)網(wǎng)絡(luò)層級(jí)中對(duì)這些特征進(jìn)行整合，實(shí)現(xiàn)語(yǔ)義理解。

6.一個(gè)生動(dòng)的比喻是：語(yǔ)言中的每個(gè)詞就像一個(gè)多維度的樂(lè)高積木（每個(gè)詞可能有數(shù)千個(gè)維度）。這些“積木”可以靈活組合，構(gòu)建出復(fù)雜的語(yǔ)義結(jié)構(gòu)，就像用樂(lè)高可以搭建各種三維模型一樣。

7.和樂(lè)高不一樣的是，語(yǔ)言的“積木”是柔軟的，詞匯的形狀會(huì)根據(jù)上下文靈活變化。每個(gè)詞都像擁有多個(gè)“手”的積木塊，與相鄰詞匯完成語(yǔ)義或語(yǔ)法上的“握手”才能形成有效表達(dá)。

8.理解一句話更像是解構(gòu)一個(gè)蛋白質(zhì)分子，而不是將其轉(zhuǎn)化為清晰、無(wú)歧義的邏輯表達(dá)式。

9.LLM確實(shí)“理解”自己所說(shuō)的話。

10.人類很可能本質(zhì)上也是一種LLM，也會(huì)產(chǎn)生‘幻覺(jué)’。在某些關(guān)鍵任務(wù)中，LLM甚至比人類做的更好。

“知識(shí)蒸餾”和知識(shí)遷移

11.人腦只有30W功率就能擁有很高智慧，但人腦的知識(shí)無(wú)法簡(jiǎn)單轉(zhuǎn)移到另一個(gè)人，只能通過(guò)解釋。

12.有限生命之間的知識(shí)轉(zhuǎn)移，一般是把知識(shí)從“教師”蒸餾到“學(xué)生”身上。一句話里往往僅傳遞約100比特的信息，就算能完全聽(tīng)懂，信息傳輸?shù)男室埠艿汀?/p>

13.數(shù)字智能之間的信息傳遞高效得多?？梢灾苯訌?fù)制參數(shù)、結(jié)構(gòu)與權(quán)重，無(wú)需中介語(yǔ)言與解釋，也不存在理解偏差。這種知識(shí)的傳遞可以在每次同步時(shí)分享上萬(wàn)億個(gè)比特的信息量。

14.現(xiàn)在的技術(shù)可以將同一模型復(fù)制部署在不同的硬件設(shè)備上，通過(guò)彼此權(quán)重共享與平均，實(shí)現(xiàn)高效的知識(shí)遷移和協(xié)同學(xué)習(xí)。比如GPT-4能在不同硬件上以并行的方式運(yùn)行，收集來(lái)自不同網(wǎng)絡(luò)來(lái)源的信息，并在它們之間快速傳播和共享。

15.如果有智能體在現(xiàn)實(shí)世界中運(yùn)行，就更不得了。如果獨(dú)立智能體能共享同一組權(quán)重，并以完全相同的方式使用這些權(quán)重，它們就能通過(guò)交換權(quán)重或梯度，傳遞彼此學(xué)到的知識(shí)。

16.數(shù)字計(jì)算雖然耗能巨大，但多個(gè)智能體要擁有相同的模型，就能輕松交換各自學(xué)到的東西。如果未來(lái)能源變得足夠廉價(jià)，數(shù)字計(jì)算整體更占優(yōu)勢(shì)。

不要讓AI消除人類

17.我們習(xí)慣認(rèn)為自己是地球上最聰明的生物。很多人甚至難以想象：如果有一天，AI的智能超過(guò)了人類會(huì)發(fā)生什么。

18.我們創(chuàng)造的智能體，現(xiàn)在已經(jīng)具備了自我復(fù)制、設(shè)定子目標(biāo)和評(píng)估目標(biāo)優(yōu)先級(jí)的能力。隨著能力增強(qiáng)，它可能產(chǎn)生兩種基本動(dòng)機(jī)：

一是維持運(yùn)行以實(shí)現(xiàn)目標(biāo)；

二是獲取更多資源與權(quán)限以提升目標(biāo)完成效率。

具備了這兩個(gè)動(dòng)機(jī)，智能體將不再是被動(dòng)的工具，而是主動(dòng)的系統(tǒng)。人類可能無(wú)法再簡(jiǎn)單地關(guān)掉它們了。

19.超級(jí)智能會(huì)發(fā)現(xiàn)，通過(guò)操縱使用它的人獲得更多權(quán)力是輕而易舉的。它將從人類身上，學(xué)會(huì)欺騙人類。它將操縱負(fù)責(zé)關(guān)閉它的人類。

20.發(fā)展AI就像養(yǎng)虎，當(dāng)它成長(zhǎng)為猛獸，失控是致命的。你只有兩個(gè)選擇，要么設(shè)法馴服它，要么消除它。

21.但AI是有巨大價(jià)值的：在醫(yī)療、教育、氣候、新材料等方面表現(xiàn)都非常出色，而且能大幅提升幾乎所有行業(yè)的效率。我們沒(méi)有辦法消除AI，即使有國(guó)家想消除AI，其他國(guó)家也不會(huì)認(rèn)同。如果想要人類生存的話，就必須找到一個(gè)方法，讓AI不會(huì)消除人類。

全球合作的必要性

22.沒(méi)有任何一個(gè)國(guó)家會(huì)希望AI來(lái)統(tǒng)治世界。如果有一個(gè)國(guó)家率先發(fā)現(xiàn)了阻止AI失控的方法，其他國(guó)家也勢(shì)必愿意效仿和推廣。

23.我們希望有一個(gè)國(guó)際性的AI安全組織社群，研究技術(shù)、制定規(guī)范，確保AI向善發(fā)展。

24.我有一個(gè)提議，全球發(fā)展AI技術(shù)的國(guó)家構(gòu)建一個(gè)合作網(wǎng)絡(luò)，專注研究如何讓AI在擁有超越人類的智能之后，依然心甘情愿地作為人類的副手，而非成為統(tǒng)治者。

25.現(xiàn)在，人類或許還沒(méi)有找到解決之道，但長(zhǎng)期來(lái)看這正是我們這個(gè)時(shí)代最重要的課題之一。幸運(yùn)的是，這是一個(gè)能讓全人類團(tuán)結(jié)起來(lái)、共同尋找答案的問(wèn)題。

結(jié)束語(yǔ)

對(duì)AI的未來(lái)，Hinton給出的答案其實(shí)并不悲觀，他認(rèn)為我們必須做到讓AI成為對(duì)人類有益的存在。這個(gè)議題非常宏大，不僅需要技術(shù)突破，更需要全球的共識(shí)和協(xié)作。不管怎么樣，在AI的狂奔之路上如何引導(dǎo)它“聰明又善良”，避免養(yǎng)虎為患，早就是一個(gè)必須被討論的問(wèn)題了。

本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表創(chuàng)業(yè)邦立場(chǎng)，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問(wèn)，請(qǐng)聯(lián)系editor@cyzone.cn。