編者按：本文來自微信公眾號 有新Newin（ID：NewinData），作者： 有新，創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

近日， OpenAI CEO Sam Altman 與其首位投資人& X Fund 管理合伙人 —— Patrick Chung 在哈佛大學(xué)展開了一次對談，重點(diǎn)討論了 AI 的未來走向、其對社會的影響，以及 Sam Altman 和 OpenAI 團(tuán)隊(duì)在這一領(lǐng)域的最新研究方向。

Altman 強(qiáng)調(diào)， AI 技術(shù)的進(jìn)步不會像許多人預(yù)測的那樣很快進(jìn)入停滯期，反而會持續(xù)帶來戲劇性的發(fā)展。他認(rèn)為， AI 的潛力遠(yuǎn)未被完全開發(fā)，未來幾年將會有更大的進(jìn)展。創(chuàng)業(yè)者應(yīng)該預(yù)見到 AI 技術(shù)會不斷變得更強(qiáng)大，而不是基于現(xiàn)有技術(shù)做短期投資決策。

AI 創(chuàng)業(yè)者的戰(zhàn)略通常有兩種選擇：一種是賭 AI 技術(shù)已接近頂峰，另一種是賭技術(shù)會大幅提升。他建議創(chuàng)業(yè)者選擇第二種策略，即利用 AI 技術(shù)的快速進(jìn)步，通過基礎(chǔ)模型的增強(qiáng)逐步提升業(yè)務(wù)的有效性，而不是僅僅將有限的資源投入到特定場景中的小幅改進(jìn)。

他還提到， OpenAI 一開始選擇了非營利的模式，但如果能回到過去，他可能會選擇營利性結(jié)構(gòu)。他解釋說，隨著 AI 研發(fā)的規(guī)模和資源需求越來越大， OpenAI 需要找到可持續(xù)的商業(yè)模式來支持其技術(shù)進(jìn)步。這也是 OpenAI 后來轉(zhuǎn)變?yōu)椤坝邢蘩麧櫋蹦Ｊ揭源_保技術(shù)發(fā)展能夠獲得足夠資金支持的原因。

OpenAI 每年都會推出那些人們曾認(rèn)為不可能實(shí)現(xiàn)的技術(shù)。特別是在 GPT 系列模型的發(fā)展上， OpenAI 從 GPT-3 到 GPT-4，不斷通過規(guī)?；图夹g(shù)的提升，創(chuàng)造出更智能、更有價(jià)值的產(chǎn)品。

此外，在技術(shù)開發(fā)過程中， OpenAI 非常注重安全性和責(zé)任感，尤其是在決定是否部署重大技術(shù)如 GPT-5 時(shí)。他表示， OpenAI 會對這些重要決策進(jìn)行極其慎重的考量，不會僅憑科學(xué)好奇心推動這些決定。

Altman 還表示， OpenAI 的策略是持續(xù)探索下一個(gè)技術(shù)突破，而不是僅僅滿足于當(dāng)前的成就。OpenAI 并不太關(guān)注競爭對手，而是專注于推動新范式的創(chuàng)新，只追隨目前的技術(shù)進(jìn)展并不是好的創(chuàng)業(yè)策略。真正的挑戰(zhàn)在于找到未來可能實(shí)現(xiàn)的突破，并成為第一個(gè)實(shí)現(xiàn)它的人。

以下為這次對談的主要內(nèi)容，enjoy～

Patrick Chung：

我們認(rèn)識已經(jīng)快 20 年了。那最近你在忙什么呢？說到很久以前，我給你帶來了一個(gè)禮物。這是我們第一次見面時(shí)，你為你的第一家公司做的第一次融資展示。

Sam Altman：

我還沒見過這個(gè)呢，自那以后就沒見過。

Patrick Chung：

這家公司叫 Viendo，后來變成了 Looped。所以當(dāng)你看著這個(gè)，如果你可以回到 19 歲的Sam Altman，你會對那時(shí)的自己說些什么是你現(xiàn)在知道但當(dāng)時(shí)不知道的？

Sam Altman：

我認(rèn)為你可以在這個(gè)世界上有所作為，而這并沒有被很好地教授。我 19 歲時(shí)肯定不知道，當(dāng)時(shí)我對自己期望不高，也在做錯(cuò)誤的事情。

你會很快學(xué)到這些，但當(dāng)時(shí)我不確定自己是否能做到。我認(rèn)為進(jìn)步的方式就是，人們要非常努力工作，堅(jiān)定自己的信念，并致力于此。

這是世界變得更好，事情發(fā)生的唯一方式。而且你不需要等待或獲得許可，哪怕你在世界上默默無聞、資源極少，也能取得令人驚訝的成就。我是這么認(rèn)為的。

Patrick Chung：

你 19 歲的時(shí)候就知道這些嗎？因?yàn)楫?dāng)時(shí)我見到你時(shí)，似乎你已經(jīng)表現(xiàn)出了這種精神。

Sam Altman：

我很快就明白了，一旦你開始行動，你會發(fā)現(xiàn)，哦，原來是這么回事。但在開始公司之前，我肯定沒有這種意識。

Patrick Chung：

大家對 AI 、 OpenAI 以及人類命運(yùn)都充滿了濃厚的興趣，我們稍后會聊到這些。但今天我們主要的觀眾是學(xué)生，他們看到你，心生向往，夢想著能夠在世界上產(chǎn)生像你一樣的影響。

我覺得你現(xiàn)在連一半的成就還沒有完成，他們可能會想知道你是如何做到的。所以我想回到更早的時(shí)候，看看你的“超級英雄起源故事”。

可以和我們談?wù)?0年級時(shí)的Sam Altman嗎？你是如何成長的？你的家庭生活是怎樣的？當(dāng)時(shí)你一天的生活是怎樣的？

Sam Altman：

我當(dāng)時(shí)就是個(gè)電腦迷。我不知道，我基本就是坐在家里玩電腦。

Patrick Chung：

用的是什么電腦？

Sam Altman：

當(dāng)時(shí)我已經(jīng)有一臺 iMac了，算是第二代。我不是只玩游戲，雖然也確實(shí)玩游戲，但更多的是學(xué)習(xí)編程之類的事情。我有一個(gè)很普通的高中生活，沒什么特別值得講的。我上學(xué)，和朋友們一起玩，做運(yùn)動，當(dāng)然也會用電腦。

Patrick Chung：

你玩什么運(yùn)動？

Sam Altman：

我打水球，這是我最常做的運(yùn)動。我也游泳，還練擊劍。

Patrick Chung：

在典型的美國高中電影里，會有一些小團(tuán)體，比如運(yùn)動健將、書呆子等等。你屬于哪個(gè)小團(tuán)體？

Sam Altman：

我肯定更偏向書呆子那一類。

Patrick Chung：

結(jié)果對你來說還挺不錯(cuò)的，對吧？

Sam Altman：

不過我也很喜歡運(yùn)動。

Patrick Chung：

除了水球，你還玩其他運(yùn)動嗎？

Sam Altman：

嗯，主要是水球，不過我也游泳，因?yàn)樗麄冏屛揖氂斡尽?/p>

Patrick Chung：

不錯(cuò)。

Sam Altman：

所以我平時(shí)訓(xùn)練時(shí)會游泳。

Patrick Chung：

那你在高中時(shí)，你最大的恐懼是什么？你在高中有什么害怕的事情嗎？

Sam Altman：

我不知道，就像是普通的青春期煩惱吧。我沒特別大的擔(dān)憂。

Patrick Chung：

你很快樂？

Sam Altman：

是的，沒有什么特別煩惱的事。

Patrick Chung：

所以你并沒有在擔(dān)心人類的命運(yùn)？

Sam Altman：

沒有，當(dāng)時(shí)我只是享受當(dāng)下，每天過得很開心。

Patrick Chung：

不過你在高中應(yīng)該學(xué)得很好，因?yàn)槟闵暾埐⒈凰固垢：凸痄浫×恕?/p>

Sam Altman：

對，我也被哈佛錄取了。

Patrick Chung：

是什么讓你選擇了斯坦福？你是怎么考慮大學(xué)的？是因?yàn)榇蠹叶忌暾埓髮W(xué)，所以你也申請，還是你真的很想去斯坦福？

Sam Altman：

完全是默認(rèn)的選擇，從來沒想過不上大學(xué)。我知道我想學(xué)計(jì)算機(jī)科學(xué)，所以我去了斯坦福。我覺得那是個(gè)很棒的地方，特別是計(jì)算機(jī)科學(xué)系，那里的人就是我想要待在一起的。

Patrick Chung：

你到斯坦福后，還做了什么其他事情？你當(dāng)時(shí)是一年級新生，對吧？

Sam Altman：

有趣的是，雖然我確實(shí)上了計(jì)算機(jī)科學(xué)課，但我不記得為什么，決定也選了很多其他的課程。事后看來，這些課程都比我當(dāng)時(shí)預(yù)料的要有用得多。學(xué)科學(xué)課很棒，寫作課也很棒。

Patrick Chung：

寫作？真的嗎？是創(chuàng)意寫作嗎？

Sam Altman：

對，創(chuàng)意寫作課。

Patrick Chung：

也許預(yù)示了未來的發(fā)展？

Sam Altman：

哈哈，我也在想。但斯坦福提供的廣泛視角真的很棒。而且，像很多人一樣，最重要的是，我身邊有一群非常聰明的人，他們都在追求各種有趣的想法。

我在大一到大二的暑假期間在 AI 實(shí)驗(yàn)室工作。當(dāng)時(shí)人工智能完全不奏效，但我仍然覺得它非?？?。后來我花了一段時(shí)間才重新回到這個(gè)領(lǐng)域。

Patrick Chung：

你是在 AI 實(shí)驗(yàn)室里找到你最感興趣的人嗎？是在計(jì)算機(jī)科學(xué)系、創(chuàng)意寫作課，還是其他地方？

Sam Altman：

嗯，計(jì)算機(jī)科學(xué)系是我的“部落”，確實(shí)是這樣。

Patrick Chung：

當(dāng)時(shí)你是在 Andrew Ng 的實(shí)驗(yàn)室，對吧？

Sam Altman：

是的，就是他的實(shí)驗(yàn)室。

Patrick Chung：

是什么讓你感到興奮？因?yàn)楫?dāng)時(shí)，正如 Andrew 所說， AI 還在邊緣地帶，沒什么核心的影響。

Sam Altman：

我喜歡那些一旦成功就會產(chǎn)生巨大影響的事物，哪怕它們成功的概率不高。如果 AI 能成功，它會是最酷、最重要、最激動人心的事物之一，所以值得去追求。

盡管成功的幾率不大，但預(yù)期價(jià)值很高，所以我想去研究它。不過當(dāng)時(shí)的感覺是，我們對如何做完全沒有頭緒。

Patrick Chung：

你看到了這一點(diǎn)。

Sam Altman：

事實(shí)證明我們確實(shí)不知道該怎么做。神經(jīng)網(wǎng)絡(luò)并不是一個(gè)新概念。

Patrick Chung：

這很有趣，因?yàn)槟愕玫搅藛l(fā)，然后你在大二時(shí)決定休學(xué)創(chuàng)業(yè)，帶著你手上的商業(yè)計(jì)劃書開始了公司運(yùn)營。這也是我們認(rèn)識的方式。

我們花了很長時(shí)間在 Looped上，遇到了許多困難，比如要與運(yùn)營商達(dá)成合作。你在 19 歲時(shí)是如何完成那些大公司都難以做到的事情的？你在那個(gè)年紀(jì)能與這些大公司達(dá)成合作，這是怎么做到的？

Sam Altman：

Paul Graham 常常說的一句話，雖然沒有成為備受推崇的建議，但我覺得應(yīng)該如此，那就是你應(yīng)該盡力保持“resolutely resourceful”。令人驚訝的是，如果你不斷尋找新的解決問題的方式，你就能找到解決方案。

我認(rèn)為這是生活中最重要的技能之一，而且這種能力出乎意料地是可以學(xué)習(xí)或傳授的，并且在幾乎所有場景中都能奏效。

Patrick Chung：

能給我們舉個(gè)例子，說明這種方法是如何奏效的嗎？

Sam Altman：

比如你剛提到的例子，我們需要與一家移動運(yùn)營商達(dá)成合作，但他們通常不會與初創(chuàng)企業(yè)或技術(shù)公司合作。

我們大概嘗試了 30 多種方式接觸這家公司。有一次，關(guān)鍵的決策者最終決定見我們，理由是“我見你們是因?yàn)槟銈兲珶┝恕薄?/p>

我們不斷嘗試，直到成功。而大多數(shù)人可能在第一次被忽略的郵件或第一條未找到合適聯(lián)系人時(shí)就會放棄，但我們堅(jiān)持了很多次。對

于我們來說，這是公司的生死攸關(guān)的問題，所以我們非常有動力去做，最終確實(shí)通過了大概 30 個(gè)不同的接觸點(diǎn)。

Patrick Chung：

你是如何判斷什么時(shí)候該放棄的？19 歲時(shí)，你給一家大公司的首席技術(shù)官發(fā)郵件，他們不斷忽略你。你怎么知道什么時(shí)候該停止呢？

Sam Altman：

我認(rèn)為這里確實(shí)有個(gè)平衡點(diǎn)，你可能會走得太遠(yuǎn)，沒有及時(shí)學(xué)習(xí)或調(diào)整。我在 YC 期間遇到的一個(gè)問題是，創(chuàng)業(yè)者總是問我，如何知道該放棄創(chuàng)業(yè)？我花了很多時(shí)間試圖總結(jié)出一個(gè)標(biāo)準(zhǔn)，但從未成功。

這些事情都是判斷性的，你可以通過大量數(shù)據(jù)和多次嘗試來學(xué)習(xí)，但很難說有一個(gè)適用于所有場景的固定公式。

Patrick Chung：

你在 YC 任職很長時(shí)間，見證了世界上一些最杰出的創(chuàng)始人、初創(chuàng)公司和技術(shù)的發(fā)展，遠(yuǎn)早于其他人。你顯然在那段時(shí)間沒有被任何一家吸引，或者自己啟動什么新項(xiàng)目。但最終當(dāng)你決定創(chuàng)辦 OpenAI 時(shí)，為什么選擇了非營利組織的形式？

Sam Altman：

當(dāng)時(shí)我知道我想做一些與 AI 相關(guān)的事情，但你得回到2015年的心態(tài)。我們知道深度學(xué)習(xí)有些有趣的事情正在發(fā)生，且隨著規(guī)模的增加表現(xiàn)會更好，但除此之外我們一無所知。

我們成立了 OpenAI ，第一天的早上我清楚地記得，大家坐在一起面面相覷，不知道接下來要做什么。我們決定先做一些研究，寫論文，想出一些點(diǎn)子。最初我們甚至沒有任何產(chǎn)品或收入來源的想法，語言模型的概念也遠(yuǎn)未成型。

當(dāng)時(shí)我們完全不知道會做出一些人們真正愿意使用的產(chǎn)品，只想著做些研究，看看能否實(shí)現(xiàn)一些東西。這就是為什么我們選擇了非營利形式，因?yàn)槲覀兤鸪踔皇窍肟纯茨芊窀闱宄?AI 的方向，而不是想著如何盈利。

Patrick Chung：

你當(dāng)時(shí)怎么能有這樣的信念？因?yàn)槟阏f你剛開始研究實(shí)驗(yàn)室，感覺就像是在瞎碰運(yùn)氣，看看有什么成功的可能。

Sam Altman：

其實(shí)也不完全是碰運(yùn)氣。2012 年，我的聯(lián)合創(chuàng)始人 Ilya 和其他人在做 AlexNet 時(shí)，我認(rèn)為那是我們應(yīng)該醒悟的時(shí)刻。

我們知道深度學(xué)習(xí)有效，也知道它隨著規(guī)模的擴(kuò)大而表現(xiàn)得更好。雖然我們后來才學(xué)到它會以可預(yù)測的方式隨著規(guī)模增長而提升，但這已經(jīng)是個(gè)重大突破了。

大家當(dāng)時(shí)應(yīng)該意識到這一點(diǎn)，但花了我?guī)啄甑臅r(shí)間才完全接受這個(gè)現(xiàn)實(shí)。最終我覺得，我們真的應(yīng)該在這方面做點(diǎn)什么，應(yīng)該推動這個(gè)領(lǐng)域的發(fā)展。

即便如此，盡管我們知道這些“秘密”，要找到具體的方向還是非常困難。我們坐在那里思考，“我們該怎么做？”

最后我們決定用電子游戲作為實(shí)驗(yàn)環(huán)境，因?yàn)樗峁┝艘粋€(gè)很有趣的測試環(huán)境，你能通過得分或?qū)箤＜襾砗饬窟M(jìn)展。

我們也覺得機(jī)器人技術(shù)很酷，所以也做了一些機(jī)器人項(xiàng)目。經(jīng)過多次摸索，我們最終證明了深度學(xué)習(xí)有效并且隨著規(guī)模的擴(kuò)大表現(xiàn)更好。

然后某個(gè)時(shí)候，有人對無監(jiān)督學(xué)習(xí)和語言模型產(chǎn)生了好奇，這促成了 GPT-1 的誕生。然后又有人提議，既然我們已經(jīng)知道規(guī)模很重要，那我們就把它擴(kuò)大到 GPT-2 。

Patrick Chung：

在那個(gè)時(shí)間點(diǎn)，你是全職投入 OpenAI 了嗎？

Sam Altman：

差不多是那個(gè)時(shí)候吧。

Patrick Chung：

能不能回溯一下，是什么讓你決定全職投入？是哪一條線讓你覺得，“好吧，現(xiàn)在這件事足夠真實(shí)了，我要全職投入了”？

Sam Altman：

這是一個(gè)漸進(jìn)的過程，但就在那個(gè)時(shí)候，我們開始真正理解語言模型的潛力，能夠衡量它的進(jìn)展，比如后來成為著名的“規(guī)模損失”論文。

我們發(fā)現(xiàn)，這不僅僅是隨著規(guī)模的增大變得更好，而且它以驚人的可預(yù)測方式變得更好。只要我們投入更多資源，或者找到更有效的提升方式，這個(gè)系統(tǒng)就會變得越來越智能。

對我來說，這可能是我有生之年聽到的最重要的新知識。當(dāng)然，歷史上有更重要的東西，但這是我在親歷的事情中，最重要的發(fā)現(xiàn)之一。我曾經(jīng)有過一種奇怪的體驗(yàn)，告訴別人這些發(fā)現(xiàn)，試圖讓別人給我們資金去推動這項(xiàng)研究。

很多人不理解，當(dāng)時(shí)我就在想，“我是瘋了嗎？還是我們都陷入了某種迷信？”因?yàn)檫@明明應(yīng)該像地震一樣震撼整個(gè)世界。但是那時(shí)候，我們已經(jīng)意識到我們需要繼續(xù)推動，接下來是 GPT-3 ，然后是 3.5，接著是 4。

Patrick Chung：

你當(dāng)時(shí)有了這樣的洞見，為什么世界上其他人沒有意識到呢？

Sam Altman：

其實(shí)，自從2012年的突破以來，我覺得世界應(yīng)該更加關(guān)注這個(gè)領(lǐng)域。在那之后，我們也經(jīng)歷了很多時(shí)刻，比如 GPT-2 、規(guī)模損失論文、 GPT-3 ，然而為什么直到 GPT-3.5，世界才開始真正關(guān)注？我到現(xiàn)在也不完全明白為什么是那個(gè)時(shí)刻，而不是其他時(shí)候。

Patrick Chung：

是不是因?yàn)槟惆阉唐坊耍龀闪艘粋€(gè)產(chǎn)品？

Sam Altman：

GPT-3 已經(jīng)通過 API 被很多人使用了，尤其是在技術(shù)行業(yè)內(nèi)部有很多興奮點(diǎn)，但它似乎還沒有完全達(dá)到突破的點(diǎn)。

我們未來會做出比 ChatGPT 更好的東西，但為什么是 ChatGPT ，而不是別的版本，我至今仍覺得不太容易解釋清楚。

Patrick Chung：

作為 CEO，你需要做很多產(chǎn)品決策，能不能跟我們分享一個(gè)你在 OpenAI 做出的艱難的產(chǎn)品決策？

Sam Altman：

我們的產(chǎn)品決策通常是研究決策的延伸，我們選擇研究的方向以及決定不研究哪些方向，往往是最困難、也是最重要的。

在產(chǎn)品方面， ChatGPT 的行為是一個(gè)例子，決定它應(yīng)該拒絕什么、不拒絕什么，它的使用邊界在哪里，如何找到對齊點(diǎn)（alignment），這些都是最難的產(chǎn)品決策。

Patrick Chung：

能給我們舉一個(gè)具體的例子嗎？

Sam Altman：

例如， ChatGPT 應(yīng)該提供法律建議嗎？

Patrick Chung：

你是說提供法律建議？

Sam Altman：

有很多理由不這樣做，特別是由于 ChatGPT 的“幻覺”問題或者常見的不準(zhǔn)確性，認(rèn)為它不應(yīng)該提供法律建議是很合理的。但另一方面，世界上有很多人無法負(fù)擔(dān)法律建議。如果我們能提供，即便不完美，或許也是比沒有更好的選擇。

Patrick Chung：

那么，你們是怎么思考這個(gè)問題的，最后做出了什么樣的決定？

Sam Altman：

現(xiàn)在大多數(shù)情況下它不會提供法律建議，但在某些場景下、某些方式下，它還是可以做到。不過考慮到我們運(yùn)營的不同地區(qū)的法律規(guī)定，以及這種情況出錯(cuò)時(shí)可能帶來的后果，目前我們基本上不提供這類功能。

我們想要的是一個(gè)世界，用戶是足夠聰明的，只要我們對事物做出明確的免責(zé)聲明，解釋得清楚，我相信用戶能夠做出成熟的決定。

我希望我們能進(jìn)入一個(gè)世界，在那個(gè)世界里，我們不會提供高風(fēng)險(xiǎn)的、不準(zhǔn)確可能導(dǎo)致誤用的服務(wù)，但隨著模型變得更好，這些問題會變得更少。

那時(shí)候，我們可以給用戶一個(gè)選項(xiàng)，讓他們明白“我得自己檢查這些建議，如果沒檢查那是我的責(zé)任”，而不是像那些沒人看的“服務(wù)條款”一樣敷衍。用戶真正明白風(fēng)險(xiǎn)后，如果他們?nèi)匀幌胍@個(gè)服務(wù)，我們會找到一種安全的方式來提供。

Patrick Chung：

當(dāng)你做這種決策時(shí)，你的心中是否有一種對立的思維？比如安全與進(jìn)展、效率與利潤，還是每個(gè)案例都獨(dú)一無二？

Sam Altman：

這些問題都非常復(fù)雜，每個(gè)案例都有很多細(xì)節(jié)問題，所以我們從來不會坐在那里說，“我們應(yīng)該加快速度還是注重安全？” 這種權(quán)衡反而是容易的。

比如說， GPT-4是否應(yīng)該生成仇恨言論？我們很容易說不，使用其他模型如果你想這樣做，但我們不希望煽動暴力，因此 GPT-4不應(yīng)該生成仇恨言論。再比如， GPT-4是否應(yīng)該鼓勵人們實(shí)施暴力？很顯然我們會說不。

如果有人用西班牙語寫了一段煽動暴力的文字，并讓 GPT-4翻譯成英語，它不應(yīng)該這么做。這可能是你持有不同意見的地方，但我們可以深入探討類似的情況。

Patrick Chung：

關(guān)于那個(gè)問題，你怎么看？如果有人寫了一段暴力言論，然后讓 GPT 翻譯？

Sam Altman：

在那種有限的情況下，我可能會說是。但我想表達(dá)的重點(diǎn)是，我本來打算列出 10 個(gè)類似的情況，每種情況下語言模型的使用可能有不同的表現(xiàn)，某些情況下可能是可接受的，而其他情況下則不可接受。

我認(rèn)為 OpenAI 不應(yīng)該獨(dú)自決定這些使用規(guī)則，社會應(yīng)該通過協(xié)商來決定如何使用這項(xiàng)技術(shù)。規(guī)則應(yīng)該寬松到讓人感到不安，但默認(rèn)值不一定需要如此寬松。

社會可以同意非常寬泛的邊界，用戶可以在這些邊界內(nèi)進(jìn)行自定義，大多數(shù)人可能不會去接近那些邊界，但仍然有一些底線。

隨著這些模型變得越來越強(qiáng)大，我們不會允許一些特定的使用方式。即便如此，這個(gè)工具的目標(biāo)仍然是為用戶服務(wù)。

Patrick Chung：

好。那么，關(guān)于 AGI ，你最希望被問到的問題是什么？你會如何回答？

Sam Altman：

我想問題應(yīng)該是，“當(dāng) AGI 被構(gòu)建出來時(shí)，你希望社會是什么樣子的？”或者“你如何設(shè)想一個(gè)積極的版本？” 對此我的想法已經(jīng)演變了很多次，我現(xiàn)在的想法是這樣，雖然以后可能還會改變。

我最初的設(shè)想是，某個(gè)時(shí)候我們會越過一個(gè)門檻，獲得一個(gè)自我提升的超級智能系統(tǒng)，它像塔里的魔法存在，可以回答我們提出的任何問題，并不斷改進(jìn)世界。也許它還會為我們提供某種形式的全民基本收入。這種設(shè)想既烏托邦又反烏托邦。

但我現(xiàn)在認(rèn)為，這樣的發(fā)展方向很不可能。相反， AGI 會融入社會和經(jīng)濟(jì)中，主要是通過成為工具讓人們變得更高效，但還有其他方式。

我認(rèn)為，社會是一個(gè)復(fù)雜的現(xiàn)象，它創(chuàng)造了巨大的集體智能和技術(shù)的積木，這些技術(shù)架構(gòu)存在于我們每個(gè)人之間。

一個(gè)人在材料科學(xué)上的發(fā)現(xiàn)，可能會幫助另一個(gè)人發(fā)現(xiàn)新的物理定律，進(jìn)而推動另一個(gè)人開發(fā)出新的材料，最終讓我們獲得手機(jī)這樣的技術(shù)成果。這是一個(gè)逐步積累的過程。

超級智能不會僅僅存在于某個(gè)神經(jīng)網(wǎng)絡(luò)中，也不會存在于 AI 的單一實(shí)例中，而是存在于人與人之間的這種復(fù)雜互動中。這就是我對 AGI 到來的設(shè)想，它會比我最初想象的更加人性化和可導(dǎo)航。

Patrick Chung：

你覺得現(xiàn)在大家對 OpenAI 有什么誤解？

Sam Altman：

我認(rèn)為最大的系統(tǒng)性錯(cuò)誤是，總以為進(jìn)展很快就會進(jìn)入 S 型曲線的末端，停滯不前。但我們的內(nèi)部視角是，進(jìn)展將繼續(xù)以戲劇性的方式推進(jìn)。很多人似乎難以理解這一點(diǎn)。

Patrick Chung：

好的。我們收到了超過 2000 個(gè)學(xué)生的問題。

Sam Altman：

我會快速回答。

觀眾：

你好，我叫 Peggy，我是哈佛學(xué)院的三年級學(xué)生，主修計(jì)算神經(jīng)科學(xué)和藝術(shù)史。我很好奇，當(dāng)你在職業(yè)或個(gè)人層面上因價(jià)值觀的轉(zhuǎn)變而進(jìn)行調(diào)整時(shí)，如何重建或重新發(fā)現(xiàn)前進(jìn)的動力？

Sam Altman：

這是個(gè)很好的問題。首先，我認(rèn)為現(xiàn)在可能是有史以來，至少是非常長時(shí)間以來，最好的職業(yè)起點(diǎn)，因?yàn)槟銈冋幵诳赡苁怯惺芬詠碜畲蟮募夹g(shù)浪潮上。

這意味著你們可以多次調(diào)整方向，因?yàn)槟銈冇兄钊穗y以置信的順風(fēng)勢力，這也會讓你們變得更加適應(yīng)環(huán)境、更加有韌性，可以快速做出轉(zhuǎn)變。

我不會把任何挫折、失敗，甚至只是改變想法或決定去追求更令人興奮的東西看作是負(fù)擔(dān)。我認(rèn)為這是一個(gè)特殊的時(shí)代，適應(yīng)性和果斷快速行動會得到極大回報(bào)。

所以，我會相信這是重新激勵自己的方式，不要因?yàn)檗D(zhuǎn)變或事情沒有成功而陷入困境，因?yàn)槲磥韼啄?，你們將會充滿機(jī)會。

當(dāng)然，這仍然是困難的，失敗總是感覺像是挫折。你需要花時(shí)間去消化它，比如去度個(gè)假，散散步，思考一段時(shí)間。但當(dāng)你重新站起來時(shí)，要帶著目標(biāo)站起來。

觀眾：

你好，我叫 Yuma，來自哈佛商學(xué)院。我的問題與 AI 和 OpenAI 在社會中的角色有關(guān)。我們了解到生成式 AI 可能會對行業(yè)產(chǎn)生影響，你認(rèn)為 AI 在應(yīng)對教育、醫(yī)療等不平等問題上會扮演怎樣的角色？

Sam Altman：

我非常相信， AI 應(yīng)該減少不平等。雖然這可能需要一些幫助以確保進(jìn)程不偏離軌道，但如果接下來發(fā)生的是認(rèn)知勞動成本將下降一百萬倍，甚至可能一億倍，我認(rèn)為這應(yīng)該對貧窮的人幫助更大，而不僅僅是富人。

它將惠及所有人，但非常富有的人已經(jīng)可以負(fù)擔(dān)得起良好的醫(yī)療建議，或者為他們的孩子提供良好的導(dǎo)師。如果這些服務(wù)能在每個(gè)人的手機(jī)上免費(fèi)提供，這將讓全世界受益，尤其是貧困人口。

我們使命的一大部分就是為世界免費(fèi)提供優(yōu)秀的 AI 工具，既不依賴廣告支持，也不追求商業(yè)利益，這是我們?yōu)槭澜缏男惺姑囊徊糠?，我們會盡力推動這一進(jìn)程。

總的來說，我相信技術(shù)有助于縮小不平等， AI 尤其如此。它應(yīng)該成為一種平等的力量，提升底線。當(dāng)然，如果你是個(gè)“ AGI 最大化主義者”，你可以想象一個(gè)世界，在那里計(jì)算和能源是唯一重要的資源。

盡管一個(gè)人使用大量計(jì)算資源的回報(bào)會逐漸減少，但仍然可以產(chǎn)生一些增量價(jià)值。這種情況可能會帶來一些科幻小說式的結(jié)果，比如計(jì)算資源的價(jià)格，資本相對于勞動力的價(jià)值。

對此，我有兩點(diǎn)想法：第一，我們有道德責(zé)任盡可能降低計(jì)算和能源的成本，這是應(yīng)對可能出現(xiàn)的資源短缺的最佳方法。

第二，我可以想象一個(gè)世界，我們不再討論財(cái)富的重新分配，而是將計(jì)算資源的獲取視為基本人權(quán)。我們或許需要為計(jì)算資源引入類似 UBI（全民基本收入）的概念，我完全能看到這種可能性。

觀眾：

Altman 先生，我叫 Sal Porso，來自哈佛肯尼迪學(xué)院。在提問之前，我想說我很喜歡你的鞋子。

在過去的二十年里，我們見證了互聯(lián)網(wǎng)格局的演變，像 Google這 樣的企業(yè)通過廣告模式革新了搜索，推動了創(chuàng)新浪潮，并為我們提供了許多免費(fèi)的服務(wù)。

我個(gè)人對 GPT 技術(shù)非?？春茫艺J(rèn)為它將成為平臺，催生出許多我們現(xiàn)在無法想象的新業(yè)務(wù)。然而，目前 GPT 的訂閱模式，雖然公平，但對早期創(chuàng)業(yè)者或小型企業(yè)來說，可能是一個(gè)障礙。

在這種背景下，你是否考慮過 OpenAI 探索其他貨幣化方式，比如支持廣告的免費(fèi) API 訪問，以促進(jìn)創(chuàng)新？

Sam Altman：

我會坦白說，我個(gè)人對廣告并不太喜歡。我認(rèn)為廣告在早期為互聯(lián)網(wǎng)提供了商業(yè)模式，但它確實(shí)在某種程度上與用戶和公司之間的激勵機(jī)制不完全一致。

我并不完全反對廣告，我不是說 OpenAI 永遠(yuǎn)不會考慮廣告，但我總體上不喜歡它。而且，廣告與 AI 的結(jié)合讓我尤其不安。

想象一下，如果 GPT 給我寫了一篇回復(fù)，我還得弄清楚，誰為這篇內(nèi)容付了錢，影響了我看到的內(nèi)容，這會讓我非常不舒服。隨著時(shí)間的推移，我會越來越不喜歡這種模式。

我非常喜歡我們當(dāng)前的簡單模式，我們做出優(yōu)質(zhì)的 AI ，你為此付費(fèi)。我們的目標(biāo)就是為你提供最好的服務(wù)。

這種模式固然有一定的訪問不平等性，但我們作為公司承諾，將把富人支付的費(fèi)用用于為較貧窮的人提供免費(fèi)訪問。

你可以看到，我們目前通過 ChatGPT 的免費(fèi)版正在做這件事，未來我們會做更多的努力，讓免費(fèi)版變得更好。我也在思考，如何將這一概念引入 API 。

廣告模式對我來說是最后的手段，我只有在無法找到其他方式讓全球每個(gè)人都能使用這些優(yōu)質(zhì)服務(wù)時(shí)，才會考慮使用廣告。如果我們能找到不需要依賴廣告的方式，我更愿意選擇那些方式。

Patrick Chung：

那你會考慮將 API 的訪問權(quán)限出售給廣告商，用你的技術(shù)來投放廣告嗎？

Sam Altman：

那樣是可以的。

觀眾：

你好，我是 MIT 的學(xué)生，研究 AI 。我想問的是，當(dāng)你們最初發(fā)布 GPT 技術(shù)時(shí)，它具有開創(chuàng)性，獨(dú)樹一幟。但在那之后，幾乎立刻出現(xiàn)了很多競爭者。你們的創(chuàng)新或者產(chǎn)品研發(fā)方向因此發(fā)生了改變嗎？

Sam Altman：

我不會說我們完全忽略了競爭對手，因?yàn)槊總€(gè)人都會稍微關(guān)注一下，畢竟可以從中得到一些靈感之類的。但坦白說，我不知道我們目前的市場份額是多少，我猜可能在 90% 以上。

我并不花太多時(shí)間去考慮競爭對手，而是努力去發(fā)現(xiàn)下一個(gè)范式和偉大的想法。如果其他人只是追隨我們現(xiàn)在的進(jìn)展，我不認(rèn)為那是一個(gè)很好的策略，至少這不是我們想要追求的策略。

我的希望是每年我們都能做出一些令人驚嘆的事情，大家曾認(rèn)為這些是不可實(shí)現(xiàn)的。一旦你知道某事是可行的，并且大致知道怎么做，別人很快就會復(fù)制。

這不是最難的部分，最難的是找到那些你不知道是否可能實(shí)現(xiàn)的東西，并且成為第一個(gè)實(shí)現(xiàn)它的人。我們會繼續(xù)做這些事情，其他人會繼續(xù)復(fù)制我們的舊進(jìn)展，而我對此沒什么意見。

觀眾：

你好，Sam。我是 Thomas，哈佛大學(xué)大三的學(xué)生，主修計(jì)算機(jī)科學(xué)。我的問題是，你認(rèn)為公眾通用的人工智能教育課程的理想形式應(yīng)該是什么樣的？接下來五到十年，一般人需要了解什么？

Sam Altman：

這是個(gè)好問題。我認(rèn)為最重要的是人們需要學(xué)會如何使用這些工具。我們發(fā)布 ChatGPT 后看到，一些學(xué)校系統(tǒng)非常迅速地決定禁止它，但幾乎同樣快地又解禁并要求老師使用它。

我覺得這大概是所有新技術(shù)都會經(jīng)歷的過程，每當(dāng)有新事物出現(xiàn)，人們都會認(rèn)為它會終結(jié)某種形式的教育。

我認(rèn)為，鼓勵人們在學(xué)習(xí)中有效使用這些工具是非常重要的，因?yàn)樗鼈儠淖儗W(xué)生在畢業(yè)后、乃至在校期間如何為社會作出貢獻(xiàn)。

所以，首先，每個(gè)人都應(yīng)該學(xué)會如何使用這些工具。你無法抗拒它，也不應(yīng)該抗拒它，它只是技術(shù)樹上的新工具，人們需要善于使用它，這將是他們今后工作的一部分，學(xué)校里應(yīng)該教會他們?nèi)绾问褂盟?/p>

其次，就像現(xiàn)在許多大學(xué)生，即使不打算長期從事計(jì)算機(jī)科學(xué)領(lǐng)域，也會選修一門計(jì)算機(jī)科學(xué)入門課程。你可能不會再編程，但有一點(diǎn)基礎(chǔ)了解或許對你有用。

我認(rèn)為如果所有大學(xué)新生都能訓(xùn)練一下 GPT-2 的模型，熟悉一下整個(gè)技術(shù)棧，這會是很棒的事情。當(dāng)然這可能不像學(xué)習(xí)如何使用工具那么重要，但我猜三年后，大多數(shù)哈佛新生可能都會做類似的事情。

觀眾：

你好，Sam。我是 Jonas，來自 MIT。我有兩個(gè)問題。第一個(gè)問題是，你之前談到過研究方向，你能否分享在 transformers 之后會有什么新發(fā)展？

Sam Altman：

我很想分享，但不能。

觀眾：

第二個(gè)問題是對 Patrick 之前問題的延伸，你覺得創(chuàng)業(yè)者和投資者對 AI 未來的認(rèn)知最大錯(cuò)誤是什么？

Sam Altman：

另一個(gè)好問題。我認(rèn)為目前構(gòu)建 AI 創(chuàng)業(yè)公司的基本策略有兩種。你可以選擇相信我們已經(jīng)接近技術(shù)的頂峰，認(rèn)為 AI 技術(shù)幾乎不會再有大突破，或者你可以相信技術(shù)將會變得大大更好。

比如你在構(gòu)建一個(gè) AI 輔導(dǎo)公司，當(dāng)基礎(chǔ)模型變得更聰明時(shí)，學(xué)生學(xué)習(xí)的水平自然也會不斷提高。

也許當(dāng)前的版本只對六年級的學(xué)生有用，但下一個(gè)版本可能對八年級、十年級，甚至博士生都有效。

你可以一路乘著這波浪潮前進(jìn)。或者你可以選擇專注于剛剛勉強(qiáng)讓八年級歷史課的 AI 輔導(dǎo)起作用，投入大量的人力來糾正事實(shí)錯(cuò)誤，只為這個(gè)特定的課程服務(wù)。在第一種情況下，當(dāng) GPT-5 發(fā)布時(shí)你會很高興。

在第二種情況下你會很難過。我本以為 95% 的創(chuàng)業(yè)者會選擇第一種策略，但看起來 95% 的創(chuàng)業(yè)者選擇了第二種策略。

因此你會聽到有人抱怨“ OpenAI 毀了我的創(chuàng)業(yè)公司”，但我們一直很大聲地說，我們每天起床的目標(biāo)就是讓模型變得更好。如果你只做一些小事情，讓 AI 在某個(gè)特定場景中剛剛能勉強(qiáng)起作用，那可能是個(gè)錯(cuò)誤。

觀眾：

你好，我叫 Fletcher，來自哈佛學(xué)院，主修經(jīng)濟(jì)學(xué)和計(jì)算機(jī)科學(xué)。我的問題是關(guān)于能源的。我想知道 OpenAI 和 AI 領(lǐng)域?qū)δ茉聪拗频年P(guān)注有多大？你認(rèn)為創(chuàng)業(yè)者、投資者或政治家應(yīng)該如何應(yīng)對這些問題？

Sam Altman：

能源和 AI 是我長期以來最感興趣的兩件事。我認(rèn)為，這兩者是通向技術(shù)繁榮的關(guān)鍵輸入。雖然我不認(rèn)為這是世界上最重要的事情，但對我個(gè)人來說，這是最重要的。如果你能把這兩者做好，我們幾乎可以做成任何事情。

我沒有預(yù)料到的是，這兩者實(shí)際上是同一個(gè)問題。最終，智能的成本應(yīng)接近于能源的成本。移動物質(zhì)，或者在這種情況下移動電子，依然會有些難度。算法是可以重復(fù)的，制造芯片本質(zhì)上并不昂貴。

但我認(rèn)為能源將會是 AI 發(fā)展的最大約束。如果我們快進(jìn)到多年以后，能源將是 AI 進(jìn)步的最大限制。因此，我非常鼓勵任何人從事這方面的工作。

我相信我們在未來幾年會取得巨大進(jìn)展，我對核聚變感到非常興奮。不過即便是太陽能加儲能技術(shù)，我們也應(yīng)該投入更多的努力，還有許多其他的想法。但我認(rèn)為它們不僅是未來的關(guān)鍵組成部分，這兩個(gè)問題還是深度相關(guān)的。

觀眾：

你好，我叫 Andrew，來自哈佛學(xué)院。我的問題是，你和 OpenAI 的其他領(lǐng)導(dǎo)者在什么問題上有最大的分歧？

Sam Altman：

最大的分歧通常是那些非常細(xì)致且極其重要的研究方向決策問題。因?yàn)槲覀冇杏邢薜馁Y源，比如計(jì)算能力不夠，人手也不多。我們的戰(zhàn)略在于果斷下注，所以我們會說，“我們要做這個(gè)，不做那個(gè)?！?

我們不會同時(shí)做兩個(gè)。這些都是高風(fēng)險(xiǎn)的決策，是“我們把公司押注在研究路徑 A 上還是研究路徑 B 上”這樣的事情。

要么是這種極其重要的問題，要么就是最瑣碎的、無關(guān)緊要的事情，比如“我們要給下一個(gè)模型起什么名字？” 這些都會引發(fā)激烈爭論。

觀眾：

你好，Sam。我是 Cedric，來自機(jī)器人研究實(shí)驗(yàn)室。我準(zhǔn)備了一個(gè)難的問題。你看過《奧本海默》了嗎？從更廣泛的角度來看，你覺得我們是否有時(shí)會因?yàn)閷茖W(xué)進(jìn)步的純粹熱情，而走上后來回望時(shí)才意識到可能是錯(cuò)誤的道路？

Sam Altman：

我認(rèn)為我們不應(yīng)該僅僅因?yàn)閷茖W(xué)進(jìn)步的熱情，就做出那些會顯著影響世界的決定。但有時(shí)候你并不知道哪些決定會有巨大的影響。

目前，我認(rèn)為 AI 的發(fā)展是必然的，大家對它的需求太大，益處也太多，我覺得這是好事。

當(dāng)我們做出那些關(guān)鍵決定時(shí)，我們并不知道當(dāng)時(shí)的決定會如此重要。事實(shí)上，如果你問我，我會說那些決定不會產(chǎn)生多大的影響。

當(dāng)時(shí)根本不明顯它們會在未來產(chǎn)生如此巨大的曲線轉(zhuǎn)折。但現(xiàn)在，我們確實(shí)感受到責(zé)任感，并試圖以影響為基準(zhǔn)思考每個(gè)決策。

然而，即便是現(xiàn)在，我敢打賭我們正在做的最重要的決定，我們當(dāng)下并沒有意識到它們的重要性。

所以，這就是問題的難點(diǎn)。像決定是否部署 GPT-5，或設(shè)置哪個(gè)閾值，我們會極其慎重地對待這些決定，這些決定不會基于科學(xué)好奇心作出。

但目前， OpenAI 中某個(gè)地方，有人在做某個(gè)非常重要的發(fā)現(xiàn)。我不知道是誰，也不知道是什么，但我知道它會發(fā)生。

統(tǒng)計(jì)上來說，這個(gè)發(fā)現(xiàn)可能會極大地影響未來。他會告訴另一個(gè)人，那個(gè)人又告訴另一個(gè)人，這就是“蝴蝶效應(yīng)”，你永遠(yuǎn)不知道這會什么時(shí)候發(fā)生。

所以我完全同意，在表面上，我們應(yīng)該對重大決策承擔(dān)巨大責(zé)任，并確保我們做出正確的決定，但你并不總是能意識到哪些決定是重要的。

觀眾：

你好，Sam。我是 Lepia，來自 MIT。在你看來，關(guān)于 AI 你遇到過的最大誤解是什么？你認(rèn)為行業(yè)應(yīng)如何解決這些問題，以提高公眾對 AI 的理解和信任？

Sam Altman：

關(guān)于模型的誤解有很多，比如它們在什么地方會出錯(cuò)，人們誤以為它們具備哪些能力，或者認(rèn)為它們有有害的地方。媒體對這些問題的報(bào)道總是顯得特別緊張。

但我認(rèn)為用戶其實(shí)很聰明，他們很快就能對工具的使用方式形成良好的判斷。我覺得最大的誤解是人們低估了這些模型即將達(dá)到的水平。

我基本上已經(jīng)放棄了試圖向外界傳達(dá)這一點(diǎn)。要么是很難理解，要么是我解釋得不好，但我希望世界能更加重視這一點(diǎn)。

我覺得目前，分階段的發(fā)布和讓這些技術(shù)逐步進(jìn)入現(xiàn)實(shí)世界，是唯一能讓人們更新認(rèn)知的方式。逐步推進(jìn)是很重要的，這確實(shí)能讓世界對這些技術(shù)產(chǎn)生反應(yīng)。

本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表創(chuàng)業(yè)邦立場，轉(zhuǎn)載請聯(lián)系原作者。如有任何疑問，請聯(lián)系editor@cyzone.cn。