五月天成人小说,中文字幕亚洲欧美专区,久久妇女,亚洲伊人久久大香线蕉综合,日日碰狠狠添天天爽超碰97

怎樣保證你不是AGI獨裁者?馬斯克為何退出OpenAI?早期郵件公開了

一致的「敵人」,一致的目標(biāo)

編者按:本文來自微信公眾號 機器之心(ID:almosthuman2014),作者:佳琪,創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

今年,OpenAI 可以說是大事不斷:內(nèi)斗、離職等等一系列事件吸引著大家的眼球。

其中,OpenAI 與馬斯克的訴訟、糾紛也一直備受大家關(guān)注。

今年 3 月份,馬斯克這位前 OpenAI 聯(lián)合創(chuàng)始人在一份長達(dá) 46 頁、總字?jǐn)?shù)超過 1.4 萬字的訴訟文件中,指控 OpenAI 不計后果地開發(fā)人類級別的人工智能。(參見:《馬斯克起訴 OpenAI:他們做出了 AGI 還授權(quán)給微軟,這是對創(chuàng)始協(xié)議赤裸裸的背叛》)

后來,OpenAI 自曝 8 年間郵件往來截圖,用一篇長文《OpenAI and Elon Musk》,正式駁斥了馬斯克的所有指控。

其中,OpenAI 反駁稱馬斯克承諾投資 10 億美元,但實際只投了不到 4500 萬美元,雙方都認(rèn)識到需要一個營利性實體支持燒錢的 AI 訓(xùn)練,但馬斯克希望完全控制 OpenAI 或?qū)⑵洳⑷胩厮估痪芙^。

數(shù)月過去,大家以為風(fēng)波已平。

誰料到,這個瓜還在繼續(xù)。

當(dāng)?shù)貢r間 11 月 14 日,馬斯克針對 OpenAI 的起訴升級,增加了新的原告和被告。

隨著起訴文件的更新, Elon Musk、Sam Altman、Ilya Sutskever 和 Greg Brockman 之間的往來郵件已經(jīng)作為法庭訴訟程序的一部分公開。

馬斯克為了證明 OpenAI 違反反壟斷法,才有這些郵件的曝光。同時,他也在某種程度上表達(dá)了他對 OpenAI 背離最初愿景 —— 以非營利為宗旨,且由特斯拉 CEO 擔(dān)任領(lǐng)導(dǎo)的背叛感。

論壇 LessWrong 整理了 2015 年 5 月 25 日到 2019 年 3 月 11 日的約 50 篇郵件。從中,我們可以窺見這個這個聲稱要保護(hù)人類福祉的非營利組織在誕生之初便埋下的裂痕與分歧。

圖片

圖片

鏈接:https://www.lesswrong.com/posts/5jjk4CDnj9tA7ugxr/openai-email-archives-from-musk-v-altman

一致的「敵人」,一致的目標(biāo)

在第一批曝光的郵件中,引起最大討論的要數(shù)馬斯克發(fā)給 Ilya 和 Greg 的這封郵件:

圖片

在這封主題為「我覺得有必要重申一下的郵件中」,馬斯克說道:

「我對 OpenAI 的資源沒有重大變化的情況下,與 DeepMind/Google 相抗衡的可能性評估是:0%。不是 1%。

即便籌集到幾億美元也不夠。這需要每年數(shù)十億美元的投入,否則就別想了。

不幸的是,人類的未來掌握在■■■手中?!?/p>

眾多網(wǎng)友紛紛猜測■■■中是誰?谷歌嗎?

從第二批曝光的郵件來看,這個答案大概可以鎖定了。

從開始籌建 OpenAI 開始,Google 與 DeepMind 就是馬斯克最擔(dān)心的競爭者。

在 2016 年的一封郵件中,他直言「DeepMind 正在給我?guī)順O大的精神壓力。如果他們贏了,憑借他們一個思想統(tǒng)治世界的理念,這將非常糟糕?!?/p>

圖片

2015 年 7 月,YC 總裁 Sam Altman 舉辦了一場晚宴,在那里,Elon Musk、Greg Brockman、Ilya Sutskever 相聚在一起。

當(dāng)時谷歌在 AI 技術(shù)上遙遙領(lǐng)先,具有斷層式的先發(fā)者優(yōu)勢,AI 可能會被科技巨頭壟斷,并使其發(fā)展停滯不前。

這些即將改變世界的人超前地意識到了:人工智能需要一個非營利組織,讓 AI 普惠世人。這個組織不需要任何競爭性的激勵措施,需要的只是世界上最好的 AI 研究人員。

于是,他們聚集在了一起,開始設(shè)計非營利組織,但很快,他們就發(fā)現(xiàn)了各種各樣的困難:特別是,由于 OpenAI 不賺錢,給人才提供的薪水沒有別的公司高。

圖片

2015 年底,DeepMind 開出了高價工資,在 NIPS 會場「搶奪」OpenAI 看中的人才,「Sam Altman 擔(dān)心「OpenAI 會這么被扼殺在搖籃里?!顾鲃咏o每個人每年增加了 10-20 萬的薪酬,這引來了馬斯克的疑問。

馬斯克以開放的姿態(tài)擁抱了漲薪計劃,他回復(fù):

「我們需要盡一切努力來獲得頂尖人才。讓我們更上一層樓。如果在某個時候我們需要重新審視現(xiàn)有員工的薪酬,那也沒關(guān)系。要么我們能找到世界上最優(yōu)秀的人才,要么我們就會被 Deepmind 打敗。無論需要做什么,只要能培養(yǎng)出頂尖人才,我都愿意。Deepmind 讓我精神壓力很大。如果他們贏了,那對他們一心一意統(tǒng)治世界的理念來說將是一個壞消息。他們顯然正在取得重大進(jìn)展,而且他們應(yīng)該取得進(jìn)展,因為那里的人才水平很高?!?/p>

圖片

AGI 的「獨裁者」

但在 2017 年秋天,OpenAI 創(chuàng)始團隊一開始融洽的關(guān)系好像出現(xiàn)了裂痕。

根據(jù) Shivon Zilis(現(xiàn) Neuralink 的總監(jiān))發(fā)給馬斯克的郵件,Greg 和 Ilya 開了一個小會,最終匯總為 7 個問題:

1. 公司的絕對控制權(quán)

是否有人有公司的絕對控制權(quán)?他們希望知道,如果未來在方向上出現(xiàn)分歧(不僅限于三人,也可能涉及更廣泛的董事會成員),是否會設(shè)立某種具有創(chuàng)造性的否決機制?

2. 控制權(quán)和過渡時間

Greg 和 Ilya 提出了「不可協(xié)商」的條款,即 AGI 出現(xiàn)時,不會讓任何一個人擁有絕對控制權(quán)。這一條件的滿足意味著,無論這三人之間發(fā)生什么,權(quán)力分配都將在最初的 2-3 年階段之后平穩(wěn)過渡。

3. 馬斯克愿意花多少時間?

馬斯克愿意花多少時間在 OpenAI?實際上又能花多少時間?具體的時間范圍是什么?是每周一小時,十小時,還是介于兩者之間

4. 馬斯克具體如何分配時間?

OpenAI 的團隊并不清楚馬斯克在其他公司如何分配時間,也不確定他希望如何在 OpenAI 中投入時間。Greg 和 Ilya 相信他們在軟件 / 機器學(xué)習(xí)方面可以很好地推進(jìn)工作,但對硬件方面缺乏信心。他們希望馬斯克能夠在硬件領(lǐng)域投入一些時間,這是他們的薄弱環(huán)節(jié),同時也希望他能在感興趣的所有領(lǐng)域提供幫助。

5. 時間與控制權(quán)的比例

OpenAI 的團隊傾向于誰花的時間多就有更多控制權(quán)的模式,而不希望花一點時間就有很多控制權(quán)。他們擔(dān)心如果分給 OpenAI 的時間太少,就沒有足夠的時間討論相關(guān)背景信息,從而做出正確的決定。

6. 股權(quán)分割

Greg 堅持平等分配。Greg 指出,Ilya 通過在 Google 的工作已經(jīng)證明了自己的經(jīng)濟潛力,從某種程度上說,Ilya 已經(jīng)貢獻(xiàn)了價值數(shù)百萬美元。

他們擔(dān)心能獲得的股權(quán)的員工數(shù)量太少。

7. 融資目標(biāo)

他們傾向于在初期籌集超過 1 億美元的資金,認(rèn)為僅數(shù)據(jù)中心的需求就需要這么多,因此他們更愿意籌集更多資金。最后,他們給出了自己心目中的解決方案:

  • 馬斯克每周為 OpenAI 花費 5-10 小時,獲得完全掌控權(quán),如果時間更少,那么控制權(quán)更少花費。

  • 針對 AGI 的極端情況(不僅僅是 Greg / Sam / Ilya)設(shè)計短期過渡協(xié)議。

  • 制定一項嚴(yán)格的少數(shù)股權(quán)控制協(xié)議,確保 2-3 年的過渡期內(nèi)權(quán)力平穩(wěn)分配,不受(Greg / Sam / Ilya)個人命運影響。

  • 初始融資目標(biāo)設(shè)定在 2 億至 10 億美元之間。

  • Greg 和 Ilya 的股份最終比馬斯克高出 1/10,但差距不宜過大(這一部分仍需進(jìn)一步明確)。

  • 增加員工數(shù)量以滿足項目需求。

馬斯克的回復(fù)是:「這太煩人了。請讓他們?nèi)?chuàng)業(yè)。我受夠了?!?/p>

于是 Ilya Sutskever 在這封主題為「Honest Thoughts」的郵件中進(jìn)一步提出了對馬斯克擔(dān)任公司領(lǐng)導(dǎo)者的顧慮:

圖片


當(dāng)前的公司結(jié)構(gòu)使您有可能最終對 AGI 擁有單方面的絕對控制權(quán)。您曾表示自己并不想控制最終的 AGI,但在此次談話中,您向我們展示了絕對控制權(quán)對您來說極為重要。

舉個例子,您曾表示自己必須成為新公司的 CEO。這樣,每個人都能知道您是負(fù)責(zé)人。同時,您也表示過討厭當(dāng) CEO,更不愿意擔(dān)任此職。

因此,我們擔(dān)心,盡管您當(dāng)前并無此意,但隨著公司在通往 AGI 的道路上取得實際進(jìn)展,您可能會選擇繼續(xù)保留對公司的絕對控制權(quán)。

OpenAI 的目標(biāo)是創(chuàng)造一個美好的未來,并避免 AGI 獨裁。您擔(dān)心哈薩比斯(Demis Hassabis,谷歌 DeepMind CEO)可能會建立一個 AGI 獨裁政權(quán),這一點我們也同樣憂慮。

因此,構(gòu)建一個可能讓您成為獨裁者的公司結(jié)構(gòu),無疑是糟糕的選擇,尤其在完全可以設(shè)計出能夠避免此風(fēng)險的另一種結(jié)構(gòu)的情況下。


圖片

這不僅僅是關(guān)于誰是 CEO,誰能控制公司的問題;Ilya 擔(dān)憂的是,如果 AI 威脅人類之時,可能只有一個人能夠左右事件的走向。

Ilya 還和 Greg 一起對奧特曼表達(dá)了類似的疑問,用詞與去年 OpenAI「宮斗事件」中,董事會指責(zé)阿爾特曼「不夠坦誠」時如出一轍:


在整個過程中,我們始終無法完全信任您的判斷,因為我們無法理解您的動機。

我們不明白為什么 CEO 這個頭銜對您如此重要。您給出的理由一再改變,讓人難以真正理解背后的動機。

AGI 真的是您的主要動力嗎?它與您的政治目標(biāo)有何關(guān)聯(lián)?

圖片

結(jié)合后來的事件發(fā)展,奧特曼正在將 OpenAI 引向更傳統(tǒng)的企業(yè)級 SaaS(軟件即服務(wù))方向來看,他的目標(biāo)似乎更多偏向商業(yè),而非哲學(xué)。

Elon 回復(fù)表示對目前的談判徹底失望,稱不再為 OpenAI 提供資金,要求團隊做出明確承諾。

Sam Altman 強調(diào)自己仍支持非營利結(jié)構(gòu),同時對 Greg 和 Ilya 的不一致行為表示不滿,他隨后宣布需要 10 天時間來「思考是否能夠繼續(xù)信任他們」。

圖片這件事發(fā)生在 OpenAI 為了解決沒錢的問題,要不要改變非營利組織的架構(gòu),為此,他們也考慮過 ICO 上市。

圖片

同時,在谷歌在谷歌「一騎絕塵」的狀態(tài)下,OpenAI 的努力在當(dāng)時看上去就像是「以卵擊石」。

Andrej Karpathy 給出了幾份對標(biāo)谷歌的詳細(xì)分析:

  • DeepMind 在 2016 年的運營支出約 2.5 億美元 (不含計算成本)

  • Google 在 AI 領(lǐng)域擁有壓倒性優(yōu)勢,包括 Google Brain、Research、Cloud 等多個部門

  • 在 ICLR 會議上,Google 提交了 83 篇論文,遠(yuǎn)超其他機構(gòu)。

Karpathy 認(rèn)為,如果不能在規(guī)模上與 Google 競爭,OpenAI 的開放研究可能反而在「免費」幫助競爭對手。

圖片

馬斯克并不贊同 ICO 方案,這相當(dāng)于直接宣告「非營利」破產(chǎn)

OpenAI 在與谷歌的競爭中正走向必然的失敗。如果不立即采取重大而果斷的行動,除了谷歌之外的所有人都將被邊緣化。

我考慮過 ICO 方案,但不會支持它。在我看來,這只會讓 OpenAI 和所有與 ICO 相關(guān)的人嚴(yán)重失去信譽。如果某件事看起來好得難以置信,那它通常就是錯誤的。在我看來,這是一次不明智的偏離初心的嘗試。

我目前能想到的唯一出路是 OpenAI 進(jìn)行大規(guī)模擴張,以及 Tesla AI 的大規(guī)模擴張,或許兩者可以同時進(jìn)行。前者需要大幅增加捐贈資金,并讓非常有公信力的人加入我們的董事會。目前的董事會狀況非常薄弱。

我將安排時間明天與大家討論。需要明確的是,我對你們的能力和成就非常尊重,但對目前的管理方式感到不滿。這也是為什么最近幾個月我很難積極參與 OpenAI 的原因。如果我們能夠解決這些問題,我將大大增加我的參與度;如果不能,我將幾乎完全退出,并公開減少與 OpenAI 的關(guān)聯(lián)。我不會讓自己置身于一種影響力和實際投入的時間不匹配的局面。

圖片而 Karpathy 給出了他理想的解決方案。在他單獨發(fā)給馬斯克的郵件中,Karpathy 認(rèn)為最有希望的選擇是 OpenAI 把特斯拉作為搖錢樹。他相信,與其他大型科技巨頭(例如蘋果、亞馬遜)的合作會因為公司 DNA 不兼容而失敗。

圖片

馬斯克隨即表示:

Andrej 完全正確。雖然我們可能希望情況并非如此,但在我和 Andrej 看來,Tesla 是唯一有可能與 Google 相抗衡的路徑。即便如此,成為 Google 的對手的可能性依然很小,只是并非完全為零。

圖片

這可能也解釋了為什么 Karpathy 選擇了接馬斯克的 offer,成為特斯拉人工智能和自動駕駛部門負(fù)責(zé)人。

與此同時,為了拯救 OpenAI 的困境,Sam Altman 正在設(shè)計另一套模式「讓 4-5 家有興趣的大型企業(yè)投資的方式,該工具的回報上限為 50 倍」。由于缺少上下文,只能從這封郵件中得知,馬斯克被要求正式從董事會辭職:

「您在技術(shù)上仍然是董事會成員,需要向 Sam Altman 發(fā)送一句簡單的郵件,比如:通過此郵件,我在此正式辭去 OpenAI 董事職務(wù),自 2018 年 2 月 20 日起生效?!?/p>

圖片

后面的故事我們就很熟悉了,在 Sam Altman 的親自設(shè)計之下,OpenAI Inc. 搭建了一家「有收益上限」的有限合伙企業(yè) ——OpenAI LP,并以此為主體對外融資,根據(jù)協(xié)議安排,創(chuàng)始人團隊收益上限為 100 倍,微軟的收益上限為 5-10 倍,其他投資人的收益上限為 20 倍,員工為 10 倍。

而馬斯克退出了 OpenAI 董事會,并在公開場合表示,離開的原因是利益沖突:當(dāng)時特斯拉正在開發(fā)自動駕駛?cè)斯ぶ悄埽麄冃枰c OpenAI 爭奪人才。

然而不到六個月后,OpenAI 就獲得了微軟 10 億美元的投資,微軟還提供了基礎(chǔ)設(shè)施技術(shù),二者一起搭建了一臺超級計算機來訓(xùn)練 ChatGPT 以及圖像生成器 DALL-E 的大型模型,如 GPT-4 有 1 萬億個參數(shù)。

ChatGPT 一經(jīng)推出,OpenAI 立即成為最熱門的新興技術(shù)創(chuàng)業(yè)公司,甚至給谷歌造成了壓力。據(jù)知情人士透露,馬斯克對此非常憤怒。

雖然馬斯克發(fā)起的這場訴訟才剛開始,但目前披露的訴訟材料已經(jīng)夠商戰(zhàn)電視劇演上一季了。至于未來還會有什么更精彩劇情上演,讓我們一起見證!

本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表,版權(quán)歸原作者所有。文章系作者個人觀點,不代表創(chuàng)業(yè)邦立場,轉(zhuǎn)載請聯(lián)系原作者。如有任何疑問,請聯(lián)系editor@cyzone.cn。

反饋
聯(lián)系我們
推薦訂閱