五月天成人小说,中文字幕亚洲欧美专区,久久妇女,亚洲伊人久久大香线蕉综合,日日碰狠狠添天天爽超碰97

黃仁勛對(duì)話 Arm CEO:AI 正在推動(dòng)新工業(yè)革命,英偉達(dá)每年設(shè)計(jì) 6~7 款芯片,相同能耗成本下提升 2~3 倍性能

英偉達(dá) CEO 黃仁勛與 Arm CEO Rene Haas 探討了技術(shù)發(fā)展的現(xiàn)狀和未來(lái),涵蓋了數(shù)據(jù)中心架構(gòu)的演進(jìn)、AI 技術(shù)的前景以及企業(yè)如何在快速變化的環(huán)境中保持競(jìng)爭(zhēng)力。

圖片

編者按:本文來(lái)自微信公眾號(hào) 有新Newin(ID:NewinData),創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

近日,英偉達(dá) CEO 黃仁勛與 Arm CEO Rene Haas 探討了技術(shù)發(fā)展的現(xiàn)狀和未來(lái),涵蓋了數(shù)據(jù)中心架構(gòu)的演進(jìn)、AI 技術(shù)的前景以及企業(yè)如何在快速變化的環(huán)境中保持競(jìng)爭(zhēng)力。

黃仁勛指出,隨著計(jì)算需求的增加,數(shù)據(jù)中心的功率密度從最初的每機(jī)架 12 千瓦迅速增長(zhǎng)到 120 千瓦,甚至更高。

這種變化帶來(lái)了技術(shù)上的挑戰(zhàn),包括冷卻效率、網(wǎng)絡(luò)延遲等問(wèn)題。英偉達(dá)通過(guò)提高計(jì)算密度和改進(jìn)系統(tǒng)設(shè)計(jì),致力于延長(zhǎng)電傳輸時(shí)間,減少光傳輸?shù)霓D(zhuǎn)換成本,從而提升能源效率和可靠性。

黃仁勛認(rèn)為,AI 技術(shù)不僅僅是傳統(tǒng)計(jì)算機(jī)行業(yè)的一部分,而是正在推動(dòng)一場(chǎng)新的工業(yè)革命。如今,計(jì)算機(jī)不再只是工具,而是一個(gè)“智能制造工廠”,可以 24 小時(shí)不間斷地生成智能輸出。這種轉(zhuǎn)變使得計(jì)算機(jī)從工具角色演變?yōu)樯a(chǎn)“智能代幣”的機(jī)器,推動(dòng)了整個(gè)行業(yè)的變革。

面對(duì)摩爾定律逐漸失效的現(xiàn)實(shí),黃仁勛強(qiáng)調(diào)英偉達(dá)通過(guò)“協(xié)同設(shè)計(jì)”來(lái)實(shí)現(xiàn)指數(shù)級(jí)性能提升。

每年英偉達(dá)都會(huì)設(shè)計(jì)六七種新芯片,并改進(jìn)系統(tǒng)架構(gòu),如引入 NVLink 交換機(jī)、3D 封裝等技術(shù),從而在相同的能耗和成本下實(shí)現(xiàn)兩到三倍的性能提升,這種策略在很大程度上加速了 AI 計(jì)算的普及。

黃仁勛還提到,在塑造市場(chǎng)和引導(dǎo)行業(yè)發(fā)展時(shí),“教學(xué)”比“廣告”更重要。英偉達(dá)通過(guò)教育市場(chǎng)、展示技術(shù)應(yīng)用來(lái)獲得更多用戶和合作伙伴的支持。

這種教學(xué)式的市場(chǎng)引導(dǎo)方式有助于讓生態(tài)系統(tǒng)的各個(gè)參與者理解技術(shù)的價(jià)值,并逐步接受新的計(jì)算理念。

以下為這場(chǎng)對(duì)話的全部?jī)?nèi)容,enjoy~

Rene Haas

見(jiàn)到你很開(kāi)心。這次回到英偉達(dá)真是太棒了。我在這里工作的時(shí)候,這棟大樓還不存在呢。

Jensen Huang

那是多久前的事了?二十年?

Rene Haas

我 2006 年開(kāi)始在這里工作,2013 年離開(kāi)。是的,差不多二十年前。這些大樓當(dāng)時(shí)都還不存在。不過(guò)現(xiàn)在回來(lái)感覺(jué)依舊很親切。感謝你抽出時(shí)間,邀請(qǐng)我來(lái)。

如今英偉達(dá)已經(jīng)成長(zhǎng)得如此之大,有件事我一直很感興趣,就是公司的招聘文化確實(shí)非常獨(dú)特。英偉達(dá)以一種獨(dú)特的方式做事,你是如何識(shí)別那些在英偉達(dá)會(huì)取得成功的人才的?

Jensen Huang

我們并不總是能做到這一點(diǎn)??纯茨憔椭懒耍@其實(shí)總是有點(diǎn)碰運(yùn)氣的成分。我認(rèn)為面試并不是評(píng)估一個(gè)人是否合適的最佳方式。

每個(gè)人都能在面試時(shí)表現(xiàn)得很出色,甚至可以通過(guò)觀看 YouTube 學(xué)習(xí)如何面試。當(dāng)然,技術(shù)性的問(wèn)題,我們會(huì)盡可能嚴(yán)格和困難,但這并不容易。我個(gè)人的做法通常是回到參考檢查,詢問(wèn)我本來(lái)打算問(wèn)候選人的問(wèn)題。

因?yàn)槟憧偪梢栽谀硞€(gè)時(shí)刻表現(xiàn)得很出色,但你無(wú)法逃避你的過(guò)去,所以這種方法還不錯(cuò)。我喜歡問(wèn)一個(gè)深入的問(wèn)題,然后觀察他們的思維過(guò)程。

但最終,英偉達(dá)對(duì)很多人來(lái)說(shuō)都是成功的。正如你所知道的,我們的流失率非常低,公司內(nèi)部非常多元化,有很多有趣的人和背景。我們有來(lái)自幾乎所有頂級(jí)公司的員工,并且我們?cè)谶@里讓他們都能成功。

因此,從某種意義上說(shuō),建立偉大的公司一方面是找到優(yōu)秀的人才,另一方面則是創(chuàng)造條件,讓這些人超越他們自己的預(yù)期。

這很大程度上取決于我們對(duì)英偉達(dá)的愿景和戰(zhàn)略進(jìn)行的透明解釋。我花了很多時(shí)間在這方面。公司一直以透明著稱,會(huì)解釋我們面臨的挑戰(zhàn)、機(jī)會(huì)以及執(zhí)行的戰(zhàn)略。信息在公司內(nèi)部流通得非常順暢,大家都清楚公司的戰(zhàn)略是什么。

我總覺(jué)得,當(dāng)公司有太多的分隔或需要知道的基礎(chǔ)時(shí),情況會(huì)有點(diǎn)奇怪。當(dāng)然,人們確實(shí)不需要了解他們不需要知道的事情。但他們知道得越多,就越有能力為公司做出正確的決策。

所以我傾向于更透明,傾向于賦予員工更多的權(quán)力。因此,公司成了世界上最小的大公司。這種高生產(chǎn)力來(lái)源于我們擁有的 3 萬(wàn)多名員工,他們每天都在做出數(shù)百個(gè)決定。

如果所有 3 萬(wàn)名員工都在同一個(gè)方向上,即使是在模糊的情況下做出決策,但他們的選擇都是為了公司的長(zhǎng)期最佳利益,那么這種積累是非常有意義的。

Rene Haas

其中一個(gè)讓我總是驚訝的事情就是,你提到的那一點(diǎn)——我不知道這是因?yàn)檎衅傅胶线m的人還是自我選擇的結(jié)果,但擁有那些在面對(duì)不確定性時(shí)非常自信的高級(jí)領(lǐng)導(dǎo),并且你會(huì)深入公司各個(gè)層級(jí),把正確的人召集到一起,解決問(wèn)題。這是如何形成的?

公司成長(zhǎng)過(guò)程中,你和愿景一致的高級(jí)領(lǐng)導(dǎo)一起成長(zhǎng),這一文化自然而然地形成了嗎?因?yàn)檫@真的很令人驚嘆,當(dāng)我在英偉達(dá)工作時(shí),許多高層領(lǐng)導(dǎo)都非常適應(yīng)這種情況,你能夠直接找到合適的人,一起解決問(wèn)題。

Jensen Huang

首先,我沒(méi)有特別詢問(wèn)他,你記得我也記得。而這是因?yàn)橛行┦虑槭秋@而易見(jiàn)的,不需要去征求許可。

所以我們?cè)O(shè)置這樣的方式,是因?yàn)橛ミ_(dá)從一開(kāi)始就是設(shè)計(jì)成一個(gè)全棧計(jì)算公司,我們的目標(biāo)是構(gòu)建 GPU 、 CPU 、網(wǎng)絡(luò)芯片和交換機(jī),我們會(huì)設(shè)計(jì)芯片架構(gòu),開(kāi)發(fā)系統(tǒng)軟件,創(chuàng)造算法,甚至求解器。

如何組織這樣的事情呢?一方面所有東西必須協(xié)同工作,另一方面又需要分階段構(gòu)建。因此,我們解決這個(gè)問(wèn)題的方法是,避免組織上的孤立,將組織視為一個(gè)地方,領(lǐng)導(dǎo)者可以培養(yǎng)人才,為他們創(chuàng)造成功的條件,幫助他們排除障礙等等。

而真正的老板是任務(wù)本身,它橫跨整個(gè)公司,涉及系統(tǒng)、芯片、網(wǎng)絡(luò)交換機(jī)、軟件和算法等領(lǐng)域。通過(guò)這樣的組織方式,我們還實(shí)現(xiàn)了透明化,打破了各個(gè)孤立的部門(mén)。

組織結(jié)構(gòu)越開(kāi)放,往往會(huì)越好,因?yàn)橛懈嗳丝梢詭湍闩u(píng)和改進(jìn)。我非常喜歡我們公司的開(kāi)放性,一切都是透明的,每個(gè)人都在幫助我改進(jìn)。

Rene Haas

差點(diǎn)就被你們收購(gòu)了,那應(yīng)該會(huì)很有趣。但你們收購(gòu)了 Mellanox 。

Jensen Huang

你還為此難過(guò)嗎?

Rene Haas

是啊,每天我都會(huì)小小地傷心一下,但我還是在這里,謝謝。

Jensen Huang

但你們表現(xiàn)得非常好。

Rene Haas

你們收購(gòu)了 Mellanox ,這不僅在戰(zhàn)略上是一次極好的收購(gòu),而且從外部來(lái)看,你們的執(zhí)行看起來(lái)非常無(wú)縫。這樣的整合是怎么做到的?并購(gòu)過(guò)程通常非常艱難。

Jensen Huang

確實(shí)非常艱難。首先, Mellanox 管理團(tuán)隊(duì)中有十到十二人現(xiàn)在是英偉達(dá)以色列管理團(tuán)隊(duì)的成員,參與了公司高層會(huì)議。

我們涵蓋了架構(gòu)、研究、軟件系統(tǒng)、芯片、網(wǎng)絡(luò)接口控制器和交換機(jī)。我們現(xiàn)在有 NVLink 交換機(jī),最初只有 Infiniband 產(chǎn)品線,現(xiàn)在還有完整的以太網(wǎng)產(chǎn)品線。

在這短短的時(shí)間內(nèi), Mellanox 的產(chǎn)品組合已經(jīng)增長(zhǎng)了四倍,并整合到了我們所做的每一個(gè)方面。

如果你回顧這次轉(zhuǎn)型和收購(gòu),我們的愿景是計(jì)算單元不再僅僅是一個(gè) GPU (以前是輔助設(shè)備)。

實(shí)際上,收購(gòu)幫助我們從算法公司,也就是 GPU 公司,過(guò)渡為一家真正的計(jì)算公司。這是我們進(jìn)入的第一步。

最初,構(gòu)建 SoC(片上系統(tǒng))對(duì)我們來(lái)說(shuō)并不容易,現(xiàn)在我們已經(jīng)做得很好。接下來(lái)的演進(jìn)是構(gòu)建系統(tǒng), DGX1 是我們的第一個(gè)產(chǎn)品。我對(duì) Shield(我們的 Android 電視)也非常有感情,因?yàn)樗俏覀冏畛鮿?chuàng)建的完整系統(tǒng)。

Rene Haas

開(kāi)發(fā) Shield 的過(guò)程肯定很令人難忘。當(dāng)時(shí)我們還在摸索如何做到這一點(diǎn)。

Jensen Huang

是的,它至今仍是最受歡迎的 Android 電視盒。回想起來(lái),當(dāng)時(shí)它就像是 PlayStation 或 Xbox 控制器帶顯示器,我們都在思考如何實(shí)現(xiàn)這一切。這是英偉達(dá)最讓我喜歡的產(chǎn)品之一。

Rene Haas

幾乎都快忘了這段經(jīng)歷,但這確實(shí)是個(gè)系統(tǒng)性學(xué)習(xí)的過(guò)程。

Jensen Huang

我學(xué)到了很多,至今我們還在維護(hù)相關(guān)的軟件。

Rene Haas

最初很難看出市場(chǎng)對(duì)此有需求,團(tuán)隊(duì)突然需要為整個(gè)產(chǎn)品線采購(gòu)零部件,真是讓人措手不及。

Jensen Huang

這是我讓英偉達(dá)轉(zhuǎn)型為系統(tǒng)公司的借口, DGX1 是改變一切的計(jì)算機(jī)。

Rene Haas

很大的 Shield。

Jensen Huang

沒(méi)錯(cuò)。所以對(duì)我來(lái)說(shuō),雖然Shield是用塑料做的,而 DGX1 重達(dá) 600 磅,這種轉(zhuǎn)變并不算什么大事。真正重要的是,我們現(xiàn)在能夠構(gòu)建系統(tǒng)。

而當(dāng)我們收購(gòu) Mellanox 時(shí),真正的理念是計(jì)算機(jī)不再僅僅是一個(gè)節(jié)點(diǎn),而是整個(gè)數(shù)據(jù)中心成為計(jì)算的單位。

如果你不設(shè)計(jì)好 GPU 、 CPU 、網(wǎng)絡(luò)接口、交換機(jī)、所有的收發(fā)器,并把它們?nèi)窟B接在一起,能夠從無(wú)到有啟動(dòng)這個(gè)系統(tǒng),將所有組件有序地運(yùn)行并分布工作負(fù)載,那么你就無(wú)法真正理解構(gòu)建這些 AI 超級(jí)集群的意義。

這個(gè)轉(zhuǎn)型和愿景非常清晰,以至于能夠團(tuán)結(jié)兩支團(tuán)隊(duì)。為了凝聚團(tuán)隊(duì),你需要有一個(gè)非常清晰的愿景,對(duì)吧?

我們的愿景非常明確,而且這個(gè)愿景也是非常具體的,因?yàn)槟憧梢钥吹剿谀忝媲斑\(yùn)行,有超級(jí)集群,有來(lái)自兩家公司的所有設(shè)備,所以這個(gè)愿景是清晰且鼓舞人心的。

對(duì)于 CEO 來(lái)說(shuō),需要將抽象的事物變得具體化,然后我們就去構(gòu)建它了。不僅如此,我也認(rèn)為他們的文化也很棒。

Rene Haas

這種清晰性確實(shí)幫助很大。不過(guò)回到愿景本身,還有一個(gè)故事我想說(shuō)說(shuō),比如早期 CUDA 的應(yīng)用追逐油氣行業(yè),這完全不明顯。

Jensen Huang

大家當(dāng)時(shí)并沒(méi)有意識(shí)到,那其實(shí)是我們的第一個(gè)項(xiàng)目。

Rene Haas

確實(shí),那是第一個(gè),完全看不出真正的殺手級(jí)應(yīng)用或最終狀態(tài)是什么。然而,你們對(duì)早期的創(chuàng)意和實(shí)驗(yàn)展現(xiàn)了驚人的韌性,哪怕市場(chǎng)似乎沒(méi)有準(zhǔn)備好,甚至對(duì)這個(gè)定義還不明確。這是直覺(jué)的體現(xiàn)嗎?還是說(shuō)這種能力從何而來(lái)?

Jensen Huang

我們確實(shí)有很好的直覺(jué),你知道,公司成立以來(lái)有大約十次這樣的時(shí)刻。英偉達(dá)的優(yōu)勢(shì)在于我們周圍都是非凡的人才,世界上最優(yōu)秀的計(jì)算機(jī)科學(xué)家、戰(zhàn)略家和商業(yè)人士,他們沒(méi)有自負(fù)之心,想要做偉大的事情。

我認(rèn)為我們起點(diǎn)很好。其次,我們的直覺(jué)也很好,特別是在判斷哪些問(wèn)題需要解決,以及如何從現(xiàn)在走向我們想成為的公司。我們對(duì)于要實(shí)現(xiàn)的各種階段性目標(biāo)有很好的直覺(jué)。

比如當(dāng)有人問(wèn)我,為什么要打造 Shield,這不是浪費(fèi)時(shí)間嗎?我說(shuō),總有一天我們會(huì)成為一家系統(tǒng)公司,而所有這些系統(tǒng)都會(huì)連接到云服務(wù)上。為什么要在最龐大的系統(tǒng)上消耗精力,不如先做這個(gè)小的。

如果我們連這個(gè)都做不好,那么更大的就更不用說(shuō)了。我們需要為公司創(chuàng)造條件,讓它可以學(xué)習(xí)新技能、嘗試失敗,而不會(huì)對(duì)自身造成損害。

Rene Haas

這種情況只有在公司領(lǐng)導(dǎo)者是創(chuàng)始人的時(shí)候才能發(fā)生嗎?畢竟,很少有公司能做到你剛才描述的這些,無(wú)論是在愿景的清晰性方面,還是在持續(xù)理解前進(jìn)方向的韌性上。最近關(guān)于“創(chuàng)始人模式”和“管理者模式”的討論很多。

顯然,你作為創(chuàng)始人,在公司成立30年后仍然領(lǐng)導(dǎo)著公司,并取得了巨大的成功。那么,你所描述的這種成就是否只能由創(chuàng)始人領(lǐng)導(dǎo)公司時(shí)才能實(shí)現(xiàn)?

Jensen Huang

我不這么認(rèn)為。我認(rèn)為你在 Arm 做得很出色??吹侥阍诠ぷ鲿r(shí)的表現(xiàn),我非常自豪。

Rene Haas

這是真的,我從你身上學(xué)到了很多。

Jensen Huang

看到你工作讓我感到快樂(lè)和驕傲。我不認(rèn)為只有創(chuàng)始人能做到這些。我認(rèn)為確實(shí)需要極大的韌性和堅(jiān)持。我通常把它描述為痛苦和折磨,這是成長(zhǎng)的過(guò)程。痛苦和折磨是不可避免的,我深有體會(huì),而且你必須習(xí)慣這種感覺(jué)。

通向成功的道路并不是一個(gè)接一個(gè)的成就,而是有巨大的挫折,有時(shí)甚至是令人尷尬的時(shí)刻。作為 CEO ,你還沒(méi)經(jīng)歷這些,但它會(huì)發(fā)生。我希望它發(fā)生,因?yàn)檫@對(duì)你有好處。

你知道,那些時(shí)刻,我不確定學(xué)到了什么,但它確實(shí)讓我變得更強(qiáng)大。我知道我可以挺過(guò)去。當(dāng)時(shí)我可能不喜歡這些經(jīng)歷,但回頭看,那些就是讓你為自己和公司感到驕傲的時(shí)刻。

所以我認(rèn)為我們的公司之所以強(qiáng)大,是因?yàn)槲覀冇泻芏噙@樣的故事。這家公司里充滿了一次又一次挫折的非凡故事。

Rene Haas

而且經(jīng)歷過(guò)這些的領(lǐng)導(dǎo)者很多。

Jensen Huang

是的,大多數(shù)人都會(huì)覺(jué)得:“這不算什么,這比起以前的某個(gè)挫折輕多了?!泵看斡龅教魬?zhàn)時(shí),我們都會(huì)想起那些更艱難的時(shí)刻,反而讓公司更有能力應(yīng)對(duì)當(dāng)前的挑戰(zhàn)。

Rene Haas

你我在這個(gè)行業(yè)的時(shí)間差不多長(zhǎng)?,F(xiàn)在 AI 的某些進(jìn)展讓我感到,這是我以前從未想過(guò)的,我原以為只有下一代人才能見(jiàn)證這種變革?,F(xiàn)在的感覺(jué),就像進(jìn)入了“終極前沿”,我無(wú)法想象 AI 之后還會(huì)有什么。

你怎么看?我們是不是加速進(jìn)入了一個(gè)前所未有的變革時(shí)期?還有什么能在這之后到來(lái)嗎?現(xiàn)在所看到的一切真是令人難以置信。

Jensen Huang

我一直認(rèn)為計(jì)算機(jī)會(huì)表現(xiàn)出智能行為,我們可以編寫(xiě)出非常好的軟件,我以為我們會(huì)手動(dòng)編寫(xiě)這些算法,讓它們最終解決問(wèn)題,使得計(jì)算機(jī)看起來(lái)很智能。但我從未想過(guò)這會(huì)引發(fā)一場(chǎng)工業(yè)革命。

我的意思是,你聽(tīng)我說(shuō)過(guò)的,現(xiàn)在計(jì)算機(jī)行業(yè)首次超越了傳統(tǒng)的計(jì)算機(jī)行業(yè)。我們不再僅僅是一個(gè)工具或儀器,而是一個(gè)制造行業(yè)。就像現(xiàn)在,我們的手機(jī)在口袋里沒(méi)有被使用時(shí),它對(duì)我們沒(méi)有任何作用。

大多數(shù)計(jì)算機(jī)也是這樣的,比如我的筆記本電腦放在辦公室時(shí)沒(méi)在運(yùn)行。你需要工具時(shí),才去使用它。

然而,現(xiàn)在的 AI 工廠則不一樣,這是我們正在構(gòu)建的一個(gè)新行業(yè),它們始終在運(yùn)行,無(wú)論你是否在使用。它們?cè)谔幚頂?shù)據(jù)、生成“智能代幣”,以非常大規(guī)模制造智能。這種計(jì)算機(jī)從工具轉(zhuǎn)變?yōu)橹圃煸O(shè)備,并大規(guī)模生產(chǎn)極有價(jià)值的東西,這是一次全新的工業(yè)革命。

Rene Haas

你參與了從 AlexNet 到 DGX1 的整個(gè)過(guò)程,見(jiàn)證了這一切。AI 的進(jìn)展速度比我想象的要快得多,比兩年半前甚至一年前的預(yù)測(cè)要快得多。作為其中的核心人物,這是否比你想象的還要迅速?

Jensen Huang

我們正努力加快進(jìn)展,現(xiàn)在已經(jīng)進(jìn)入了一年一個(gè)周期。原因是技術(shù)有機(jī)會(huì)快速發(fā)展,特別是因?yàn)槲覀儸F(xiàn)在不僅僅是在制造芯片。

芯片的進(jìn)展速度是有限的,就算使用新工藝節(jié)點(diǎn),能夠獲得幾個(gè)百分點(diǎn)的提升已經(jīng)很了不起了。那么,我們?nèi)绾卧诿恳淮袑?shí)現(xiàn)指數(shù)級(jí)的性能提升呢?

我們的方法是為每個(gè)系統(tǒng)設(shè)計(jì)六七種新芯片,然后通過(guò)協(xié)同設(shè)計(jì)重新發(fā)明整個(gè)系統(tǒng),發(fā)明新的東西,比如 NVLink 交換機(jī)、新的系統(tǒng)機(jī)架,使我們能夠通過(guò)系統(tǒng)的整個(gè)背板驅(qū)動(dòng)銅纜連接所有 GPU ,以及使用大型封裝、3D封裝等各種技術(shù)。

通過(guò)這些技術(shù)手段,我們每年可以在相同的能量和成本下實(shí)現(xiàn)兩到三倍的性能提升。這也相當(dāng)于每年將 AI 的成本降低兩到三倍,這個(gè)速度遠(yuǎn)遠(yuǎn)超過(guò)摩爾定律。

因此,如果你將這種進(jìn)步持續(xù)五六年甚至十年,我們就能夠極大地降低智能計(jì)算的成本。

我們之所以這樣做,是因?yàn)楝F(xiàn)在大家都認(rèn)識(shí)到了這一技術(shù)的價(jià)值。如果我們能夠大幅降低成本,我們可以在推理時(shí)做一些事情,比如推理過(guò)程。

像現(xiàn)在使用ChatGPT時(shí),它加載提示并生成輸出。但未來(lái),它將會(huì)迭代推理出答案,或許會(huì)進(jìn)行樹(shù)搜索,也可能會(huì)自我反思答案,最終得出結(jié)果。

它可能會(huì)進(jìn)行數(shù)百次甚至上千次推理,但答案的質(zhì)量會(huì)顯著提升。我們希望降低成本,以便能夠以與過(guò)去相同的成本和響應(yīng)速度提供這種新的推理推理。

Rene Haas

我看到過(guò) OpenAI 模型的演示,它進(jìn)行推理時(shí)令人震驚。它使用了邏輯樹(shù),做出了權(quán)衡決策,就像人類一樣,但速度完全超越了人類的思考方式。

Rene Haas

現(xiàn)在情況更有趣了。你們正在以一個(gè)前所未有的速度引入系統(tǒng)和整個(gè)數(shù)據(jù)中心基礎(chǔ)設(shè)施。以前 CPU 每?jī)扇旮乱淮?,最終被折舊?,F(xiàn)在你們每年都在構(gòu)建系統(tǒng),人們都迫切希望盡快部署這些系統(tǒng)。

Jensen Huang

是的,現(xiàn)在說(shuō)起來(lái)很簡(jiǎn)單,但你知道,我們每年都在交付像這個(gè)房間大小的新計(jì)算機(jī),包括所有的電纜、網(wǎng)絡(luò)、交換機(jī)、軟件,這真的很瘋狂。

Rene Haas

我想問(wèn)一個(gè)更具前瞻性的問(wèn)題,這不僅僅是技術(shù)吸收的問(wèn)題,這樣的速度還能繼續(xù)保持嗎?

Jensen Huang

我認(rèn)為可以,但必須以系統(tǒng)化的方式進(jìn)行。也就是說(shuō),我們?cè)诩軜?gòu)上的一切操作都要系統(tǒng)化。這意味著為昨天的集群(比如 Hopper )開(kāi)發(fā)的軟件也可以在 Blackwell 上運(yùn)行,并且 Ruben 上的軟件也可以運(yùn)行在 Hopper 上。

這種架構(gòu)兼容性非常關(guān)鍵,因?yàn)樾袠I(yè)在軟件上的投資是硬件的 1000 倍,而且軟件永遠(yuǎn)不會(huì)過(guò)時(shí)。如果你開(kāi)發(fā)了軟件,并發(fā)布了它,那么你就必須一直維護(hù)它。所以, CUDA 的想法不僅僅是有數(shù)百萬(wàn)人在為其編程,而是數(shù)億個(gè)兼容的 GPU ,軟件不會(huì)消亡。

Rene Haas

軟件永遠(yuǎn)不會(huì)消亡。

Jensen Huang

所以,你在一個(gè) GPU 上的投資可以延續(xù)到所有其他 GPU 上。今天編寫(xiě)的所有軟件將來(lái)會(huì)變得更好,未來(lái)的所有軟件也能在現(xiàn)有的安裝基礎(chǔ)上運(yùn)行。

因此,首先我們必須在架構(gòu)上保持嚴(yán)謹(jǐn)。其次,即使在系統(tǒng)層面,我們也能在不拋棄之前成果的情況下改進(jìn)技術(shù)。

例如,當(dāng)我們首次進(jìn)入數(shù)據(jù)中心業(yè)務(wù)時(shí),超大規(guī)模數(shù)據(jù)中心的電力分配大約是每機(jī)架 12 千瓦。而 Blackwell 的電力分配是每機(jī)架 120 千瓦,是密度的 10 倍。

當(dāng)然,密度的提升使得服務(wù)器數(shù)量減少了數(shù)百萬(wàn)臺(tái),全部壓縮到一個(gè)機(jī)架中,因此節(jié)省的能量、空間簡(jiǎn)直是不可思議的。

Rene Haas

這與我們的故事很相似。Arm 架構(gòu)已經(jīng)存在了 30 年,為它編寫(xiě)的軟件也有幾十年了。這是人們有時(shí)沒(méi)有意識(shí)到的。

Jensen Huang

沒(méi)錯(cuò),我們關(guān)心每一個(gè) Arm 芯片上的開(kāi)發(fā)成果。最近有人做了基準(zhǔn)測(cè)試,Grace 每瓦性能是世界上最好的 CPU 的四倍。是的,能效至關(guān)重要。

Rene Haas

是的,這一切都很重要。你認(rèn)為當(dāng)數(shù)據(jù)中心從 500 兆瓦增長(zhǎng)到 5 吉瓦時(shí),從架構(gòu)角度上是否會(huì)出現(xiàn)什么問(wèn)題,比如網(wǎng)絡(luò)延遲之類的?不涉及機(jī)密內(nèi)容的話,從物理的角度來(lái)看,是否會(huì)開(kāi)始出現(xiàn)一些瓶頸?

Jensen Huang

當(dāng)然會(huì),一切都會(huì)遇到問(wèn)題。物理規(guī)律必須遵循,這就是挑戰(zhàn)所在。首先,我們正在快速推進(jìn)功率密度曲線,從 12 千瓦到 40 千瓦,再到 120 千瓦,這還會(huì)繼續(xù)增加。因此,我們盡可能地壓縮和提高計(jì)算密度。

在這個(gè)過(guò)程中,液冷的效率更高,并且我們可以更長(zhǎng)時(shí)間地使用銅纜。盡可能長(zhǎng)時(shí)間地使用電傳輸是有利的,因?yàn)橐坏┺D(zhuǎn)換為光傳輸,成本和復(fù)雜性都會(huì)增加。

所以,我們會(huì)盡量保持電傳輸?shù)臓顟B(tài)。這種策略更加經(jīng)濟(jì)高效、節(jié)能且可靠,因此我們會(huì)繼續(xù)提高密度。

另一個(gè)提高密度的好處是,位于同一機(jī)架或相鄰機(jī)架的所有 GPU 可以像一個(gè)統(tǒng)一的設(shè)備一樣運(yùn)行,真是相當(dāng)驚人。

Rene Haas

我一直很好奇,Jensen,你在 Computex 的主題演講。我記得你有一次是在星期天晚上進(jìn)行的,演講內(nèi)容的體量和深度令人難以置信。

作為一個(gè)也會(huì)做主題演講的人,我的內(nèi)容遠(yuǎn)沒(méi)有那么長(zhǎng)和深入,我真的很佩服你是怎么做到的。

你是進(jìn)行了大量的排練嗎?我記得當(dāng)我們以前一起工作的時(shí)候,有時(shí)會(huì)在演講前一天晚上還在修改內(nèi)容,你依然能出色地完成?,F(xiàn)在你的演講尤其涉及數(shù)據(jù)中心架構(gòu),并且涵蓋了更多內(nèi)容,你是如何準(zhǔn)備這些的?

Jensen Huang

我們每天都在為此準(zhǔn)備。我們的工作和演員不同,實(shí)際上我們是在生活中做這些事情,對(duì)吧?所以首先,我們每天都在準(zhǔn)備。

坦率地說(shuō),我們所做的很多事情本質(zhì)上是教學(xué),為了引導(dǎo)行業(yè)、塑造市場(chǎng)并引入新思想,我們的工作很多是教學(xué)。

我們不是做廣告,因?yàn)槲覀兪且粋€(gè)平臺(tái)公司,這意味著我們不能獨(dú)自完成我們的工作,需要其他人的參與和合作。

所以,我們的工作是教學(xué)、啟發(fā)、展示、演示,并希望一步步地吸引更多人加入,從 CUDA 的早期,到今天的英偉達(dá)加速計(jì)算,以及 AI 的發(fā)展旅程。

現(xiàn)在,我們正在研究的下一個(gè)大事是“物理 AI ”,即如何讓 AI 既遵循物理規(guī)律,又理解物理規(guī)律。

我認(rèn)為這個(gè)旅程相當(dāng)漫長(zhǎng),而 GTC 和 Computex 給了我們這樣的機(jī)會(huì),讓我們慶祝我們的生態(tài)系統(tǒng)和他們的成果,啟發(fā)他們展望未來(lái)。

Rene Haas

很相似。我做季度業(yè)務(wù)回顧和演講時(shí),團(tuán)隊(duì)會(huì)說(shuō),幻燈片很簡(jiǎn)單,感覺(jué)是你整天都在講的東西。我會(huì)想,怎么可能不一樣呢?但事實(shí)上還是很難的。

Jensen Huang

說(shuō)實(shí)話,確實(shí)不容易。因?yàn)槲覀儗?shí)際上沒(méi)有時(shí)間排練。并不是因?yàn)槲覀冞x擇不排練,而是當(dāng)所有內(nèi)容都準(zhǔn)備好時(shí),已經(jīng)沒(méi)有時(shí)間去排練了。所以,我們只能“即興發(fā)揮”。

>>> 5 個(gè)硅谷最新 AI 共識(shí):未來(lái)將是多模型共存局面,單一 AI 模型不再占據(jù)主導(dǎo)地位,殺手級(jí)應(yīng)用已悄然出現(xiàn)......

>>> 文末參與硅谷最新 2024 AI 峰會(huì),超 100 個(gè)專題討論,500多家參展初創(chuàng)企業(yè),150+ 重量級(jí)演講嘉賓,包括來(lái)自 Google、Microsoft、Meta 等科技巨頭的高層管理者,以及 Glean、Interdimensional、Forethought、Weights & Biases、Mistral AI、Typeface AI 等AI領(lǐng)域領(lǐng)軍公司的創(chuàng)始人、CEO、CTO。

本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表,版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn),不代表創(chuàng)業(yè)邦立場(chǎng),轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問(wèn),請(qǐng)聯(lián)系editor@cyzone.cn。

反饋
聯(lián)系我們
推薦訂閱