編者按:本文來自微信公眾號(hào) 量子位(ID:QbitAI),作者:夢(mèng)晨,創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。
英偉達(dá)直接把服務(wù)器級(jí)別的算力塞進(jìn)了機(jī)器人體內(nèi)。
全新的機(jī)器人計(jì)算平臺(tái)Jetson Thor正式發(fā)售,基于最新的Blackwell GPU架構(gòu),AI算力直接飆升到2070 TFLOPS,比上一代Jetson Orin提高至整整7.5倍,同時(shí)能效提高至3.5倍。
128GB的超大內(nèi)存配置,在邊緣計(jì)算設(shè)備里是前所未有。
黃仁勛表示:
Jetson Thor助力全球百萬開發(fā)者構(gòu)建可與物理世界交互、甚至改變物理世界的機(jī)器人系統(tǒng)。具備無與倫比的性能與能效,還能夠在邊緣設(shè)備上同時(shí)運(yùn)行多個(gè)AI模型。
作為一款卓越的超級(jí)計(jì)算機(jī),Jetson Thor正在推動(dòng)物理AI與通用機(jī)器人時(shí)代真正到來。
Jetson Thor基于Jetson軟件棧優(yōu)化,支持所有流行的生成式AI框架和AI推理模型,包括主流語言模型Qwen、DeepSeek以及視覺語言動(dòng)作模型到和視覺語言模型等。
Jetson AGX THOR開發(fā)者套件美國(guó)售價(jià)3499美元(約25000人民幣,但中國(guó)售價(jià)尚未公布)。
T5000模組也已發(fā)售,購買1000片以上單價(jià)2999美元。
其中T5000模組是完整版,T4000模組則是為那些想從Orin升級(jí)的用戶準(zhǔn)備的精簡(jiǎn)版,功耗也從130W降到了75W。
性能爆表背后的技術(shù)細(xì)節(jié)
Thor的強(qiáng)悍不僅體現(xiàn)在AI算力上,人形機(jī)器人需要大量實(shí)時(shí)控制計(jì)算,需要CPU與AI算力同樣重要,存儲(chǔ)與帶寬方面也都得到了升級(jí)。
具體特性如下:
GPU:Blackwell架構(gòu),最高2560個(gè)CUDA核/9個(gè)第五代Tensor Core,并支持MIG技術(shù)(多實(shí)例 GPU)將GPU資源按多任務(wù)隔離與并行調(diào)度,適配并行多代理/多工作流場(chǎng)景。
CPU:14核Arm Neoverse V3AE,面向?qū)崟r(shí)控制與任務(wù)管理的確定性執(zhí)行與更高吞吐,CPU性能相較前代顯著提升。
存儲(chǔ)與帶寬:128GB 256-bit LPDDR5X,273GB/s顯存帶寬,為大型Transformer推理與高并發(fā)視頻編解碼提供保障。
功耗:40–130W,支持從移動(dòng)平臺(tái)到固定式機(jī)器人多樣熱/功耗配置,開發(fā)套件集成導(dǎo)熱板與風(fēng)扇便于熱設(shè)計(jì)評(píng)估。
視頻編解碼:多路4K/8K編解碼能力顯著增強(qiáng),有利于多攝并發(fā)與長(zhǎng)時(shí)視頻代理推理。
網(wǎng)絡(luò)與傳感:最多4×25GbE,搭配高速攝像頭卸載引擎與Holoscan Sensor Bridge,將相機(jī)、雷達(dá)、激光雷達(dá)等數(shù)據(jù)以極低時(shí)延直送 GPU 內(nèi)存,提升多傳感器融合與高頻閉環(huán)控制的穩(wěn)定性。
I/O:開發(fā)套件與量產(chǎn)模組提供 QSFP28、RJ45、USB 3.x、PCIe Gen5等接口,適配機(jī)器人傳感/執(zhí)行器與加速外設(shè)擴(kuò)展
在軟件優(yōu)化上,英偉達(dá)也下了功夫。
Jetson Thor原生支持NVIDIA Isaac(仿真/開發(fā))、Isaac GR00T(人形機(jī)器人基礎(chǔ)模型)、Metropolis(視覺 AI)、Holoscan(傳感器工作流),支持從云到邊緣統(tǒng)一開發(fā)/部署路徑。
通過FP4量化和推測(cè)解碼(speculative decoding)技術(shù),在某些模型上能再獲得2倍的性能提升。
數(shù)據(jù)顯示,Thor能在200毫秒內(nèi)給出第一個(gè)token響應(yīng),每秒能生成超過25個(gè)token,這個(gè)速度已經(jīng)能支撐實(shí)時(shí)人機(jī)對(duì)話。
研華科技、Aetina、ConnectTech、米文動(dòng)力、天準(zhǔn)科技等正在打造具備量產(chǎn)條件的Jetson Thor系統(tǒng),擁有靈活的輸入輸出接口、定制化配置,并能夠提供多種形態(tài)規(guī)格。
亞德諾半導(dǎo)體、e-con Systems、英飛凌、Leopard Imaging、RealSense、森云智能等傳感器與執(zhí)行器企業(yè),正將攝像頭、雷達(dá)、激光雷達(dá)等設(shè)備的傳感器數(shù)據(jù),以超低延遲直接傳輸至Jetson Thor的 GPU內(nèi)存中。
首批供應(yīng)里中國(guó)玩家占多數(shù)
第一批采用Thor的公司里,中國(guó)企業(yè)占了很大比例。聯(lián)影醫(yī)療、萬集科技、優(yōu)必選、銀河通用、宇樹科技、眾擎機(jī)器人和智元機(jī)器人等都已經(jīng)開始集成這個(gè)新平臺(tái)。
宇樹科技創(chuàng)始人王興興表示:“Jetson Thor帶來了計(jì)算能力的巨大飛躍,機(jī)器人更強(qiáng)的敏捷性、更快的決策制定以及更高的自主水平,這對(duì)于機(jī)器人在現(xiàn)實(shí)世界中實(shí)現(xiàn)導(dǎo)航與交互至關(guān)重要。”
銀河通用CTO王鶴則透露,他們的G1 Premium機(jī)器人在采用Thor后,運(yùn)動(dòng)速度和動(dòng)作流暢性已經(jīng)有了顯著提升。
此外波士頓動(dòng)力正將Jetson Thor集成到其人形機(jī)器人Atlas,讓Atlas得以在設(shè)備端搭載此前僅服務(wù)器才具備的計(jì)算能力。
Agility Robotics計(jì)劃將Jetson Thor作為第六代Digit計(jì)算核心,在倉庫與制造環(huán)境中執(zhí)行堆疊、裝載及碼垛等物流任務(wù)。
在演講中,英偉達(dá)機(jī)器人與邊緣AI副總裁Deepu Talla提出了這樣的觀點(diǎn):要真正實(shí)現(xiàn)物理AI和機(jī)器人,需要三臺(tái)計(jì)算機(jī)協(xié)同工作。
第一臺(tái)是用來訓(xùn)練AI的DGX系統(tǒng),第二臺(tái)是用來在仿真環(huán)境中測(cè)試AI的Omniverse平臺(tái),第三臺(tái)才是裝在機(jī)器人身上的”大腦”,也就是今天發(fā)布的Jetson Thor。
他特別強(qiáng)調(diào)仿真測(cè)試這一步至關(guān)重要,因?yàn)榉抡嫦啾仍谡鎸?shí)物理環(huán)境中開發(fā)更快、更安全、更便宜。
而且這不是一次性的過程,即使機(jī)器人部署到現(xiàn)場(chǎng)后,這個(gè)訓(xùn)練-仿真-部署的循環(huán)還會(huì)持續(xù)進(jìn)行,不斷升級(jí)機(jī)器人的能力。
參考鏈接:
[1]https://blogs.nvidia.cn/blog/jetson-thor-physical-ai-edge/
[2]https://blogs.nvidia.cn/blog/nvidia-blackwell-powered-jetson-thor-now-available-accelerating-the-age-of-general-robotics/
本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表,版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn),不代表創(chuàng)業(yè)邦立場(chǎng),轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問,請(qǐng)聯(lián)系editor@cyzone.cn。