編者按:本文來自微信公眾號 中國企業(yè)家雜志 (ID:iceo-com-cn) ,作者 :趙東山,編輯:李薇,創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。
人均年薪100萬,什么樣的行業(yè)具備如此優(yōu)渥的待遇?
答案是AI大模型。這是vivo副總裁周圍接受《中國企業(yè)家》等媒體采訪時給出的答案,他表示,“vivo大模型現(xiàn)在每年20億~30億元的投入成本,總投入成本已經(jīng)超過200億元,人才和數(shù)據(jù)算力各占一半,人才成本平均每人稅后100萬元?!?/strong>
過去一年,AI大模型席卷整個互聯(lián)網(wǎng)科技行業(yè),當大模型完成從0到1的基礎建設后,基于不同場景的大模型應用正在成為新一輪的競爭點,而擁有龐大用戶基數(shù)的智能手機廠商成為最早一批端側(cè)大模型的搶灘者。
從2023年8月起,國內(nèi)頭部智能手機廠商華為、小米、vivo、OPPO、榮耀相繼公布了大模型研發(fā)和落地計劃。
今年8月,華為鴻蒙OS 4率先宣布接入盤古大模型;小米緊隨其后,目前已訓練出13億和60億參數(shù)規(guī)模的語言大模型,并在小米澎湃OS系統(tǒng)和人工智能助手小愛同學的部分場景已經(jīng)得到應用。
到了11月,手機廠商的大模型發(fā)布節(jié)奏越發(fā)密集。11月初,vivo一口氣發(fā)布十億、百億、千億級別三個參數(shù)量級的五個大模型矩陣;隨后,OPPO正式推出自主訓練的安第斯大模型(AndesGPT),并接入最新操作系統(tǒng)ColorOS 14,AndesGPT支持從十億至千億多種不同參數(shù)規(guī)模模型。
手機廠商入場的心態(tài)絕不只是“重在參與”,而是真金白銀地大規(guī)模投入。今年4月,小米組建大模型團隊時,雷軍就表明態(tài)度:“全力支持,投入不設上限?!蹦壳埃?strong>小米內(nèi)部在做AI相關的研發(fā)人員超過3000人;向來低調(diào)的vivo創(chuàng)始人、總裁兼CEO沈煒也向團隊表示,“未來,AI將成為科技創(chuàng)新的底層技術。我們必須抓住這次歷史機遇,以高規(guī)格地投入,來打造引領行業(yè)的技術和產(chǎn)品,為智能時代的到來做出我們的歷史貢獻。”
毫無疑問,在智能手機出貨量下滑,用戶換機周期不斷延長,同質(zhì)化競爭嚴重的當下,端側(cè)大模型正在成為手機行業(yè)創(chuàng)新的新增量。但與此同時,如何將參數(shù)十億、百億的大模型內(nèi)置到手掌大小的手機中,以及能為手機企業(yè)帶來哪些實質(zhì)變化,也面臨著重重考驗。
挑戰(zhàn)
手機企業(yè)要想真正將大模型內(nèi)置到巴掌大小的手機中,其中就有個悖論:如果模型參數(shù)太大了,則手機端側(cè)根本就放不進去或跑不起來;但是如果模型太小了,可能又無法真正實現(xiàn)智能涌現(xiàn)。
端側(cè)大模型在落地執(zhí)行中,一個無法忽視的現(xiàn)實是,10億參數(shù)的數(shù)據(jù)在手機上會占用1G的內(nèi)存,70億參數(shù)的數(shù)據(jù)則會占用4G內(nèi)存,而當數(shù)據(jù)量達到130億參數(shù)時,內(nèi)存占用達到7G。然而,現(xiàn)在市面上絕大多數(shù)高端手機的運行內(nèi)存是12G或16G,如果大模型的數(shù)據(jù)量達到130億參數(shù)則意味著會占用掉7G的內(nèi)存,這將嚴重影響手機的運行流暢度。
但相比云上大模型,端側(cè)大模型的優(yōu)勢又顯而易見,比如可以充分保護用戶的隱私,在用戶使用過程中,用戶和大模型的交互數(shù)據(jù)不用上傳到云端。與此同時,端側(cè)大模型的響應速度會更快,一種最極端的情況就是即便在沒有網(wǎng)絡的情況下,端側(cè)大模型依然可以使用,而云上大模型在沒有網(wǎng)絡情況下則無法使用。
此外,云上大模型的調(diào)用成本高昂。“一次大模型云端計算的最低成本是1.2~1.5分人民幣,若3億用戶每天用十次,意味著手機廠商一年要多出100多億元的支出?!?/strong>一位AI大模型從業(yè)者告訴《中國企業(yè)家》。
因此,在現(xiàn)有的模型訓練水平基礎上,擺在手機廠商面前的是人才和技術積累的挑戰(zhàn),只有聚集到核心的技術人才,才能更好地解決這一困境,手機大模型之戰(zhàn)也在某種程度上意味著是人才和資金投入之戰(zhàn)。
周圍告訴《中國企業(yè)家》,自2017年組建AI全球研究院,vivo已經(jīng)組建了1000人以上的AI專家團隊,每年在人工智能上的投入保守估計在20億~30億元,目前已經(jīng)超過200億元,其中,數(shù)據(jù)、算力成本占自研大模型投入的一半,人員成本占了一半。
小米在人工智能上的布局同樣比較早,2016年AlphaGo出來之后,雷軍就開始大力投入AI,最開始是視覺團隊,后來逐漸拓展到AI的各個領域。
“小米有3000多人在做AI相關的研發(fā)工作,小米AI實驗室在視覺、聲學語音、NLP、知識圖譜、機器學習等方向,都有技術積累,從算法預研到工程落地具備很強的閉環(huán)能力。我們之前有一個人機對話團隊,做過28億參數(shù)的對話模型?!毙∶准瘓FAI實驗室主任、自然語言處理(NLP)首席科學家王斌表示。
除了手機廠商在努力布局大模型之外,智能手機的上游芯片制造商也正在加入這場戰(zhàn)爭。
2023年10月25日,高通發(fā)布新一代移動處理平臺驍龍8 Gen3。與上一代產(chǎn)品驍龍8 Gen2相比,驍龍8 Gen3不僅GPU、NPU性能大幅提升,更重要的是,它可以在終端側(cè)運行100億參數(shù)的模型。
高通著重在驍龍8 Gen3上提升了其芯片的AI計算能力,NPU性能大漲98%以上,在支持運行最高100億參數(shù)的模型外,還能夠運行每秒生成高達20個token(大模型中文本的最小單位)的70億參數(shù)大語言模型。這意味著,各類虛擬助手、GPT聊天機器人未來都能在手機等終端運行。
落地
《中國企業(yè)家》觀察發(fā)現(xiàn),幾乎所有的智能手機廠商在布局大模型時都采用了漸進式開發(fā)的路線,即先研發(fā)和訓練小參數(shù)規(guī)模的模型,等到把路上的坑都蹚一遍,再研發(fā)更大參數(shù)規(guī)模的模型。
關于不同級別模型的能力表現(xiàn),周圍告訴《中國企業(yè)家》:“據(jù)內(nèi)部測試,70億參數(shù)的大模型足夠做好簡單的文檔摘要和拆解的功能,但要想真正實現(xiàn)‘智能涌現(xiàn)’, 70億參數(shù)的大模型任務拆解能力還有提升空間,130億參數(shù)可能是更好的選擇。”
除了漸進式開發(fā)外,截至目前,智能手機廠商布局大模型也分為兩條路徑:第一,采用輕量化和本地化部署的手機端側(cè)大模型,典型廠商如小米和榮耀;第二,采用云、端協(xié)同的架構(gòu)設計,推出一個大模型矩陣,在云端部署百億、千億級別的大模型訓練模型,在手機端側(cè)部署十億級別的大模型,典型廠商如華為、vivo和OPPO。
2023年4月,王斌牽頭負責,小米技術委員會AI實驗室大模型團隊負責人欒劍帶隊,小米內(nèi)部正式成立了一支自研大模型團隊,雷軍親自推動了自研大模型團隊的建立,并全程高度參與了小米大模型的自研,他會親自查看團隊的周報、月報甚至日報,關注大模型進展。
小米自研的端側(cè)大模型,更強調(diào)跟產(chǎn)品的結(jié)合和場景的驅(qū)動?!靶∶状竽P图夹g的主力突破方向為輕量化、本地部署,我們不會純從技術角度考慮,也不會以比賽為目標。我們不搞軍備競賽,小米做大模型的出發(fā)點并不是成為中國的OpenAI。我們一開始就考慮大模型跟公司的場景怎么結(jié)合?!蓖醣蟾嬖V《中國企業(yè)家》。
與小米主要布局端側(cè)大模型不同,華為、vivo、OPPO自研大模型則采用“云、端協(xié)同”路徑,華為的盤古大模型、vivo的藍心大模型以及OPPO的安第斯大模型,均覆蓋十億、百億、千億多個參數(shù)量級。
“為什么要用矩陣來解決這個問題?因為今天的大模型叫語言大模型,只有語言和文字才有真正的大模型,聲音、視頻是沒有大模型的。在我能想象的算法沒有出現(xiàn)極大突破之前,矩陣式是比較好的解決方案?!敝車诮邮懿稍L時表示。
此外,周圍也表示,矩陣式大模型也是受到用戶需求和算力成本影響的綜合結(jié)果。第一,矩陣模式可以讓用戶在云上使用大模型的同時,在端側(cè)本地化運行關鍵數(shù)據(jù),滿足隱私及安全需求;第二,矩陣模式可以有效平衡云端算力成本過高的問題。
必須
縱然手機端側(cè)大模型困難重重,但參與其中正在成為手機廠商的必須。
2017年,智能手機市場迎來了有史以來的首次下跌,以中國市場出貨量下滑5%為節(jié)點,宣告智能手機行業(yè)進入存量時代。2023年第三季度,全球智能手機出貨量同比下滑8%,出現(xiàn)連續(xù)9個季度的衰退,同時也創(chuàng)下了近十年同期出貨量最差紀錄。
過去數(shù)年中,面對越來越同質(zhì)化的競爭,手機廠商們先后在快充、續(xù)航、全面屏、攝影、高刷新率等領域展開創(chuàng)新與內(nèi)卷。當下,端側(cè)大模型正在成為他們渴望抓住的創(chuàng)新入口。畢竟,誰也不想因為錯過某一個風口而成為下一個諾基亞。
“AIGC是我做手機以來,最讓我興奮的一個技術的創(chuàng)新,甚至可以說是革命。它會為移動生活的體驗帶來革命性的變化。大模型的知識超出了個體的知識,它可以像一個人一樣理解你的語言,每天觀察你、學習你、了解你的習慣,給你最好的幫助,完成你的任務?!闭劶按竽P蜁r,OPPO首席產(chǎn)品官劉作虎告訴《中國企業(yè)家》。在他看來,未來手機就是一個超級助理,與ChatGPT有異曲同工之妙。
手機廠商的大模型也正在逐步落地到其人工智能應用中,比如,華為P60和Mate60系列手機的小藝智慧助手已經(jīng)接入盤古大模型。與此同時,OPPO的小布、小米的小愛同學等均已接入各自的大模型。此外,在vivo最新發(fā)布的X100機型中,明確為用戶提供了端側(cè)大模型的下載選項功能,用戶可自愿選擇是否下載,也可選擇在云上還是本地運行。
手機端的大模型應用也確實在改善用戶的使用體驗。比如以往要找到圖庫中的某一張照片,需要非常精確地搜索關鍵詞,但是在大模型時代,只需告訴AI語音助手 “之前去xx旅游時拍的長城的照片”這樣的泛化模糊指令,就能找到相應的照片。
目前大模型在端側(cè)已經(jīng)可以執(zhí)行語言理解、文本創(chuàng)作、圖片生成等簡單的操作,但涉及到訂票、APP交互、設備控制等操作仍需調(diào)動云端大模型能力。但即便如此,對于手機廠商來說也是巨大的可能性。
“我們現(xiàn)在就是抱著《孫子兵法》中‘先為不可勝’的心態(tài)在高飽和地投入,就是不希望被優(yōu)秀的商業(yè)伙伴拉開距離,而不是一定要在大模型上進行內(nèi)卷或者對抗和競爭?!闭劶白龃竽P偷男膽B(tài)時,周圍告訴《中國企業(yè)家》。
在他看來,端側(cè)大模型的重要性跟通信、芯片是同一個級別的,未來還將變成獲取高端用戶的一個關鍵途徑?!叭绻麖目萍季薮蟮纳a(chǎn)效率的提升來看,我認為大模型也是一個歷史性的、事件級的,通過做好大模型之后,獲得更多高端用戶的認可,這是必然的,所以我們也在高規(guī)格地來投入?!敝車a充道。
在國產(chǎn)手機集體喊出沖擊高端的當下,一切新的創(chuàng)新機會點都成為競爭的新變量。何況,端側(cè)大模型的戰(zhàn)役已經(jīng)打響。
本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表,版權(quán)歸原作者所有。文章系作者個人觀點,不代表創(chuàng)業(yè)邦立場,轉(zhuǎn)載請聯(lián)系原作者。如有任何疑問,請聯(lián)系editor@cyzone.cn。