編者按：本文來自微信公眾號 星船知造（ID：xingchuanzhizao），作者：錢鴻生，編輯：嚴大方，創(chuàng)業(yè)邦經授權轉載。

ChatGPT-5在2025年8月8日上線。但8月9日，OpenAl就重新上線GPT-4o。

原因在于ChatGPT-5被吐槽反應速度慢、處理問題頻繁出錯。更有第三方測試顯示GPT-5領先優(yōu)勢微乎其微。大模型邊際收益遞減背后，兩個無法回避的困境浮出水面：

1） 數據枯竭

2） 算力成本限制

AI浪潮正以前所未有的力量重塑全球經濟格局與國家競爭版圖。但當OpenAI以GPT-5再次引爆話題，當英偉達GPU構筑起算力壁壘，AI發(fā)展的瓶頸已日益清晰——高質量訓練數據幾近枯竭、能耗黑洞，疊加安全隱憂。

中國正以開源開放之姿、算法創(chuàng)新之刃，直面算力圍城、數據枯竭與安全治理等難題。

中國科技力量并未被高墻所困。

同時我國核心競爭力在于正積極將人工智能融入實體經濟，并將更高效、創(chuàng)新的新質生產模式大規(guī)模復制。

DeepSeek-V3用極低成本劈開了封閉模型的鐵幕；華為昇騰、寒武紀等國產芯片在巨大內循環(huán)市場下前行；中國正探索一條以“算法突破為引擎、開源開放為路徑、產業(yè)應用為根基、安全可控為底線”的AI發(fā)展新范式。

基于上述背景，《星船知造》本文主要探討——

●當前人工智能發(fā)展所面臨的主要技術困境有哪些？

●中國的優(yōu)勢、貢獻和挑戰(zhàn)有哪些？

本文部分節(jié)選、編輯自通信行業(yè)教授級高級工程師、國際電聯(lián)通信標準技術組專家錢鴻生博士撰寫的《星船知造：未來AI人工智能技術發(fā)展趨勢與展望》。

作者從當前人工智能發(fā)展所面臨的技術困境入手，認為當硅谷深陷“數據荒原”爭議、OpenAI虧損陰影籠罩華爾街時，世界人工智能正加速東看——

中國正在改寫AI競爭規(guī)則。

source：unsplash

2025年盛夏，上海世界人工智能大會上，國務院總理李強在會議開幕式表示：

無論科技如何變革，都應當為人類所利用、為人類所掌控，朝著向善普惠的方向發(fā)展。人工智能也應當成為造福人類的國際公共產品。要堅持開放共享、智能平權，讓更多國家和群體從中受益。中國愿同各國聯(lián)合開展技術攻關，加大開源開放力度，共同推動人工智能發(fā)展邁上更高水平。

一場由算法革新、芯片自主、場景爆發(fā)驅動的AI革命，正從東方升起。

為了實現中國AI發(fā)展這個宏偉目標，我們必須對未來幾年內國際上AI技術發(fā)展的路徑有所認識。

當前人工智能發(fā)展所面臨的主要技術困境

●生成式大模型的算法偏見與困境

美國開放人工智能研究中心（OpenAI）8月發(fā)布其最新人工智能模型GPT-5。據OpenAI官網介紹，這是迄今為止該機構推出的最強大的人工智能系統(tǒng)。但上線后被吐槽“反應速度慢、處理問題頻繁出錯”。

目前以ChatGPT為代表的生成式人工智能的算法是否科學有效一直是科學家爭論的焦點。專家們對生成式人工智能的批評，大致集中在以下幾個方面： 1. 會產生系統(tǒng)幻覺現象；2. 邏輯推理能力有限；3. 數據依賴性； 4. 偏見與缺乏可解釋性的輸出信息；5.安全與倫理風險等。

●AI算力增長盡頭是能源消耗問題

AI系統(tǒng)特別是深度學習模型，需要執(zhí)行大量的矩陣運算和密集型計算任務，都離不開高性能計算機和圖形處理芯片（GPU）的支持。

英偉達的H100芯片在最高負載條件下，其單片功耗峰值可達700W。10萬塊H100芯片總功耗將接近一個小型發(fā)電廠的全部輸出功率。

算力芯片的能耗問題是制約AI發(fā)展的主要技術困難之一，必須采取一切有效措施予以應對。

●大模型訓練數據枯竭引發(fā)的思考

數據作為AI的“化石燃料”正日益枯竭，這一趨勢將迫使改變當前AI大模型的預訓練方式。

數據枯竭的原因有以下幾種?

●人工智能的安全管理與風險控制

科林格里奇困境是所有創(chuàng)新國家都無法回避的問題。

“科林格里奇困境”由英國技術哲學家大衛(wèi)·科林格里奇（David Collingridge）1980年提出。

主要論述在技術發(fā)展的早期階段，由于對新技術的潛在社會負面影響認識不足，導致難以實施有效的控制措施。當負面影響開始顯現時，技術本身已深入到社會各個方面，改變的成本和難度顯著增加。

當今AI已成為科學技術發(fā)展的主旋律，其科林格里奇困境則體現為：

一方面，AI技術發(fā)展正帶來技術變革與社會進步；

但另一方面，當前AI的指數級發(fā)展正深陷此困境——模型能力與應用邊界快速擴張，而潛在的社會倫理風險卻愈發(fā)難以預測和控制。

AI 技術要以安全為前提，要受到社會公認的安全與倫理保障機制的制約。

人工智能發(fā)展中可能出現的安全與倫理風險大致包括以下幾個方面?

●AI系統(tǒng)開發(fā)軟件開源爭議

開源軟件使用不一定就是零費用，基于GPL規(guī)則有以下幾種收費模式?

1）通過分發(fā)收取一定的開發(fā)成本費用；

2）利用提供擔保條款，收取一定費用；

3）在開源軟件基礎之上開發(fā)的軟件應用系統(tǒng)，可以收取相應的商標許可費；

4）此外，可以對開源軟件提供的技術支持服務、人員培訓等收取一定的費用。

在AI軟件代碼開源這個問題上，各方的觀點與想法存在差異，這個問題將會持續(xù)探討下去，筆者認為AI系統(tǒng)軟件源代碼的開放是歷史發(fā)展的必經之路，雖然有波折與起伏，但AI軟件代碼開放是社會進步與科技發(fā)展的大勢所趨。

source：unsplash

結合國際上一些專家學者的觀點，以及國際知名預測機構研判，《星船知造》提出未來2到3年內AI技術與應用發(fā)展可能出現的幾大發(fā)展趨勢進行探索與展望，如下。

歡迎志同道合者批評、補充與完善，為國家AI順利發(fā)展獻計獻策。

算法突破改變AI發(fā)展瓶頸，開源體現中國AI開放精神

過去一年里，全球AI大模型階躍式提升背后離不開中國的貢獻——

●中國DeepSeek-V3（MoE架構+MLA機制）等開源模型通過創(chuàng)新算法把訓練成本砍半，實現高性能低成本（訓練成本＜600萬美元），推動全球AI普惠。

中國創(chuàng)新讓“大力出奇跡”變成“巧力出奇跡”。

●開源打破壟斷，促進全球創(chuàng)新。開源精神正在成為中國AI名片。

今年7月23日發(fā)布的阿里開源全新的通義千問AI編程大模型Qwen3-Coder，性能強于所有開源模型。實際體驗中，性能不輸于Claude 和 GPT4.1 等閉源模型。中國企業(yè)直接就把大家理想中的編程大模型給開源了。

越來越多的中國科技企業(yè)，正成為中國人工智能開放、創(chuàng)新，愿意和各國共同聯(lián)合開展技術攻關的一個側寫?

中國DeepSeek v3是迄今為止排名最高的開源授權模型。其訓練成本不到 600 萬美元。DeepSeek-V3大模型采用了獨特的創(chuàng)新架構，具有6710 億參數，其中運行激活參數為僅為370 億參數，在14.8萬億token 上進行了預訓練。

DeepSeek-V3整體來看仍是成熟穩(wěn)定且持續(xù)演進的中期版本，尚未被下一代完全取代。其在AI算法上的突破主要體現在以下幾個方面?

點擊上圖?可放大

它在2024年就打破了Open AI一家獨大的局面。大量節(jié)省了預訓練時間與成本投入，降低了依靠AI芯片堆積的粗放型的AI發(fā)展模式。

強調創(chuàng)新算法對大模型原生的支撐能力，降低AI計算對硬件要求的依賴，從而提升整個AI大模型的運行效率。DeepSeek在成本控制上實現了突破，為全球AI大模型的開發(fā)提供了新的發(fā)展思路。

source：unsplash

中國科技企業(yè)阿里云則做到了美國企業(yè)Anthropic沒做到的事，直接就把大家理想中的大模型給開源了。

通義千問AI編程大模型Qwen3-Coder在實際體驗中，性能不輸于Claude 和 GPT4.1 等閉源模型。

1）從技術擴散規(guī)律與商業(yè)運營的角度看，開源大模型能更快實現“使用人數激增\對市場需求和用戶反饋更快調整適應——大模型能力迭代——使用人數再增長”的正循環(huán)。

2）不方便使用海外編程工具的情況下，越來越多的中國開發(fā)者終究會投入一款能力在線、可靠方便的AI編程模型。一個巨大的國內市場將為阿里云的人工智能編程“托底”。

中國AI展示了真正的開放研究精神，其研究成果對AI社區(qū)的貢獻是深遠的——

這種低成本高效益的模型，將極大地提高AI技術的普及，使更多團隊和企業(yè)能夠負擔得起尖端AI模型的開發(fā)。

人類的發(fā)展史中，知識是如此的龐雜，這需要數百萬人以眾包的方式共同作出貢獻。

軟件開發(fā)系統(tǒng)是所有人類知識的存儲庫，不能由一家專有公司獨占，它必須是集成全世界人民的智慧，因此，基于AI的系統(tǒng)軟件，開源是不可避免的，我們邁出了一大步。

中國在AI大模型算法上的突破也只是開始，中國擁有一大批AI算法研究公司與大模型應用的優(yōu)秀人才，在國家宏觀政策的指導下，必將迸發(fā)出巨大的能量。

英偉達壟斷AI芯片或被終結，成熟制芯片是技術演進的“磨刀石”

ASIC、光子、量子芯片三箭齊發(fā)，英偉達 GPU 不再是唯一答案。

英偉達在AI芯片市場的壟斷地位正面臨多方挑戰(zhàn)，AI專用芯片ASIC，有望將替代英偉達傳統(tǒng)的GPU圖形計算芯片；這一趨勢在2024年初步顯現。

博通（Broadcom Inc）是全球領先的美國半導體公司，正通過其ASIC芯片的生產與服務，成為英偉達的競爭者。谷歌、Meta、亞馬遜、微軟也紛紛開始自研AI專用芯片，以減少對英偉達的依賴。

2024年，英特爾推出了一款AI優(yōu)化芯片，型號為XE-200，對英偉達在AI芯片市場的壟斷地位形成挑戰(zhàn)。

由于美國對出口中國的高端AI芯片實施制裁與管制，促使中國企業(yè)加快本土AI芯片的研發(fā)。

華為的高性能AI芯片主要包括異騰310和910兩款主力芯片，其中異騰910采用了先進的7mm工藝，最高可提供256 TFLOPS 的FP16（半精度浮點數）計算能力。

寒武紀公司先后推出了思元290和思元370兩款高性能AI芯片，配套生產相應的云端智能加速卡系列產品和訓練整機。未來，隨著中國在AI高性能芯片的不斷突破，將持續(xù)推動我國AI大模型研發(fā)能力的提升。

英偉達也在調整策略，成立了AI專用芯片研發(fā)部門，擴大提供為客戶量身定制的AI芯片服務，并推動其GH200 Grace Hopper超級AI芯片的研制生產，以保持在AI芯片領域的領先地位。

GH200 Grace Hopper超級AI芯片 source：英偉達

中國成熟制芯片是技術演進的“磨刀石”。

先進制程芯片基本在手機處理器等少數領域應用，而在工業(yè)、汽車等領域，更注重成熟制程芯片的可靠性。28nm及以上的成熟制程芯片，占據了75%以上的應用市場。

中國成熟制程芯片供應鏈成熟，形成較為穩(wěn)固的本土產業(yè)鏈。

成熟制程芯片在我國汽車、消費電子、工業(yè)控制等領域都有廣泛應用。技術創(chuàng)新使這些芯片也能運行復雜的AI模型。在不依賴最新制程芯片的情況下，實現高性能的AI應用。

在本土大模型的創(chuàng)新強心針后，中國更要堅持先進芯片攻關的同時，以成熟制芯片為根基，構建“需求-生產-創(chuàng)新”的循環(huán)。

source：pexels

光子芯片和量子芯片作為最新科學技術與新興的計算技術，正嶄露頭角，成為推動AI算力發(fā)展的重要力量。

光子芯片利用光速進行信號傳輸，傳輸速度遠超半導體電子芯片，能夠在納秒甚至更小的計算時間內完成復雜的計算任務，其運算效率遠高于目前的AI芯片。光子芯片的功耗極低，光信號傳輸無需消耗大量的電能，減少了芯片的散熱，大幅度降低了AI光子芯片的整體能耗，可改變目前GPU芯片功耗的瓶頸問題。

光子芯片還具有大帶寬優(yōu)勢，能夠同時傳輸更多信息，提高整個系統(tǒng)容量的性能。光子芯片在AI模型訓練、優(yōu)化推理任務、推動多模態(tài)處理中展現出巨大潛力。

source：pexels

量子芯片是通過量子比特進行信息處理，遵循量子力學規(guī)律進行高速數學和邏輯運算、存儲及處理量子信息的物理裝置。作為核心零部件的“量子芯片”，通常需要被安置在接近絕對零度（零下273.15攝氏度）的極低溫環(huán)境中，利用極低溫條件下，部分微觀粒子表現出的量子特性來進行信息運算和處理的技術。

量子芯片的關鍵是要解決量子糾錯的難題，因為量子比特非常難以得到且十分脆弱，容易受到外界環(huán)境噪聲和電磁干擾的影響，導致量子態(tài)的塌縮和計算失誤。

現有的量子糾錯方案通常非常復雜且成本高昂，隨著量子芯片中量子比特數量的增加，計算錯誤率呈指數級增長，需要采用復雜的糾錯方案來維持計算系統(tǒng)的可靠性，這樣就增加了量子芯片制造的復雜性和高額的制造成本，限制了量子芯片的大規(guī)模應用。

谷歌發(fā)布的量子芯片Willow在量子糾錯技術中取得了突破，Willow在不到五分鐘的時間內就完成了一個“標準基準計算”，完成了一般超級計算機需要花費1025年的時間才能完成計算任務，量子芯片有望在AI大模型的計算中發(fā)揮重要作用。

source：unsplash

中國從事光子芯片研究的企業(yè)有如下所示?

中際旭創(chuàng)：其擁有自主研發(fā)硅光芯片的技術與開發(fā)能力，已經在部分光模塊產品中應用自研的硅光芯片。

長飛光纖：其針對接入網、傳輸網、數據中心、無線網等領域，為客戶提供可靠高效靈活的光模塊解決方案。

上海交通大學無錫光子芯片研究院：建設了國內首條光子芯片中試生產線，推動光子芯片的自主研發(fā)和技術迭代。

光子算數北京科技有限責任公司：是國內最早聚焦研究光子計算的芯片企業(yè)之一，已經推出了基于自研光計算芯片的光電融合AI加速計算卡。

source：unsplash

中國從事量子芯片研究的企業(yè)有如下所示?

科大國盾量子：在國內量子通信和量子計算領域積累多年，與光迅科技共同研發(fā)了光量子芯片，在量子密鑰分發(fā)、量子隨機數等領域有廣泛應用。

華工科技：國內生產量子點激光器芯片的企業(yè)，在光量子通信、量子通信芯片具有技術優(yōu)勢。

中國科學院量子信息與量子科技創(chuàng)新研究院共同研發(fā)的“驍鴻”超導量子芯片，是一款504比特超導量子計算芯片，其關鍵性能指標有望達到國際主流量子計算云平臺的芯片性能，展現了中國在量子計算硬件開發(fā)方面的強大實力。

中國電信推出“天衍-504”量子計算云平臺，“天衍-504”芯片是基于“驍鴻”超導量子芯片的超導量子計算機，擁有504個量子比特，采用了先進的超導材料和量子操控技術，成功降低了量子比特的噪聲和誤差率。

騰景科技：開發(fā)高難度干涉堆、偏振分束器等核心元器件，產品應用于“九章二號”量子計算原型機。

國芯科技：研發(fā)量子技術產品，研發(fā)基于量子隨機數發(fā)生器的安全芯片和模塊組。

source：unsplash

AI中算法是核心、算力是基礎。美國“星際之門”拖延已久——啟動半年未落實計劃?

2025年1月21日，特朗普與OpenAI首席執(zhí)行官奧爾特曼、軟銀董事長孫正義、甲骨文董事長埃里森聯(lián)合宣布“星際之門計劃”（Stargate Project）——號稱前期投入1000億美元建造數據中心和實體園區(qū)，未來4年逐步增加至5000億美元。

馬斯克在社交媒體上公開表示：該項目投資5000億美元并不實，“他們實際上沒有錢”。

有專家做了測算，如果“星際之門計劃”這樣規(guī)模的算力中心，采用了英偉達現有的高端AI算力芯片，整個系統(tǒng)一年的耗電量是上海市全年用電總量的三倍，即使放在經濟實力較為雄厚的美國得克薩斯州，恐怕也難以承受這樣的能源消耗，這將對當地的生態(tài)環(huán)境造成重大影響。

據《華爾街日報》當地時間7月21日報道，“星際之門”重要出資方日本軟銀集團和OpenAI(美國開放人工智能研究中心)被曝在合作的關鍵條款上存在分歧。

美媒援引消息人士稱，該項目尚未落實任何一個數據中心計劃。

在我國，未來幾年中，如果全國統(tǒng)一建設的算力中心采用了光子芯片或量子芯片作為算力樞紐的計算芯片，那就可以徹底擺脫對美國高性能AI芯片的依賴，走出一條具有中國特色的，全面支撐國家AI可持續(xù)發(fā)展的算力技術發(fā)展路線。

需要指出的是，未來量子計算機不會完全取代電子計算機，可能出現的情景是量子計算機和電子計算機，在不同的應用場景下發(fā)揮各自的特長，實現協(xié)同計算，既極大提升算力，也可兼顧成本和可靠性。

人形機器人+自動駕駛成應用主戰(zhàn)場，智能體是AI應用推進重點領域

自動駕駛技術已成為AI應用的主賽場。

技術進步驅動：自動駕駛技術的快速發(fā)展，尤其是大模型和端到端架構的應用，使得智能駕駛系統(tǒng)能夠更好地處理復雜場景，提升了決策速度和準確性。

市場需求推進：消費者對智能駕駛功能的需求不斷增加，推動了自動駕駛技術的普及，市場對自動駕駛的接受度與認知度正在逐步提高。

政策支持：各國政府對自動駕駛技術的支持力度加大，出臺了相關的法規(guī)和標準，為自動駕駛的商業(yè)化提供了法律保障。

利用AI技術加持自動駕駛的產業(yè)鏈已經形成，從AI大模型、智能產業(yè)鏈布局、智能傳感器、自動駕駛智能算法等，形成了上下游配套齊全的產業(yè)鏈，推進AI在自動駕駛中的應用。

智能化驅動的自動駕駛技術是當前汽車產業(yè)的發(fā)展趨勢，推動了現代汽車行業(yè)的快速進步。中國的電動汽車產銷量連續(xù)八年全球領先，這一成就也促進了自動駕駛技術的進一步發(fā)展和應用，形成了明顯市場競爭優(yōu)勢。

source：unsplash

人形機器人本質是AI技術與機電技術的深度融合，它集成了AI、高端制造、新材料、精密控制等關鍵新技術。截至2024年11月底，我國人形機器人產業(yè)鏈上相關企業(yè)數量達到6.7萬家，國家級專精特新企業(yè)1051家。

在國家人形機器人發(fā)展政策的引導下，各地紛紛出臺相應舉措。一方面提升關鍵技術，重點突破AI核心算法和基礎框架、產業(yè)鏈上下游企業(yè)聚焦人形機器人產業(yè)，重點突破類腦感知與認知、高能量密度電池續(xù)航、靈巧手組件、多維傳感器等。同時在典型制造場景實現人形機器人的深度應用，加快人形機器人在工業(yè)制造、健康養(yǎng)老、應急救援等領域的應用，并開拓與腦機接口等前沿技術的融合發(fā)展。

未來人形機器人在特定場景中的應用將十分普遍，軍事上的用途更是難以估量。發(fā)展前景廣闊。

source：unsplash

智能體是AI應用推進的重點領域之一，這一觀點得到了業(yè)界的廣泛認可。

AI智能體（Agent），一般是指能夠自主執(zhí)行任務、處理復雜信息并作出決策的AI系統(tǒng)。AI智能體的技術特征主要體現在以下幾個方面：

●技術層面采用多模態(tài)融合深化，具備強大的多模態(tài)理解與處理能力，能高效地理解和處理文本、圖像、音頻、視頻等多模態(tài)信息，滿足用戶特定的管理流程與管理需求。

●將深度學習與強化學習結合，讓智能體有更強大的感知識別能力，強化學習使其能在環(huán)境中，通過試錯學習進行決策優(yōu)化，提升自主決策能力。

●未來AI智能體將深度融入社會服務方方面面、提供高度個性化的服務。

●在工業(yè)制造業(yè)、物流配送等環(huán)節(jié)，智能體將發(fā)揮重要作用，實現生產過程的智能化、自動化和優(yōu)化。

●多智能體系統(tǒng)協(xié)同工作將是未來智能體的一個發(fā)展方向，不同智能體在復雜任務中分工協(xié)作、相互配合，完成單個智能體無法完成的目標任務。形成更加完整的智能體產業(yè)生態(tài)，在智慧城市建設等領域，智能體協(xié)同將有效優(yōu)化資源配置和提升管理效率。

智能體應用在未來AI發(fā)展中將起到舉足輕重的作用，任何企業(yè)甚至個人，都會有AI智能體的加持與支撐，未來每個人都會創(chuàng)建一個屬于個人的智能體小模型，成為我們的私人助理。

場景化應用成AI競爭勝負手中國最先獲應用紅利

中國強調場景化應用，美國則面臨高成本和市場壟斷問題。

AI競爭本質是一場數據和生態(tài)的立體博弈，中國的“實用主義AI”正加速獲得場景紅利——依托全產業(yè)鏈優(yōu)勢挖掘工業(yè)數據藍海。

source：giphy

場景化應用是AI發(fā)展的關鍵驅動力，它通過將AI技術融入具體的業(yè)務場景，實現技術與用戶需求的深度結合，推動AI技術的創(chuàng)新與應用落地。

2025年AI場景化應用將成為推動我國AI發(fā)展的驅動力?

AI場景化應用提升AI的實用性和效率：先進的AI技術，能夠在實際業(yè)務場景應用中得到驗證和優(yōu)化，從而提高技術的成熟度和應用效果。

場景化應用能保證AI研發(fā)的可持續(xù)發(fā)展：使AI技術更貼近用戶需求，在應用推動中積累AI技術經驗，推動AI技術迭代創(chuàng)新，也為AI開發(fā)企業(yè)爭取到市場份額，保證AI研發(fā)持續(xù)不斷地資金投入與投資回報。

過去兩年，從產業(yè)發(fā)展角度來看，智能手機、智能PC等智能終端逐步走進人們的日常生活，同時，AI技術應用的門檻的下降，預訓練成本與項目實施邊際成本下降，鼓勵AI技術走向千行百業(yè)。

AI大模型技術科技成果只有通過規(guī)?；膽茫拍艽龠M技術不斷迭代完善，實現AI技術和市場雙輪驅動。

source：pexels

美國在2024年AI發(fā)展中，并無太多“場景故事”可講。幾乎所有AI故事都圍繞“文本對話”、“動漫生成”等場景展開。

此外，除了多在追求文本對話、多模態(tài)轉換、3D動漫生成等領域，還花費了巨大的資金與能源消耗投入，讓大多數美國商業(yè)公司在2024年繼續(xù)虧損——

OpenAI虧損幅度不斷擴大，出現了流動資金問題，在融資66億美元之后，還要通過貸款方案向銀行籌措資金，估計到2026年虧損幅度將高達140億美元。

由于產業(yè)空心化，美國的AI某種程度是“無根之木”。

和美國不同，中國巨大工業(yè)場景是一片尚未開采的數據藍海。

人工智能產業(yè)的競爭本質是數據、產業(yè)生態(tài)的立體博弈，中國以“實用主義”對抗硅谷“實驗室主義”，中國的全產業(yè)鏈協(xié)同，正加速吃到“場景紅利”。

更多相關閱讀：《一家“不做機器人”的機器人公司，正把中國機器人賣遍“一帶一路”》

《面向十五五，“工業(yè)+AI”藏著哪些時代密碼》

加強全球合作探索AI安全機制

國務院總理李強7月26日在上海出席2025世界人工智能大會暨人工智能全球治理高級別會議開幕式表示：

中國高度重視人工智能全球治理，積極參與推動多雙邊合作，愿向國際社會提供更多中國方案，貢獻更多中國智慧。中國政府倡議成立世界人工智能合作組織。

source：世界人工智能大會

伯克利大學教授斯圖爾特·羅素（Stuart Russell）在談及AI崛起對人類的挑戰(zhàn)時尖銳地指出，在追逐人工智能的狂奔中，我們是否停下腳步思考一下：

當我們創(chuàng)造出比人類更強大的AI時，憑什么認為能永遠控制它？

“我們只有兩種選擇：要么建立可證明安全性的AI系統(tǒng)，確保AI的可控性；要么立即停止AI的研發(fā)?！?/p>

在追逐技術進步的過程中，很少有人深入思考AI可能帶來的倫理和社會問題，如果選擇繼續(xù)而沒有一個安全的保障體系，人類將進入一個充滿不可預測的未來。

在開發(fā)AI的發(fā)展道路上，不應由資本的貪婪主宰一切，而應當引導人類社會共同討論并形成一個能更好適應未來的道德框架。

中國政府歷來重視對AI 人工智能的安全管理，早在2023年8月我國就頒布了《生成式人工智能服務管理暫行辦法》，旨在促進我國生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

截至2024年，我國生成式人工智能相關企業(yè)已經超過4500家，核心產業(yè)規(guī)模達到6000億元人民幣，AI產業(yè)鏈覆蓋了芯片制造、算法研究、數據提供、AI場景化應用等上下游關鍵環(huán)節(jié)。

同時，我國已擁有190多個生成式人工智能服務大模型完成備案并上線提供服務，我國適用AI 人工智能產品的用戶已高達2.3億人次，占總人口數的16.4%。

中國一直是聯(lián)合國有關人工智能全球治理的積極倡導者和執(zhí)行者。

聯(lián)合國就加強全球合作探索AI安全機制研究初步達成一致——先后頒布了《全球數字契約》《關于負責任的生成式人工智能的建議》《生成式人工智能在教育和研究中的應用指南》等一系列文件，呼吁各國政府、企業(yè)、學術機構、民間團體共同努力，加強全球合作AI安全治理。

2022年11月我國就提交了《中國關于加強人工智能倫理治理的立場文件》。

2023年10月，中國提出《全球人工智能治理倡議》文件，為凝聚國際社會的共識、積極推進全球共享共治發(fā)揮了積極作用。

2024年7月，第78屆聯(lián)合國大會以協(xié)商一致的方式通過了以中國政府為主提出的“加強人工智能能力建設國際合作”決議，143個聯(lián)合國會員國參加聯(lián)署，這是全球首個聚焦人工智能安全建設的共識性文件。

未來的幾年中，隨著全球AI技術的迭代發(fā)展，在加強全球AI安全方面一定會有很多機制出臺，盡管美國政府態(tài)度曖昧，行動遲緩，有不惜放緩對AI的安全監(jiān)管，意圖搶占世界AI發(fā)展霸主地位的嫌疑。但為了人類的長期繁榮與健康發(fā)展，加強AI全球合作治理，將是大勢所趨。

各國能否超越分歧達致共識，實現共同的安全利益，是決定全球人工智能治理模式是否具有可持續(xù)性、有效性的關鍵因素。

中國正積極參與全球AI安全治理，與世界各國共同努力，構建多方參與的安全治理格局，確保AI技術的健康發(fā)展不偏離人類社會的根本價值觀與長遠利益。

尾聲

人工智能早已不局限于聊天繪畫，而是嵌入自動化生產線、智能工廠等實體經濟。

中國正悄然改寫AI競爭規(guī)則。以開源代碼鑿開封鎖裂縫，也用成熟制程劈出求芯生路，更將AI植入無數個工廠流水線。這里沒有“星際之門”的虛空豪賭，只有工業(yè)大國腳踩大地，向每一個普通人延伸出技術民主化之路。

堅持走具有中國特色的人工智能技術發(fā)展方向，以人工智能和制造業(yè)深度融合為主線，以場景化應用為牽引，加快重點行業(yè)的智能化升級，強化企業(yè)創(chuàng)新主體地位，整合各方資源，培育復合型人才，賦能工業(yè)制造體系，加快形成中國新質生產力。

本文為專欄作者授權創(chuàng)業(yè)邦發(fā)表，版權歸原作者所有。文章系作者個人觀點，不代表創(chuàng)業(yè)邦立場，轉載請聯(lián)系原作者。如有任何疑問，請聯(lián)系editor@cyzone.cn。