根據(jù)今年發(fā)布的《全球數(shù)字經(jīng)濟(jì)白皮書（2024）》披露的數(shù)據(jù)顯示，全球目前有 3 萬(wàn)家人工智能核心企業(yè)以及超過 1300 個(gè)人工智能基礎(chǔ)大模型。當(dāng)前，以大模型為代表的人工智能技術(shù)飛速發(fā)展，正在以令人難以想象的速度重塑我們生活的世界，推動(dòng)人類邁向智能時(shí)代。而新的科技變革帶來新場(chǎng)景、新業(yè)務(wù)、新市場(chǎng)的同時(shí)，也在科技倫理層面帶來了前所未有的風(fēng)險(xiǎn)和挑戰(zhàn)。

9 月 5 日，在由信百會(huì)研究院和螞蟻集團(tuán)科技倫理委員會(huì)共同主辦的 2024 Inclusion·外灘大會(huì)“以善治促‘善智’，讓 AI 更負(fù)責(zé)任”見解論壇上，人工智能產(chǎn)、學(xué)、研、用各界學(xué)者嘉賓，共同探討如何讓 AI 更負(fù)責(zé)任、更好地造福人類社會(huì)。

AI 治理刻不容緩，中國(guó)正在為全球人工智能治理貢獻(xiàn)“中國(guó)智慧”

工業(yè)和信息化部原副部長(zhǎng)楊學(xué)山在致辭中表示，當(dāng)前人工智能帶來了巨大的發(fā)展?jié)摿?，也引發(fā)了諸多方面的風(fēng)險(xiǎn)和挑戰(zhàn)。如何在促進(jìn)人工智能技術(shù)快速發(fā)展和應(yīng)用的同時(shí)，又確保其安全性、可靠性和可控性，顯得尤為關(guān)鍵。從全球范圍來看，美國(guó)、中國(guó)、歐盟等主要經(jīng)濟(jì)體正在探索人工智能治理的模式，制定了一批法律法規(guī)、政策制度、標(biāo)準(zhǔn)指南，用治理的主動(dòng)權(quán)謀求發(fā)展的主導(dǎo)權(quán)、搶占人工智能國(guó)際競(jìng)爭(zhēng)的戰(zhàn)略制高點(diǎn)。中國(guó)作為負(fù)責(zé)任的人工智能大國(guó)，在國(guó)內(nèi)逐步建立健全治理體系的同時(shí)，也主動(dòng)為全球人工智能治理貢獻(xiàn)“中國(guó)智慧”。他表示，期望通過政策界、產(chǎn)業(yè)界、學(xué)術(shù)界的溝通與聯(lián)動(dòng)，共同探索人工智能治理的有效路徑。

工業(yè)和信息化部原副部長(zhǎng) 楊學(xué)山

在中國(guó)工程院院士吳世忠看來，AI 治理可以“以史為鑒”。他認(rèn)為，我們已經(jīng)逼近了那個(gè) AI 發(fā)展的“奧本海默時(shí)刻”，“當(dāng)一個(gè)科學(xué)技術(shù)能夠改變?nèi)祟惷\(yùn)的時(shí)候，我們就必須要有憂患意識(shí)”，他從人類過去核控和疾控出發(fā)，分別對(duì)比了核控、疾控和 AI 治理的異同，他表示：“人工智能的治理和過去的核控、疾控都是人類發(fā)展歷程中的‘奧本海默時(shí)刻’。在這個(gè)過程中，我們作為人類命運(yùn)共同體，能夠借鑒的經(jīng)驗(yàn)很多，比如國(guó)際合作和多邊協(xié)議以及透明度和信任機(jī)制的建設(shè)等。但與此同時(shí)，我們也要根據(jù)人工智能的特點(diǎn)，更加科學(xué)地進(jìn)行治理。”

中國(guó)工程院院士 吳世忠

面對(duì)如此嚴(yán)峻的風(fēng)險(xiǎn)和挑戰(zhàn)，有時(shí)學(xué)界也會(huì)有另外一種聲音，我們是不是應(yīng)該用更加謹(jǐn)慎的態(tài)度，給技術(shù)的發(fā)展“踩踩剎車”？清華大學(xué)公共管理學(xué)院教授、清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng)梁正則認(rèn)為，我們可能要在更宏大的視角和時(shí)間尺度下看待 AI 技術(shù)的發(fā)展。他以飛機(jī)和汽車的發(fā)展歷程為例，證明了任何一種技術(shù)，隨著技術(shù)能力的發(fā)展和科學(xué)的治理，這種技術(shù)帶給人們的好處是要遠(yuǎn)遠(yuǎn)超過我們想象的?！叭斯ぶ悄芗夹g(shù)處于產(chǎn)業(yè)化應(yīng)用的初期階段，從技術(shù)發(fā)展來看，其他技術(shù)在發(fā)展中同樣經(jīng)歷過類似的問題。發(fā)展是硬道理，治理要為發(fā)展服務(wù)。”

清華大學(xué)公共管理學(xué)院教授、清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng) 梁正

而同樣面對(duì)人工智能治理和發(fā)展的關(guān)系這個(gè)問題，聯(lián)合國(guó)人工智能高層顧問機(jī)構(gòu)專家、北京人工智能安全與治理實(shí)驗(yàn)室主任、中國(guó)科學(xué)院自動(dòng)化研究所研究員曾毅認(rèn)為，安全和治理是人工智能的核心能力，將加速人工智能穩(wěn)健發(fā)展及應(yīng)用?！叭斯ぶ悄艿陌踩湍芰Σ皇钦?，更不是相互掣肘的關(guān)系，提升安全性，加強(qiáng)治理，并不意味著能力的減弱和發(fā)展速度的減緩，系統(tǒng)的魯棒、自適應(yīng)與安全也是人工智能的能力。人工智能系統(tǒng)風(fēng)險(xiǎn)防范也要從被動(dòng)式轉(zhuǎn)變?yōu)橹鲃?dòng)式，從防御性轉(zhuǎn)變?yōu)榻ㄔO(shè)性。此外，人工智能需要從合乎倫理到具有道德?！彼J(rèn)為人類需要用善智慧把人類自身帶向追求本真的道路，人類一生在不斷完善自我的道路上探索，永遠(yuǎn)不會(huì)被人工智能替代。

聯(lián)合國(guó)人工智能高層顧問機(jī)構(gòu)專家、北京人工智能安全與治理實(shí)驗(yàn)室主任、中國(guó)科學(xué)院自動(dòng)化研究所研究員 曾毅

防止大模型在落地應(yīng)用過程中的濫用、誤用是大模型相關(guān)企業(yè)對(duì)社會(huì)負(fù)責(zé)任的表現(xiàn)

AI 大模型現(xiàn)在已經(jīng)廣泛應(yīng)用在各個(gè)領(lǐng)域。在產(chǎn)業(yè)界全力發(fā)展 AI 的戰(zhàn)略中，科技倫理也是核心組成部分，防范大模型的誤用、濫用，是企業(yè)對(duì)客戶、對(duì)行業(yè)乃至對(duì)社會(huì)負(fù)責(zé)的最好體現(xiàn)。在論壇上，企業(yè)界代表也分享了各自在大模型應(yīng)用與安全倫理層面的探索和思考。

早在 2016 年，微軟首席執(zhí)行官薩提亞·納德拉（Satya Nadella）就曾指出：“或許我們最需要進(jìn)行的討論并非是關(guān)于善惡，而是應(yīng)該向創(chuàng)造這項(xiàng)技術(shù)的人或組織傳遞怎樣的價(jià)值觀。”

微軟（中國(guó)）有限公司首席技術(shù)官韋青表示，微軟致力于從設(shè)計(jì)之初就打造安全、保障和值得信賴的 AI 系統(tǒng)，并分享了微軟在打造“負(fù)責(zé)任”的 AI 大模型歷程中的具體實(shí)踐。

微軟（中國(guó)）有限公司首席技術(shù)官 韋青

To C 產(chǎn)品每天要面對(duì)不同國(guó)家、不同文化的用戶每天產(chǎn)生的海量數(shù)據(jù)，作為一家擁有近 1 億 C 端用戶的公司，Minimax 海外業(yè)務(wù)總經(jīng)理盛靜遠(yuǎn)在分享中展示了其多模態(tài)通用大模型以及通用應(yīng)用生態(tài)，并分享了 Minimax 在大模型的治理領(lǐng)域的實(shí)戰(zhàn)經(jīng)驗(yàn)。

Minimax 海外業(yè)務(wù)總經(jīng)理 盛靜遠(yuǎn)

AI 大模型在嚴(yán)謹(jǐn)行業(yè)應(yīng)用的核心：準(zhǔn)確專業(yè)、真實(shí)嚴(yán)謹(jǐn)、可控透明及安全可靠

人工智能大模型目前正在各行各業(yè)加快落地，特別是對(duì)醫(yī)療、金融這些嚴(yán)謹(jǐn)行業(yè)的重塑力度是前所未有的。與此同時(shí)，這些嚴(yán)謹(jǐn)行業(yè)也是對(duì)倫理規(guī)范要求最高、倫理關(guān)系最復(fù)雜的領(lǐng)域。

訊飛醫(yī)療研究院副院長(zhǎng)趙景鶴分享了訊飛星火醫(yī)療大大模型目前的應(yīng)用進(jìn)展以及安全倫理探索，對(duì)于大模型在醫(yī)療場(chǎng)景應(yīng)用面臨的問題，他講到，“主要是數(shù)據(jù)隱私、知識(shí)產(chǎn)權(quán)和道德責(zé)任三大問題，從解法上，企業(yè)需要采取措施加強(qiáng)數(shù)據(jù)保護(hù)、獲得必要的版權(quán)授權(quán)、確保模型的公正性和合規(guī)性，同時(shí)提高透明度以及加強(qiáng)公眾教育?！?/p>

訊飛醫(yī)療研究院副院長(zhǎng) 趙景鶴

螞蟻集團(tuán)一直致力于構(gòu)建專業(yè)智能體，促進(jìn) AI 大模型落地嚴(yán)謹(jǐn)行業(yè)。據(jù)了解，螞蟻依托自研的百靈大模型，對(duì)應(yīng)生活、金融和醫(yī)療場(chǎng)景，分別打造了 AI 生活管家“支小寶”、金融管家和醫(yī)療健康管家。螞蟻集團(tuán)資深副總裁、科技倫理委員會(huì)聯(lián)席主席周志峰認(rèn)為，AI 的倫理建設(shè)需要適應(yīng)三大趨勢(shì)，“一是 AI 提供服務(wù)需要更加重視‘人情味’；二是 AI 倫理風(fēng)險(xiǎn)防控需要從‘顯性風(fēng)險(xiǎn)’的被動(dòng)防控向‘隱性風(fēng)險(xiǎn)’的主動(dòng)防控過渡，三是 AI 服務(wù)要從提供對(duì)話交互升級(jí)到有效協(xié)同?！?/p>

螞蟻集團(tuán)資深副總裁、科技倫理委員會(huì)聯(lián)席主席 周志峰

周志峰介紹到，為了應(yīng)對(duì)這三大趨勢(shì)，螞蟻建立了一套識(shí)別用戶意圖及全鏈路風(fēng)險(xiǎn)的工具，能夠準(zhǔn)確捕捉提問者的真實(shí)動(dòng)機(jī)，并構(gòu)建了持續(xù)優(yōu)化大模型輸出的攻防體系；螞蟻開發(fā)了 X Sense 體系，及時(shí)對(duì)網(wǎng)絡(luò)輿情、社會(huì)熱點(diǎn)、越獄 prompt 攻擊等因素做探查和歸集，提升對(duì)“隱性風(fēng)險(xiǎn)”的主動(dòng)感知和防控能力；打造覆蓋數(shù)據(jù)集構(gòu)建到模型應(yīng)用全鏈路的負(fù)責(zé)任研發(fā)體系，并開放合作共建，廣泛邀請(qǐng)各領(lǐng)域權(quán)威專家、知名學(xué)者組建科技倫理顧問委員會(huì)，與高校、科研機(jī)構(gòu)開展倫理共建計(jì)劃。

“AI 倫理是一個(gè)系統(tǒng)性的、開放性課題，我們希望能和大家一起共同探索 AI 倫理的系統(tǒng)解決方案，始終保持AI的發(fā)展處于人類良善價(jià)值的軌道上?！敝苤痉灞硎?。

在論壇的最后，來自中國(guó)政法大學(xué)、北京協(xié)和醫(yī)學(xué)院、復(fù)旦大學(xué)和上海交通大學(xué)的學(xué)者與來自華為和騰訊的產(chǎn)業(yè)專家也就如何應(yīng)對(duì) AI 大模型在嚴(yán)謹(jǐn)行業(yè)落地的倫理挑戰(zhàn)這一議題進(jìn)行了探討，專家認(rèn)為，大模型在嚴(yán)謹(jǐn)行業(yè)落地的挑戰(zhàn)分為“真、善、美”三個(gè)維度：大模型回復(fù)內(nèi)容的真實(shí)性準(zhǔn)確性、大模型要符合人類的價(jià)值觀，以及大模型的終極目的是幫助人類和社會(huì)創(chuàng)造更美好的生活。

圓桌論壇嘉賓熱議“如何應(yīng)對(duì)AI大模型在嚴(yán)謹(jǐn)行業(yè)落地的倫理挑戰(zhàn)”

如何引導(dǎo) AI 向善、確保 AI 服務(wù)始終以人類福祉最大化為目標(biāo)，是社會(huì)各界必須重視的重要議題。雖然各自的領(lǐng)域不同，但是幾乎所有的學(xué)界專家和企業(yè)界代表都有一個(gè)共識(shí)：人工智能的倫理治理體系的完善不能僅靠一家公司、一個(gè)主體閉門造車，它需要我們打破國(guó)界以及領(lǐng)域的限制，需要政、產(chǎn)、學(xué)、研、用多邊、多方共同努力，以善治促“善智”，才能打造更有責(zé)任感的 AI 更好地為人類服務(wù)。