編者按：本文來(lái)自微信公眾號(hào) 新浪科技（ID：techsina），作者：鄭峻，創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

AI是否應(yīng)該監(jiān)管，應(yīng)該怎樣監(jiān)管？是能避免災(zāi)難，還是扼殺創(chuàng)新？圍繞著加利福尼亞州議會(huì)的一項(xiàng)AI監(jiān)管法案，硅谷已經(jīng)為此吵翻了天。

泰斗專家力挺監(jiān)管立法

上周三，一群在計(jì)算機(jī)領(lǐng)域聲名顯赫的功勛學(xué)者教授們聯(lián)名簽署了一封公開(kāi)信，支持加州議會(huì)一項(xiàng)AI安全監(jiān)管法案。他們將這封信分別送至加州政府的三個(gè)機(jī)構(gòu)負(fù)責(zé)人：加州州長(zhǎng)紐森(Garvin Newsom)、加州參議院與眾議院的兩位議長(zhǎng)。

簽署這封聯(lián)名信的學(xué)者教授都在人工智能領(lǐng)域作出了奠基性的研究，尤其是在神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)方面作出了杰出貢獻(xiàn)，在AI行業(yè)享有極高的地位。他們的意見(jiàn)會(huì)受到美國(guó)政府以及整個(gè)AI行業(yè)的重視與尊重。

他們包括被譽(yù)為“人工智能之父”的加拿大科學(xué)家杰弗里·辛頓(Geoffrey Hinton)、被譽(yù)為“深度學(xué)習(xí)之父”的加拿大蒙特利爾大學(xué)計(jì)算機(jī)科學(xué)教授約書亞·本吉奧(Yoshua Bengio)、撰寫最早AI教材的加州伯克利大學(xué)計(jì)算機(jī)科學(xué)教授斯圖亞特·羅塞爾(Stuart Russell)以及互聯(lián)網(wǎng)立法專家、哈佛大學(xué)法學(xué)教授勞倫斯·賴斯格(Lawrence Lessig)。

一項(xiàng)加州的法案為什么會(huì)讓這些泰斗級(jí)人物如此關(guān)注和擔(dān)憂？這項(xiàng)《前沿人工智能模型安全可靠創(chuàng)新法》(Safe and Secure Innovation for Frontier Artificial Intelligence Models Act，又稱SB 1047)目前已經(jīng)通過(guò)了加州參議院和眾議院相關(guān)委員會(huì)的表決，即將送至兩院正式表決。如果投票通過(guò)，交由加州州長(zhǎng)紐森簽字，就會(huì)成為正式法律。

這些大名鼎鼎的教授們表示，如果缺乏足夠的重視與監(jiān)管，下一代AI系統(tǒng)的研發(fā)可能會(huì)存在嚴(yán)重風(fēng)險(xiǎn)，他們認(rèn)為加州這一法案是有效監(jiān)管這一技術(shù)的最基本要求。“目前缺乏對(duì)AI系統(tǒng)的監(jiān)管，這可能會(huì)產(chǎn)生嚴(yán)重的災(zāi)難風(fēng)險(xiǎn)”。

“作為最了解AI系統(tǒng)的專家，我們可以自信地說(shuō)，(AI帶來(lái)災(zāi)難)的風(fēng)險(xiǎn)是很可能存在的，而且足夠嚴(yán)重，有必要制定相關(guān)安全檢測(cè)和預(yù)防措施。我們擔(dān)心科技公司在追求市場(chǎng)份額和利潤(rùn)最大化的過(guò)程中，無(wú)法自己化解這些系統(tǒng)性風(fēng)險(xiǎn)。因此需要對(duì)這些處于AI賽道前沿的公司制定規(guī)則”，他們?cè)诠_(kāi)信中寫道。

這已經(jīng)不是辛頓和本吉奧這兩位AI行業(yè)的泰斗第一次公開(kāi)支持SB 1047法案了。此前他們就曾經(jīng)站出來(lái)支持加州立法監(jiān)管AI。此次發(fā)表公開(kāi)信的背景是，加州AI監(jiān)管法案SB 1047遭受了諸多AI行業(yè)人士以及學(xué)者專家的反對(duì)，這兩位圖靈獎(jiǎng)獲得者認(rèn)為自己有必要再次公開(kāi)表態(tài)，立場(chǎng)鮮明地支持加州政府這一立法。

李飛飛吳恩達(dá)反對(duì)過(guò)度監(jiān)管

的確，有不少計(jì)算機(jī)科學(xué)的專家公開(kāi)反對(duì)目前的AI監(jiān)管法案，尤其是與硅谷科技公司關(guān)系密切的學(xué)者。斯坦福計(jì)算機(jī)教授、視覺(jué)識(shí)別專家李飛飛上周在《財(cái)富》雜志發(fā)表評(píng)論文章，立場(chǎng)鮮明地反對(duì)加州這一監(jiān)管法案；認(rèn)為這一法案會(huì)帶來(lái)意想不到的后果，扼殺AI領(lǐng)域的創(chuàng)新。

她表示，如果SB 1047成為法律，將傷害到新生的AI生態(tài)系統(tǒng)，尤其是目前那些與科技巨頭相比已經(jīng)處于不利地位的部分：公眾領(lǐng)域、學(xué)術(shù)以及小科技。“SB 1047會(huì)毫無(wú)必要地懲罰開(kāi)發(fā)者，扼殺我們開(kāi)源社區(qū)，阻礙學(xué)術(shù)AI研究，而無(wú)法真正解決原先想要解決的問(wèn)題?！?/p>

李飛飛稱自己并不反對(duì)AI治理，但AI監(jiān)管政策必須支持開(kāi)源開(kāi)發(fā)，提出統(tǒng)一與合理的規(guī)則，而SB 1047并未達(dá)到這一標(biāo)準(zhǔn)。李飛飛表示，希望可以與加州議員們攜手合作，共同制定AI監(jiān)管立法?！凹又菔茿I的心臟，加州的發(fā)展決定了整個(gè)美國(guó)的未來(lái)?！?/p>

李飛飛的同事、斯坦福計(jì)算機(jī)科學(xué)教授吳恩達(dá)雖然沒(méi)有言辭激烈的表達(dá)反對(duì)意見(jiàn)。他也委婉地表示，作為AI研發(fā)者，這個(gè)法案的很多條款會(huì)讓自己無(wú)所適從。

在計(jì)算機(jī)科學(xué)領(lǐng)域，許多專家學(xué)者都和產(chǎn)業(yè)公司有著諸多交集和關(guān)聯(lián)。李飛飛曾經(jīng)在谷歌云擔(dān)任首席科學(xué)家，而辛頓也曾經(jīng)在Google Brain部門任職長(zhǎng)達(dá)十年。吳恩達(dá)更曾在谷歌和百度工作多年，是谷歌深度學(xué)習(xí)部門的創(chuàng)辦者之一。

AI監(jiān)管立法勢(shì)在必行

自從今年2月加州議會(huì)正式提出這個(gè)法案之后，硅谷就圍繞著AI監(jiān)管的問(wèn)題吵翻了天。站在不同的立場(chǎng)與利益上，學(xué)者專家、政府要員、行業(yè)巨頭們都有著截然不同的意見(jiàn)。

這個(gè)法案是由代表舊金山地區(qū)的加州參議員斯科特·維納(Scott Wiener)提出。法案要求加州的AI公司在訓(xùn)練大模型時(shí)要進(jìn)行嚴(yán)格的安全測(cè)試，以避免可能存在危險(xiǎn)的功能，并且實(shí)施完善的安全措施，以降低造成災(zāi)難的風(fēng)險(xiǎn)。

SB 1047在加州立法討論過(guò)程中進(jìn)展順利，并沒(méi)有多少議員站出來(lái)表示反對(duì)。因?yàn)榇饲癉avid Binder的民意調(diào)查顯示，高達(dá)77%的加州選民支持對(duì)AI進(jìn)行立法，更有55%的選民強(qiáng)烈支持對(duì)AI公司進(jìn)行強(qiáng)制安全檢測(cè)。

需要指出的是，這一法案只面向那些在AI大模型研發(fā)投入超過(guò)1億美元的公司，這差不多也是熱門企業(yè)和小創(chuàng)業(yè)公司的研發(fā)投入分水嶺，正好就是GPT-4o的訓(xùn)練成本。按照這個(gè)標(biāo)準(zhǔn)，谷歌、Meta、Open和Anthropic等AI領(lǐng)域的知名公司都在監(jiān)管范圍之內(nèi)。

而且，無(wú)論這些AI公司總部在不在加州，只要他們?cè)诩又萦袠I(yè)務(wù)，就會(huì)受到監(jiān)管。因此，馬斯克的xAI就算未來(lái)搬家到德州，也一樣會(huì)受到這個(gè)法案的束縛，因?yàn)樗麄儙缀醪豢赡茉谘邪l(fā)和業(yè)務(wù)方面完全脫離加州。

此前數(shù)據(jù)公司Collibra委托市場(chǎng)調(diào)查公司Harris Poll對(duì)美國(guó)300名數(shù)據(jù)管理與網(wǎng)絡(luò)隱私方面的從業(yè)人員進(jìn)行了調(diào)查。結(jié)果顯示，幾乎所有的受訪者(99%)都認(rèn)可政府應(yīng)該對(duì)AI技術(shù)可能帶來(lái)的威脅進(jìn)行監(jiān)管。

在AI可能帶來(lái)的風(fēng)險(xiǎn)中，64%的受訪者強(qiáng)調(diào)了隱私問(wèn)題和安全性，57%的受訪者提到了虛假信息問(wèn)題。81%的受訪者認(rèn)為，很多互聯(lián)網(wǎng)服務(wù)公司都把用戶當(dāng)成有價(jià)值的商品，科技公司應(yīng)該為使用用戶信息訓(xùn)練AI大模型付費(fèi)。

雖然美國(guó)國(guó)會(huì)以及拜登政府從去年就開(kāi)始研究如何對(duì)AI進(jìn)行監(jiān)管，負(fù)責(zé)反壟斷的聯(lián)邦貿(mào)易委員會(huì)(FTC)已經(jīng)更是多次調(diào)查OpenAI、微軟和谷歌等公司在AI領(lǐng)域的操作；不過(guò)，因?yàn)槟壳罢得绹?guó)大選最激烈的階段，兩黨已經(jīng)無(wú)暇顧及國(guó)會(huì)立法上，AI監(jiān)管立法或許只能交給明年上臺(tái)的新一屆政府和國(guó)會(huì)了。

據(jù)數(shù)據(jù)行業(yè)機(jī)構(gòu)透明聯(lián)合會(huì)(Transparency Coalition)統(tǒng)計(jì)，美國(guó)各地已經(jīng)有400多個(gè)與AI相關(guān)的法案正在擬定。在加州，除了SB 1047法案之外，還有30個(gè)與AI相關(guān)的法案正在立法初期討論階段，主要涉及保護(hù)知識(shí)產(chǎn)權(quán)、阻止AI色情內(nèi)容、保護(hù)兒童數(shù)據(jù)等相關(guān)方面。

加州并不是美國(guó)第一個(gè)立法監(jiān)管AI的州。此前科羅拉多州和猶他州通過(guò)了相關(guān)的監(jiān)管法律，但是他們的監(jiān)管范圍都明顯弱于加州的SB 1047法案。更為重要的是，大多數(shù)AI公司都設(shè)在加州，因此加州這一法案將對(duì)AI行業(yè)帶來(lái)深遠(yuǎn)的影響。

硅谷AI行業(yè)強(qiáng)烈反對(duì)

在SB 1047的監(jiān)管對(duì)象層面，大多數(shù)硅谷AI公司和創(chuàng)投行業(yè)都對(duì)這一法案提出了反對(duì)意見(jiàn)和擔(dān)憂情緒，Meta、谷歌、微軟等巨頭也在通過(guò)自己的游說(shuō)能力，希望促使維納修改法案或是阻止法案在加州議會(huì)通過(guò)。

微軟在公開(kāi)信中表示，支撐這個(gè)法案監(jiān)管架構(gòu)的根基都尚未到位，(貿(mào)然通過(guò)法律)可能會(huì)讓AI領(lǐng)域錯(cuò)失投資、帶來(lái)誤導(dǎo)性的結(jié)果，還會(huì)讓行業(yè)失去專注資源進(jìn)行研發(fā)的機(jī)會(huì)。

硅谷最有影響力的風(fēng)投機(jī)構(gòu)安德森·霍洛維茨(Andreessen Horowitz)則指出，這法案設(shè)置了一個(gè)不可能完成的要求，(如果這一法案通過(guò))，大多數(shù)創(chuàng)業(yè)公司都只能選擇搬遷到對(duì)AI行業(yè)更為友善的州。安德森·霍洛維茨的兩位創(chuàng)始人在今年美國(guó)大選中都立場(chǎng)鮮明地支持共和黨候選人特朗普，批評(píng)民主黨政府的諸多政策損害了美國(guó)經(jīng)濟(jì)。

知名AI創(chuàng)業(yè)公司Anthropic上個(gè)月底致函維納，表明他們不支持目前的監(jiān)管法案，并提出了諸多改進(jìn)意見(jiàn)，希望與維納進(jìn)行對(duì)話。Anthropic希望法案可以縮小范圍，專注于讓AI公司為造成的災(zāi)難承擔(dān)責(zé)任，而不是強(qiáng)行規(guī)定AI公司應(yīng)該采取哪些措施來(lái)阻止災(zāi)難。

Anthropic認(rèn)為，監(jiān)管部門應(yīng)該讓AI行業(yè)自己決定安全措施，懲罰那些造成嚴(yán)重后果的企業(yè)，而不該從一開(kāi)始就出臺(tái)各種繁瑣安全措施，讓AI公司在創(chuàng)新研發(fā)時(shí)束手束腳。

AI行業(yè)對(duì)SB 1047法案的反對(duì)意見(jiàn)主要集中在強(qiáng)制要求開(kāi)發(fā)者必須提供合理可靠的保證，確保AI大模型不會(huì)帶來(lái)不合理的風(fēng)險(xiǎn)，造成嚴(yán)重的損害，例如會(huì)被濫用打造大規(guī)模殺傷性武器，或是給關(guān)鍵基礎(chǔ)設(shè)施帶來(lái)?yè)p害。

按照目前法案規(guī)定，加州司法部可以起訴那些沒(méi)有制定合適的安全措施并且造成災(zāi)難后果的AI公司。在法案提到的災(zāi)難后果中，包括了開(kāi)發(fā)可以幫助打造或使用“生化輻射或核武器”的技術(shù)，以及給關(guān)鍵基礎(chǔ)設(shè)施帶來(lái)超過(guò)5億美元的損失。

舊金山擔(dān)憂AI公司逃離

有趣的是，舊金山是美國(guó)AI領(lǐng)域的創(chuàng)新地，Open和Anthropic等諸多AI創(chuàng)業(yè)公司都集中在這里，而且還在不斷擴(kuò)張?jiān)鲩L(zhǎng)。結(jié)果反而是來(lái)自舊金山的議員率先提出法案，要求立法監(jiān)管限制自己選取的這些AI公司。

維納的這一法案提出之后就引發(fā)了舊金山的熱議，支持者和反對(duì)者各持一詞，而且各有說(shuō)法。很多人擔(dān)心AI監(jiān)管法案會(huì)打壓正在高速增長(zhǎng)的AI行業(yè)，進(jìn)一步損害到本就處于低谷的舊金山經(jīng)濟(jì)。

舊金山經(jīng)濟(jì)嚴(yán)重依賴于科技行業(yè)。2021年的統(tǒng)計(jì)數(shù)據(jù)顯示，舊金山有將近五分之一的(18.7%)雇員都工作于科技行業(yè)。然而，過(guò)去幾年由于日益糟糕的治安狀況，越來(lái)越多的科技公司選擇搬離舊金山，還帶走了大型會(huì)展活動(dòng)，給舊金山經(jīng)濟(jì)帶來(lái)了嚴(yán)重打擊。最近一個(gè)選擇搬走的科技公司是馬斯克的X(此前的推特)。商業(yè)地產(chǎn)公司CBRE的數(shù)據(jù)顯示，今年第二季度舊金山市區(qū)的寫字樓空置率已經(jīng)高達(dá)36.8%，創(chuàng)下了歷史新高。

在這樣的整體蕭條景象下，AI卻是舊金山為數(shù)不多還在增長(zhǎng)的亮點(diǎn)行業(yè)。OpenAI、Anthropic等大多數(shù)AI創(chuàng)業(yè)公司的總部都在舊金山。在AI大潮的推動(dòng)下，今年第一季度AI行業(yè)新租賃了舊金山超過(guò)100萬(wàn)平方英尺(9.9萬(wàn)平方米)的寫字樓，讓整個(gè)行業(yè)的租賃面積超過(guò)了340萬(wàn)平方英尺(31.6萬(wàn)平方米)。

曾在2018年擔(dān)任舊金山市長(zhǎng)、并在今年再次參選市長(zhǎng)的法瑞爾(Mark Farrell)公開(kāi)表示，這個(gè)法案可能會(huì)扼殺新興的AI產(chǎn)業(yè)，殺死舊金山脆弱科技行業(yè)經(jīng)濟(jì)的希望。他呼吁應(yīng)該把AI監(jiān)管的職責(zé)交給聯(lián)邦政府，讓舊金山專注于AI等科技創(chuàng)新，而不是給科技公司繼續(xù)離開(kāi)舊金山的理由。

硅谷最具影響力的創(chuàng)業(yè)訓(xùn)練營(yíng)Y Combinator的CEO陳嘉興(Garry Tan)一直鼓勵(lì)創(chuàng)業(yè)公司落戶舊金山，但他也在不斷批評(píng)舊金山乃至加州政府的諸多政策。陳嘉興表示，SB 1047法案可能會(huì)嚴(yán)重?fù)p害加州留住AI人才、吸引AI公司的能力。

營(yíng)造恐慌和危言聳聽(tīng)？

雖然遭到硅谷AI行業(yè)的強(qiáng)烈抵制，但看起來(lái)，SB 1074在加州立法通過(guò)的可能性越來(lái)越大，而且很多支持者并不相信這個(gè)法案會(huì)扼殺AI行業(yè)的創(chuàng)新。

非盈利網(wǎng)絡(luò)權(quán)益保護(hù)機(jī)構(gòu)Encode Justice表示，硅谷科技行業(yè)認(rèn)為監(jiān)管會(huì)迫使創(chuàng)新離開(kāi)加州，這種說(shuō)法是誤導(dǎo)性和危險(xiǎn)的，SB 1047法案只面向那些投入上億美元用于AI模型研發(fā)的公司，大多數(shù)創(chuàng)業(yè)公司都不會(huì)受到影響。

SB 1074法案的提出者維納稱，認(rèn)為AI監(jiān)管法案會(huì)殺死AI行業(yè)的說(shuō)法是在營(yíng)造恐慌和危言聳聽(tīng)。他表示，自己是AI的擁護(hù)者，也為舊金山成為AI創(chuàng)新中心而深感驕傲。

今年7月底，維納專門來(lái)到Y(jié)C舊金山總部，面對(duì)諸多AI創(chuàng)業(yè)者和研發(fā)人員解釋法案。他表示，外界對(duì)AI監(jiān)管法案有著太多傳言和夸張之處，包括“如果AI技術(shù)被濫用，研發(fā)者可能會(huì)因此坐牢”的說(shuō)法都是謠言。但是他并沒(méi)有得到聽(tīng)眾的多少認(rèn)同。

顯然，維納并不相信為科技公司會(huì)因?yàn)楸O(jiān)管離開(kāi)硅谷。他還提到，目前科技公司對(duì)AI監(jiān)管法案的抵制態(tài)度，讓他想到了2018年加州出臺(tái)互聯(lián)網(wǎng)數(shù)據(jù)隱私法案的狀況。

“當(dāng)時(shí)科技公司也是說(shuō)，那個(gè)法案會(huì)迫使互聯(lián)網(wǎng)公司離開(kāi)加州，但現(xiàn)在科技公司還在加州，而且正在強(qiáng)勁增長(zhǎng)，而我們現(xiàn)在有了更加保護(hù)消費(fèi)者的數(shù)據(jù)隱私法律?！?/p>

維納對(duì)硅谷的科技創(chuàng)新地位充滿信心。此前馬斯克宣布要把X搬離舊金山的時(shí)候，維納就站出來(lái)公開(kāi)嘲諷馬斯克是“裝模作樣”罷了。因?yàn)樘厮估退憧偛堪岬搅说轮荩搽x不開(kāi)硅谷的科技人才，不得不在硅谷設(shè)立了“工程總部”，而且在整體裁員的同時(shí)，還在硅谷不斷招聘。

本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表創(chuàng)業(yè)邦立場(chǎng)，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問(wèn)，請(qǐng)聯(lián)系editor@cyzone.cn。