編者按：本文來自微信公眾號 AI鯨選社（ID：aijingxuanshe），作者：楊曉鶴，創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。
“ 上面是我在大理拍的照片，下面是被人ai換臉過的，400多萬觀看，30萬點(diǎn)贊。甚至背景還用ai稍作了改變，真的被震驚到了。”
小紅書網(wǎng)友蛋蛋愛打架，最近發(fā)現(xiàn)自己的形象被AI換臉用于網(wǎng)紅照片，而且還特別火，這讓她非常吃驚。很多網(wǎng)友支持她發(fā)送律師函，免得臉部數(shù)據(jù)被用于更多的未知用途。
其實(shí)，AI換臉不是最近剛出現(xiàn)的技術(shù)，而是越來越以假亂真，越來越多模態(tài)。當(dāng)然，AI換臉識別技術(shù)也在飛速發(fā)展，隨著AI換臉的威脅越來越大，這場攻防大戰(zhàn)正越來越激烈。
就在8月28日的同一天時間，網(wǎng)友用Deepfake 技術(shù)換臉馬斯克，直播獲得上萬人打賞，緊接著浙江大學(xué)與阿里安全部共同研發(fā)了一種新型人臉隱私保護(hù)方案——FaceObfuscator。
看似人臉保護(hù)技術(shù)出現(xiàn)強(qiáng)力護(hù)盾，但技術(shù)對抗從來不是一簇而終。6年前，AI換臉技術(shù)開始興起，但那時候人物表情還比較僵硬，也無法用于直播場景中，現(xiàn)在AI換臉技術(shù)已經(jīng)非常成熟。
“以后我的手機(jī)是不是被撿到，就能被刷臉打開了？”“手機(jī)的刷臉支付到底還能不能用”等各種輿論的聲音，呼吁保護(hù)用戶的數(shù)字資產(chǎn)安全的聲音也越來越強(qiáng)烈。
萬人打賞AI馬斯克，AI換臉贏了一局
“hi, how are you，I'm musk。”這是AI換臉的馬斯克在直播，他的直播間非?；馃?，換臉馬斯克一邊展示大火箭模型，一邊捏捏自己的臉。這位主播自己都笑得不行，他是沒想到效果非常逼真，甚至許多連線的粉絲表示根本無法區(qū)分真假，上萬人給這位主播打賞。
這位“馬斯克”也是非常博學(xué)，對SpaceX、Tesla的Cybertruck、AI技術(shù)、Neuralink等技術(shù)都如數(shù)家珍，還熱心地給一位剛畢業(yè)的學(xué)生講述了一些工作建議。
AI換臉的馬斯克能在直播間栩栩余生，那以后直播間中馬云、劉強(qiáng)東、黃仁勛、喬布斯就都隨時能出現(xiàn)。直播間出現(xiàn)這些名人AI分身，可能對高知的人群威脅不大，就怕『AI勒東』等更加泛濫。
公開數(shù)據(jù)顯示，截止2024年，已經(jīng)有8名長的非常像勒東的網(wǎng)紅，被提起公訴。然而，很多阿姨到此還不認(rèn)為自己被騙，認(rèn)為那些騙他錢的假勒東就是本人，惹得勒東親自呼吁上當(dāng)?shù)陌⒁虃儾灰^續(xù)相信，他不會私信聊任何人。
下沉市場對一個相像的明星都執(zhí)著得相信，何況是AI換臉的明星，畢竟AI可以將長相和聲音完美復(fù)刻。
而且這項(xiàng)技術(shù)也在迅速白菜化，一位AI行業(yè)人士告訴鯨哥，現(xiàn)在 GitHub上，有超過 3000 個與 “AI換臉”技術(shù)相關(guān)的存儲庫，很多外網(wǎng)的灰色社交頻道中更多。這些“AI換臉”也十分便宜，價格最低的“AI換臉”視頻只需要2 美元，而需求復(fù)雜的一個“深度偽造”視頻要100美元起。
現(xiàn)在，國外很多幣圈人用假馬斯克做代言廣告，灰色業(yè)務(wù)有些爆發(fā)；國內(nèi)則是針對下沉市場欺詐行為居多。
2023年，呼和浩特一位男士就被這樣的AI換臉視頻電話，詐騙去了40多萬元。被騙人表示，自己從沒想到視頻對面的微信好友盡然是AI換臉的。
現(xiàn)在情況不一樣了，就在AI馬斯克直播的同一天，一項(xiàng)應(yīng)對這種這種亂象的技術(shù)也被發(fā)布。
8月28日，針對人臉特征重構(gòu)隱私威脅，浙江大學(xué)與阿里安全部共同研發(fā)了一種新型人臉隱私保護(hù)方案——FaceObfuscator[2]。
據(jù)公布，F(xiàn)aceObfuscator 在六個公開人臉數(shù)據(jù)集上進(jìn)行了測試，實(shí)驗(yàn)結(jié)果表明，其無法被重構(gòu)為人臉圖像，有效保護(hù)了人臉隱，在 COS（余弦相似度）和 SRRA（重放攻擊成功率）指標(biāo)上表現(xiàn)優(yōu)異，顯著降低了重構(gòu)攻擊的成功率。
簡單來說，"FaceObfuscator"就是一種用來模糊或者隱藏人臉的工具或技術(shù)。例如，在監(jiān)控視頻中，可能會使用FaceObfuscator來模糊掉路人的臉部，以保護(hù)他們的隱私不被侵犯。
FaceObfuscator 可應(yīng)用于監(jiān)控識別、刷臉支付、門禁考勤等場景，服務(wù)于安防、金融、教育等多個行業(yè)領(lǐng)域。當(dāng)然，這項(xiàng)技術(shù)確實(shí)還存在一個問題，就是直播間中的換臉，無法識別和防護(hù)。
畢竟直播間中的換臉，并沒有什么設(shè)備需要去驗(yàn)證，只要觀眾覺得像就行。這一輪AI大戰(zhàn)，AI換臉憑借更多場景，讓AI識別在這一場景中無能為力。
做AI安防的頂象科技內(nèi)部人士告訴鯨哥，“直播間AI換臉，以前最常用的識別方法是讓其捏下鼻子，AI馬斯克直播敢捏臉，就證明這個鑒別方法不是太實(shí)用了?！?/p>
但鑒別方式并不是沒有了，這就需要更多的技術(shù)方案，融入各種社交產(chǎn)品中。
多輪攻防戰(zhàn)斗，AI換臉對抗螺旋上升
最早是在2018年，國外研究人員創(chuàng)建了一個假的奧巴馬演講視頻，這部視頻面部表情逼真，口型與音頻也比較同步。
當(dāng)時這個視頻采用的是生成對抗網(wǎng)絡(luò)(GANs)，GANs一度是最流行的AI換臉技術(shù)。它包含兩個神經(jīng)網(wǎng)絡(luò)：一個生成器和一個判別器。生成器負(fù)責(zé)創(chuàng)建假圖像，而判別器則試圖區(qū)分真假。通過不斷的對抗訓(xùn)練，系統(tǒng)能夠生成越來越逼真的換臉效果。
這時期，基于GANs技術(shù)的AI換臉最知名的軟件是DeepFaceLab，這款軟件其實(shí)是基于特定需求研發(fā)，它被廣泛用于一些好萊塢電影中的特效場景。
但很快這項(xiàng)技術(shù)就被擴(kuò)散，從影視圈向極客、灰產(chǎn)等圈層發(fā)展，違規(guī)的換臉視頻作品和用于詐騙的換臉資料也開始從層出不窮。
這時期，防守方主要有2種方式鑒別AI換臉。第一是視覺特征分析，研究人員開發(fā)了算法來檢測換臉視頻中的不自然特征，如不一致的眨眼頻率、不自然的面部紋理等。
當(dāng)時Facebook與密歇根州立大學(xué)合作開發(fā)的DeepFake檢測挑戰(zhàn)賽，就是為了吸引技術(shù)人員參賽，為這項(xiàng)技術(shù)添磚加瓦。
第二項(xiàng)手段是音頻-視頻不一致性檢測：由于許多換臉視頻使用原始音頻，研究人員開發(fā)了算法來檢測唇動與音頻的微小不一致。
谷歌也在2019年發(fā)布了一個包含3000多個Deepfake視頻的數(shù)據(jù)集，用于訓(xùn)練檢測算法，其中就包括音視頻同步性分析。
這一時期， 技術(shù)的防御手段主要依靠AI換臉視頻技術(shù)還不成熟，防守方挑選出不自然、不匹配的內(nèi)容片段，以此來判斷視頻的真假，說實(shí)話還是挺難的。
時間來到2020年，AI換臉行業(yè)出現(xiàn)了一種名為神經(jīng)渲染（Neural Rendering）的技術(shù)，能夠在視頻會議中實(shí)時進(jìn)行高質(zhì)量的換臉。
這項(xiàng)技術(shù)能夠從單張2D圖像重建3D面部模型，然后將其應(yīng)用到目標(biāo)視頻中，實(shí)現(xiàn)更自然的換臉效果。
由于臉部數(shù)據(jù)被數(shù)字重建，這時候人的各種表情理論上都可以被數(shù)字生成，防范的難度進(jìn)一步增大。所以防守方的主要手段，開始借助數(shù)字資產(chǎn)確權(quán)技術(shù)，來保護(hù)大家的臉部隱私。
2020年，一家名為Truepic的公司推出了基于區(qū)塊鏈的圖像驗(yàn)證系統(tǒng)，被一些新聞機(jī)構(gòu)用于驗(yàn)證新聞圖片的真實(shí)性。通過在區(qū)塊鏈上記錄原始視頻的哈希值，可以驗(yàn)證視頻是否被篡改。
這項(xiàng)技術(shù)都是針對特殊人臉視頻的保護(hù)，大部分原始視頻都不可能被數(shù)字確權(quán)，所以保護(hù)的范圍太小了。
時間進(jìn)入到2024年，AI換臉從圖片、視頻走進(jìn)了直播間，AI換臉技術(shù)已經(jīng)白菜化，防守方也開始從視頻錄入過程中就引入保護(hù)源，甚至聯(lián)合社會各方一起合作打擊AI換臉灰產(chǎn)。
你的臉部數(shù)據(jù)安全，不止需要技術(shù)守護(hù)
時間撥回到2020年，“掃描一次人臉，給費(fèi)用50元，絕對保護(hù)隱私前提下使用?！划?dāng)時在北京的西二旗附近，很多AI創(chuàng)業(yè)公司收集人臉數(shù)據(jù)，價格很便宜。
這些CV（計(jì)算機(jī)視覺）公司利用人臉數(shù)據(jù)改進(jìn)算法模型，更多大公司試圖找平臺合作方進(jìn)行數(shù)據(jù)合作。投資人李開復(fù)曾口誤說，幫曠視科技搭橋支付寶，利用后者人臉數(shù)據(jù)訓(xùn)練了大模型，導(dǎo)致兩家公司都非常緊張，支付寶也急忙辟謠沒有給過其他家公司數(shù)據(jù)。
不能否認(rèn)，那時候人臉識別技術(shù)發(fā)達(dá)后，攝像監(jiān)控、手機(jī)屏幕識別、掃臉驗(yàn)證、掃臉支付等業(yè)務(wù)都開始飛速發(fā)展。
在生成式人工智能大火的今天，AI換臉技術(shù)迅速在民間流傳，視頻電話詐騙，復(fù)刻人臉支付，各種詐騙犯罪活動開始防不勝防。
在技術(shù)的不斷迭代面前，防守方永遠(yuǎn)處理劣勢。未來會突然出現(xiàn)何種技術(shù)，讓AI換臉更容易和更逼真，都是無法預(yù)料的事情。因此不能全指望技術(shù)，平臺的參與也至關(guān)重要。
國家在2019年出臺規(guī)定，要求Deepfake內(nèi)容必須標(biāo)明"非真實(shí)"字樣。此后，主流互聯(lián)網(wǎng)平臺也開始參與這場AI換臉攻防戰(zhàn)。
2022年前后，抖音和視頻號等平臺上，開始要求AI視頻制作方主動標(biāo)識是AI生成，或者是平臺提示可能是AI作品。
一位從事AI美女生成的制作方告訴鯨哥，以前用SD技術(shù)生成真人美女，每天都有上千的私信，他們以為這是真人美女，其中不乏一些騷擾信息。而在標(biāo)識為AI生成后，私信數(shù)量就開始急劇下跌，現(xiàn)在不過百了，他以前是靠引流到私域賣貨，現(xiàn)在得考慮用AI換臉直播了，這一類型也正在被嚴(yán)打。
根據(jù)抖音安全中心的統(tǒng)計(jì)，今年1月至今，已經(jīng)有7.3萬個賬號因?yàn)樯嫦悠墼p而被收回了直播權(quán)限。很多時候，抖音要求AI制作的內(nèi)容必須做出顯著標(biāo)識。
騰訊平臺上的社交和視頻產(chǎn)品，也非常需要AI鑒別。所以，騰訊云也推出換臉甄別（Anti-Deepfake，ATDF）技術(shù)，利用AI技術(shù)反制換臉、合成臉這類AI技術(shù)的濫用，并提供對視頻圖像中的人臉進(jìn)行全面分析的服務(wù)。
平臺作為傳播的渠道，最重要的手段是擁有其換臉后積攢的粉絲、打賞等回報資產(chǎn)，所以利用封禁賬號等手段，使得亂用技術(shù)的人投鼠忌器，是當(dāng)下最有效的打擊形式。
而拋開直播間的AI換臉，市面上的企業(yè)，則更多利用第三方安全服務(wù)，打擊AI換臉的考勤、騙保等等事件。。
頂象等第三方為銀行、保險等公司提供的安全方案，則是在設(shè)備環(huán)境監(jiān)測、人臉信息、圖像鑒別、用戶行為、交互狀態(tài)等很多維度信息進(jìn)行綜合鑒別。內(nèi)部人士告訴鯨哥，他們甚至發(fā)現(xiàn)了一個集團(tuán)上10萬人次存在利用虛假形象打卡行為，集團(tuán)損失上億元。
如今，AI換臉技術(shù)被灰色利益鼓舞，未來還會飛速進(jìn)化，而防護(hù)方只能在后面見招拆招，所以更多需要每個人提高安全警惕，不是每個『馬斯克』都是真的馬斯克。
本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表，版權(quán)歸原作者所有。文章系作者個人觀點(diǎn)，不代表創(chuàng)業(yè)邦立場，轉(zhuǎn)載請聯(lián)系原作者。如有任何疑問，請聯(lián)系editor@cyzone.cn。
