編者按：本文來自微信公眾號(hào) AI鯨選社，作者：楊曉鶴，創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

Deepfake（深度偽造）再度掀起熱搜，韓國網(wǎng)友已經(jīng)來到微博求助！

事情起因是最近一周，韓國警方發(fā)現(xiàn)了某加密軟件中存在，大量與學(xué)校、醫(yī)院、軍隊(duì)有關(guān)的涉案社交媒體群組，利用Deepfake（深度偽造）技術(shù)換臉合成色情照片和視頻，參與用戶多達(dá)22萬人。經(jīng)初步調(diào)查，受害者80%為女性。

最新消息是，娛樂公司JYP針對(duì)旗下女團(tuán)TWICE 的deepfake視頻做出回應(yīng)，表示將采取法律行動(dòng)。 但很多人認(rèn)為并不能改變現(xiàn)狀，所以他們來到國內(nèi)呼吁關(guān)注。

其實(shí)，AI換臉不是最近剛出現(xiàn)的技術(shù)，而是越來越以假亂真，越來越多模態(tài)。當(dāng)然，AI換臉識(shí)別技術(shù)也在飛速發(fā)展，隨著AI換臉的威脅越來越大，這場攻防大戰(zhàn)正越來越激烈。

此前在8月28日的同一天時(shí)間，網(wǎng)友用Deepfake 技術(shù)換臉馬斯克，直播獲得上萬人打賞，緊接著浙江大學(xué)與阿里安全部共同研發(fā)了一種新型人臉隱私保護(hù)方案——FaceObfuscator。

看似人臉保護(hù)技術(shù)出現(xiàn)強(qiáng)力護(hù)盾，但技術(shù)對(duì)抗從來不是一簇而終。6年前，AI換臉技術(shù)開始興起，但那時(shí)候人物表情還比較僵硬，也無法用于直播場景中，現(xiàn)在AI換臉技術(shù)已經(jīng)非常成熟。

“以后我的手機(jī)是不是被撿到，就能被刷臉打開了？”“手機(jī)的刷臉支付到底還能不能用”，“誰來保護(hù)我的隱私，尤其是女性權(quán)益?！钡雀鞣N輿論的聲音也越來越強(qiáng)烈。

萬人打賞AI馬斯克，AI防護(hù)也進(jìn)一步

“hi, how are you，I'm musk。 ”這是AI換臉的馬斯克在直播，他的直播間非?；馃?，換臉馬斯克一邊展示大火箭模型，一邊捏捏自己的臉。

這位主播自己都笑得不行，他是沒想到效果非常逼真，甚至許多連線的粉絲表示根本無法區(qū)分真假，上萬人給這位主播打賞。

這位“馬斯克”也是非常博學(xué)，對(duì)SpaceX、Tesla的Cybertruck、AI技術(shù)、Neuralink等技術(shù)都如數(shù)家珍，還熱心地給一位剛畢業(yè)的學(xué)生講述了一些工作建議。

AI換臉的馬斯克能在直播間栩栩余生，那以后直播間中馬云、劉強(qiáng)東、黃仁勛、喬布斯就都隨時(shí)能出現(xiàn)。直播間出現(xiàn)這些名人AI分身，可能對(duì)高知的人群威脅不大，就怕『AI勒東』等更加泛濫。

公開數(shù)據(jù)顯示，截止2024年，已經(jīng)有8名長的非常像勒東的網(wǎng)紅，被提起公訴。然而，很多阿姨到此還不認(rèn)為自己被騙，認(rèn)為那些騙他錢的假勒東就是本人，惹得勒東親自呼吁上當(dāng)?shù)陌⒁虃儾灰^續(xù)相信，他不會(huì)私信聊任何人。

下沉市場對(duì)一個(gè)相像的明星都執(zhí)著得相信，何況是AI換臉的明星，畢竟AI可以將長相和聲音完美復(fù)刻。

而且這項(xiàng)技術(shù)也在迅速白菜化，一位AI行業(yè)人士告訴鯨哥，現(xiàn)在 GitHub上，有超過 3000 個(gè)與 “AI換臉”技術(shù)相關(guān)的存儲(chǔ)庫，很多外網(wǎng)的灰色社交頻道中更多。這些“AI換臉”也十分便宜，價(jià)格最低的“AI換臉”視頻只需要2 美元，而需求復(fù)雜的一個(gè)“深度偽造”視頻要100美元起。

現(xiàn)在，國外很多幣圈人用假馬斯克做代言廣告，灰色業(yè)務(wù)有些爆發(fā)；國內(nèi)則是針對(duì)下沉市場欺詐行為居多。

2023年，呼和浩特一位男士就被這樣的AI換臉視頻電話，詐騙去了40多萬元。被騙人表示，自己從沒想到視頻對(duì)面的微信好友盡然是AI換臉的。

現(xiàn)在情況不一樣了，就在AI馬斯克直播的同一天，一項(xiàng)應(yīng)對(duì)這種這種亂象的技術(shù)也被發(fā)布。

8月28日，針對(duì)人臉特征重構(gòu)隱私威脅，浙江大學(xué)與阿里安全部共同研發(fā)了一種新型人臉隱私保護(hù)方案——FaceObfuscator[2]。

據(jù)公布，F(xiàn)aceObfuscator 在六個(gè)公開人臉數(shù)據(jù)集上進(jìn)行了測試，實(shí)驗(yàn)結(jié)果表明，其無法被重構(gòu)為人臉圖像，有效保護(hù)了人臉隱，在 COS（余弦相似度）和 SRRA（重放攻擊成功率）指標(biāo)上表現(xiàn)優(yōu)異，顯著降低了重構(gòu)攻擊的成功率。

簡單來說，"FaceObfuscator"就是一種用來模糊或者隱藏人臉的工具或技術(shù)。例如，在監(jiān)控視頻中，可能會(huì)使用FaceObfuscator來模糊掉路人的臉部，以保護(hù)他們的隱私不被侵犯。

FaceObfuscator 可應(yīng)用于監(jiān)控識(shí)別、刷臉支付、門禁考勤等場景，服務(wù)于安防、金融、教育等多個(gè)行業(yè)領(lǐng)域。當(dāng)然，這項(xiàng)技術(shù)確實(shí)還存在一個(gè)問題，就是直播間中的換臉，無法識(shí)別和防護(hù)。

畢竟直播間中的換臉，并沒有什么設(shè)備需要去驗(yàn)證，只要觀眾覺得像就行。這一輪AI大戰(zhàn)，AI換臉憑借更多場景，讓AI識(shí)別在這一場景中無能為力。

做AI安防的頂象科技內(nèi)部人士告訴鯨哥，“直播間AI換臉，以前最常用的識(shí)別方法是讓其捏下鼻子，AI馬斯克直播敢捏臉，就證明這個(gè)鑒別方法不是太實(shí)用了?！?/p>

但鑒別方式并不是沒有了，這就需要更多的技術(shù)方案，融入各種社交產(chǎn)品中。

多輪攻防戰(zhàn)斗，AI換臉對(duì)抗螺旋上升

最早是在2018年，國外研究人員創(chuàng)建了一個(gè)假的奧巴馬演講視頻，這部視頻面部表情逼真，口型與音頻也比較同步。

當(dāng)時(shí)這個(gè)視頻采用的是生成對(duì)抗網(wǎng)絡(luò)(GANs)，GANs一度是最流行的AI換臉技術(shù)。它包含兩個(gè)神經(jīng)網(wǎng)絡(luò)：一個(gè)生成器和一個(gè)判別器。生成器負(fù)責(zé)創(chuàng)建假圖像，而判別器則試圖區(qū)分真假。通過不斷的對(duì)抗訓(xùn)練，系統(tǒng)能夠生成越來越逼真的換臉效果。

這時(shí)期，基于GANs技術(shù)的AI換臉最知名的軟件是DeepFaceLab，這款軟件其實(shí)是基于特定需求研發(fā)，它被廣泛用于一些好萊塢電影中的特效場景。

但很快這項(xiàng)技術(shù)就被擴(kuò)散，從影視圈向極客、灰產(chǎn)等圈層發(fā)展，違規(guī)的換臉視頻作品和用于詐騙的換臉資料也開始從層出不窮。

這時(shí)期，防守方主要有2種方式鑒別AI換臉。第一是視覺特征分析，研究人員開發(fā)了算法來檢測換臉視頻中的不自然特征，如不一致的眨眼頻率、不自然的面部紋理等。

當(dāng)時(shí)Facebook與密歇根州立大學(xué)合作開發(fā)的DeepFake檢測挑戰(zhàn)賽，就是為了吸引技術(shù)人員參賽，為這項(xiàng)技術(shù)添磚加瓦。

第二項(xiàng)手段是音頻-視頻不一致性檢測：由于許多換臉視頻使用原始音頻，研究人員開發(fā)了算法來檢測唇動(dòng)與音頻的微小不一致。

谷歌也在2019年發(fā)布了一個(gè)包含3000多個(gè)Deepfake視頻的數(shù)據(jù)集，用于訓(xùn)練檢測算法，其中就包括音視頻同步性分析。

這一時(shí)期， 技術(shù)的防御手段主要依靠AI換臉視頻技術(shù)還不成熟，防守方挑選出不自然、不匹配的內(nèi)容片段，以此來判斷視頻的真假，說實(shí)話還是挺難的。

時(shí)間來到2020年，AI換臉行業(yè)出現(xiàn)了一種名為神經(jīng)渲染（Neural Rendering）的技術(shù)，能夠在視頻會(huì)議中實(shí)時(shí)進(jìn)行高質(zhì)量的換臉。

這項(xiàng)技術(shù)能夠從單張2D圖像重建3D面部模型，然后將其應(yīng)用到目標(biāo)視頻中，實(shí)現(xiàn)更自然的換臉效果。

由于臉部數(shù)據(jù)被數(shù)字重建，這時(shí)候人的各種表情理論上都可以被數(shù)字生成，防范的難度進(jìn)一步增大。所以防守方的主要手段，開始借助數(shù)字資產(chǎn)確權(quán)技術(shù)，來保護(hù)大家的臉部隱私。

2020年，一家名為Truepic的公司推出了基于區(qū)塊鏈的圖像驗(yàn)證系統(tǒng)，被一些新聞機(jī)構(gòu)用于驗(yàn)證新聞圖片的真實(shí)性。通過在區(qū)塊鏈上記錄原始視頻的哈希值，可以驗(yàn)證視頻是否被篡改。

這項(xiàng)技術(shù)都是針對(duì)特殊人臉視頻的保護(hù)，大部分原始視頻都不可能被數(shù)字確權(quán)，所以保護(hù)的范圍太小了。

時(shí)間進(jìn)入到2024年，AI換臉從圖片、視頻走進(jìn)了直播間，AI換臉技術(shù)已經(jīng)白菜化。尤其在加密軟件中的換臉犯罪，則更加猖狂。這次韓國Deepfake事件，就被稱為“N號(hào)房2.0事件”，各方都在等待調(diào)查結(jié)果。

你的臉部數(shù)據(jù)安全，不止需要技術(shù)守護(hù)

時(shí)間撥回到2020年，“掃描一次人臉，給費(fèi)用50元，絕對(duì)保護(hù)隱私前提下使用。』當(dāng)時(shí)在北京的西二旗附近，很多AI創(chuàng)業(yè)公司收集人臉數(shù)據(jù)，價(jià)格很便宜。

這些CV（計(jì)算機(jī)視覺）公司利用人臉數(shù)據(jù)改進(jìn)算法模型，更多大公司試圖找平臺(tái)合作方進(jìn)行數(shù)據(jù)合作。投資人李開復(fù)曾口誤說，幫曠視科技搭橋支付寶，利用后者人臉數(shù)據(jù)訓(xùn)練了大模型，導(dǎo)致兩家公司都非常緊張，支付寶也急忙辟謠沒有給過其他家公司數(shù)據(jù)。

不能否認(rèn)，那時(shí)候人臉識(shí)別技術(shù)發(fā)達(dá)后，攝像監(jiān)控、手機(jī)屏幕識(shí)別、掃臉驗(yàn)證、掃臉支付等業(yè)務(wù)都開始飛速發(fā)展。

在生成式人工智能大火的今天，AI換臉技術(shù)迅速在民間流傳，視頻電話詐騙，復(fù)刻人臉支付，各種詐騙犯罪活動(dòng)開始防不勝防。

在技術(shù)的不斷迭代面前，防守方永遠(yuǎn)處理劣勢。未來會(huì)突然出現(xiàn)何種技術(shù)，讓AI換臉更容易和更逼真，都是無法預(yù)料的事情。因此不能全指望技術(shù)，平臺(tái)的參與也至關(guān)重要。

國家在2019年出臺(tái)規(guī)定，要求Deepfake內(nèi)容必須標(biāo)明"非真實(shí)"字樣。此后，主流互聯(lián)網(wǎng)平臺(tái)也開始參與這場AI換臉攻防戰(zhàn)。

2022年前后，抖音和視頻號(hào)等平臺(tái)上，開始要求AI視頻制作方主動(dòng)標(biāo)識(shí)是AI生成，或者是平臺(tái)提示可能是AI作品。

一位從事AI美女生成的制作方告訴鯨哥，以前用SD技術(shù)生成真人美女，每天都有上千的私信，他們以為這是真人美女，其中不乏一些騷擾信息。而在標(biāo)識(shí)為AI生成后，私信數(shù)量就開始急劇下跌，現(xiàn)在不過百了，他以前是靠引流到私域賣貨，現(xiàn)在得考慮用AI換臉直播了，這一類型也正在被嚴(yán)打。

根據(jù)抖音安全中心的統(tǒng)計(jì)，今年1月至今，已經(jīng)有7.3萬個(gè)賬號(hào)因?yàn)樯嫦悠墼p而被收回了直播權(quán)限。很多時(shí)候，抖音要求AI制作的內(nèi)容必須做出顯著標(biāo)識(shí)。

騰訊平臺(tái)上的社交和視頻產(chǎn)品，也非常需要AI鑒別。所以，騰訊云也推出換臉甄別（Anti-Deepfake，ATDF）技術(shù)，利用AI技術(shù)反制換臉、合成臉這類AI技術(shù)的濫用，并提供對(duì)視頻圖像中的人臉進(jìn)行全面分析的服務(wù)。

平臺(tái)作為傳播的渠道，最重要的手段是擁有其換臉后積攢的粉絲、打賞等回報(bào)資產(chǎn)，所以利用封禁賬號(hào)等手段，使得亂用技術(shù)的人投鼠忌器，是當(dāng)下最有效的打擊形式。

而拋開直播間的AI換臉，市面上的企業(yè)，則更多利用第三方安全服務(wù)，打擊AI換臉的考勤、騙保等等事件。。

頂象等第三方為銀行、保險(xiǎn)等公司提供的安全方案，則是在設(shè)備環(huán)境監(jiān)測、人臉信息、圖像鑒別、用戶行為、交互狀態(tài)等很多維度信息進(jìn)行綜合鑒別。內(nèi)部人士告訴鯨哥，他們甚至發(fā)現(xiàn)了一個(gè)集團(tuán)上10萬人次存在利用虛假形象打卡行為，集團(tuán)損失上億元。

如今，AI換臉技術(shù)被灰色利益鼓舞，未來還會(huì)飛速進(jìn)化，而防護(hù)方只能在后面見招拆招，所以更多需要每個(gè)人提高安全警惕，不是每個(gè)『馬斯克』都是真的馬斯克。

本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表創(chuàng)業(yè)邦立場，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問，請(qǐng)聯(lián)系editor@cyzone.cn。