AI換臉App一夜爆火？

國(guó)外早已打開了“潘多拉魔盒”

一夜之間，AI換臉App「Zao」爆紅，迅速刷屏朋友圈，爭(zhēng)議之大，一時(shí)激起千層浪。聯(lián)想到今年上半年上過熱搜的“楊冪換臉朱茵版黃蓉”、“徐錦江換臉海王”等AI換臉視頻，許多人對(duì)這項(xiàng)技術(shù)也充滿了好奇。

實(shí)際上，AI換臉技術(shù)誕生已久，在國(guó)外被稱為“deepfake”，也一直是輿論討伐的漩渦中心話題。

兩周前在YouTube上，一個(gè)叫「Ctrl Shift Face」的頻道發(fā)布了喜劇演員Bill Hader換臉湯姆·克魯斯的視頻，播放量近500萬(wàn)。觀眾認(rèn)為這是目前精細(xì)度最高的換臉視頻之一，deepfake技術(shù)又有新進(jìn)步。

「Ctrl Shift Face」已經(jīng)制作并發(fā)布了約20個(gè)deepfake視頻，大部分為明星換臉。YouTuber本人也在采訪中表示自己的主要目的是娛樂，并不是想要誤導(dǎo)或傷害別人。

類似于「Ctrl Shift Face」的頻道和deepfake類視頻在YouTube上十分常見，多數(shù)是用來惡搞政壇人物或話題人物，比如程序員換臉奧巴馬。今年6月，扎克伯格被AI換臉技術(shù)放進(jìn)一段質(zhì)疑Facebook用戶隱私的視頻中。

娛樂之外，deepfake技術(shù)引發(fā)了眾多社會(huì)擔(dān)憂，是否有人會(huì)借此偽造公眾人物視頻發(fā)表煽動(dòng)性言論？是否會(huì)有人利用該技術(shù)進(jìn)行犯罪？法庭上的視頻證據(jù)是否還有可信度？

而最令人憤怒的是，利用deepfake技術(shù)進(jìn)行色情傳播已經(jīng)成為現(xiàn)實(shí)，甚至發(fā)展成為一門生意。安妮·海瑟薇、加爾·蓋朵、泰勒·斯威夫特等女星都曾被換臉到色情片中，視頻被不斷傳播和售賣。

有專家警告稱，未來用deepfake制作色情片，可能會(huì)像使用Instagram濾鏡一樣簡(jiǎn)單。

針對(duì)deepfake技術(shù)的蔓延和傳播，已經(jīng)引起大量的關(guān)注和重視。Facebook、YouTube和Twitter等幾大平臺(tái)目前還未出臺(tái)明確可以對(duì)抗deepfake技術(shù)的措施，但一些研究人員已經(jīng)發(fā)現(xiàn)可以識(shí)別deepfake視頻的技巧。

一是deepfake視頻中人物不會(huì)眨眼或者眨眼不自然。deepfake雖然是利用神經(jīng)網(wǎng)絡(luò)將目標(biāo)人物的臉部覆蓋到視頻中人物上，但對(duì)人臉物理或自然特征未完全掌握，所以會(huì)產(chǎn)生不眨眼或是眨眼不自然現(xiàn)象。