專家解讀AI換臉技術(shù)背后 被濫用有侵犯隱私之嫌

近期，社交媒體平臺上一款名為“螞蟻呀嘿”的特效火爆全網(wǎng)，許多網(wǎng)友都將自己的照片導(dǎo)入換臉軟件Avatarify中，照片便可以被算法驅(qū)動，生成一段表情夸張扭曲且跟著節(jié)奏晃動的換臉短視頻。

短短幾天后，正如此前火爆一時的換臉軟件ZAO一樣，Avatarify被下架，許多人猜測下架原因是AI換臉可能涉及隱私問題。AI換臉技術(shù)的原理是什么？換臉是否會造成個人隱私泄露？帶著網(wǎng)友的提問，《科技周刊》記者專訪東南大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授宋宇波，為我們揭開AI換臉技術(shù)的秘密。

問：AI換臉技術(shù)背后的原理是什么？

宋宇波：最早實現(xiàn)換臉是通過修圖(Photoshop)的方式實現(xiàn)的，不僅耗時耗力，其換臉效果也不佳。而目前比較流行的換臉軟件，實際上是運用了生成式對抗網(wǎng)絡(luò)（GAN）技術(shù)，這是深度學(xué)習(xí)模型中的一種。簡單來說，就是機器通過事先采集大數(shù)據(jù)中的人臉表情特征，再結(jié)合換臉人本身的一些特征信息，通過“對抗博弈”的方式不斷進化，最終生成我們所希望得到的換臉視頻。這種方式不僅可以快速地實現(xiàn)自動換臉，其生成的圖像也更逼真。

問：什么是生成式對抗網(wǎng)絡(luò)？

宋宇波：盡管生成式對抗網(wǎng)絡(luò)中包含“網(wǎng)絡(luò)”一詞，但它和我們通常所說的“互聯(lián)網(wǎng)”并不是一回事，它本質(zhì)上是一個數(shù)學(xué)算法。由于生成式對抗網(wǎng)絡(luò)采用的是深度學(xué)習(xí)中的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，故而保留了“網(wǎng)絡(luò)”兩個字。

生成式對抗網(wǎng)絡(luò)框架通過讓兩個神經(jīng)網(wǎng)絡(luò)相互博弈的方式進行學(xué)習(xí)，其中一個是生成器，另一個是判別器。

值得注意的是，機器前期采集的喜怒哀樂等通用表情信息主要來源于大數(shù)據(jù)圖庫，而并非換臉人的個人表情信息。這也就意味著，利用對抗生成網(wǎng)絡(luò)技術(shù)實現(xiàn)的換臉僅需要不多的個人人臉照片即可。該換臉技術(shù)誕生最初大概需要300-500張換臉人的圖片，而隨著近年技術(shù)的不斷改進，現(xiàn)在僅僅需要3-5張相關(guān)照片就可以生成需要的換臉照片或者視頻。

問：AI換臉是否存在個人隱私泄露風險？偽視頻、偽圖片能攻破人臉識別系統(tǒng)嗎？

宋宇波：任何一種技術(shù)都存在兩面性，如果單純是為了搞笑消遣而制作換臉視頻，本身并沒有太多的危害，但如果這一技術(shù)被不法分子利用，則會產(chǎn)生極大危害。信息被濫用、個人生物識別特征被泄露等風險，是這類軟件頻繁引發(fā)質(zhì)疑的一個重要原因。

對于政治人物或明星來說，將他們的臉移植到一些他們本不該出現(xiàn)的場景中，很有可能造成負面影響；而對于個人來說，目前許多金融場所都依賴于視頻線上識別來進行身份核實，如果不法分子運用深度合成中的表情操縱方法生成偽視頻，則很可能造成個人金錢損失。

2019年11月底，國家網(wǎng)信辦、文旅部和國家廣電總局等三個部門聯(lián)合發(fā)布的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》指出，利用基于深度學(xué)習(xí)、虛擬現(xiàn)實等新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實音視頻信息的，應(yīng)當以顯著方式予以標識；不得利用相關(guān)的音視頻技術(shù)“侵害他人名譽權(quán)、肖像權(quán)、隱私權(quán)、知識產(chǎn)權(quán)和其他合法權(quán)益”。

就目前而言，通過App下載的換臉圖片或者視頻，由于計算量有限，其圖像質(zhì)量還比較差，仔細觀察后還是存在面部不自然等問題。而那些圖像質(zhì)量高到可以欺騙人眼的換臉圖片和視頻，在相關(guān)檢測算法的判別下通常也都會“原形畢露”，因此，普通用戶不必過于擔心人臉識別系統(tǒng)會被攻破。但隨著技術(shù)的不斷改進，未來這類軟件很可能對我們的個人隱私造成較大威脅，因此我們也呼吁相關(guān)法規(guī)盡快出臺。