2021春節過後，中美兩地同時掀起了一種特效小影片風。惡搞「螞蟻呀嘿，螞蟻呀呼，螞蟻呀哈」（《Dragostea din tei》歌詞音譯）BGM 的短影片在各大影片、社交網路平台上刷屏。藉由 AI 技術，將靜態照片動態化處理，將人的口型、眼神等神態與歌曲內容完好匹配，製造出喜感、魔性的「變臉」惡搞影片，再搭配上名人如比爾 ‧ 蓋茲、巴菲特、馬云的共同「演繹」和有趣的文案，廣受網民們歡迎。
除「螞蟻呀嘿」特效影片背後的應用軟體 Avatarify，抖音、快手等也迅速上線「螞蟻呀嘿」影片製作模組，支持用戶上傳照片，「變臉」歡唱。
在線家譜公司 MyHeritage 開發了一項名為 Deep Nostalgia（深度懷舊）的 AI 服務，可以將靜態老照片處理成幾秒的小影片。上線 Deep Nostalgia 功能的最初目的是，讓用戶上傳已故親人的照片，藉由觀看親人栩栩如生的動畫，以治癒無盡的思念。目前，MyHeritage 公司的 AI 模組已經嵌入 Twitter，引發 Twitter 用戶跟風懷舊。
無論是 Avatarify 開發的「螞蟻呀嘿」，還是 MyHeritage 上線的 Deep Nostalgia，都屬於 Deepfake（深偽技術）。Deepfake 顧名思義，是藉由 AI 深度學習技術偽造影像、聲音。偽造影片影像技術最早出現於 2016 年，Deepfake 一詞卻出現在 2017 年，此後，每隔一段時間都有 Deepfake 相關的應用或影片在網路上風靡，熱度下降後又以其他方式改頭換面、捲土重來。
那些年出現過的深度「假貨」
開篇提到的 Avatarify 就連續兩年佔據 Deepfake 界頭版。
2020 年年初，疫情期間，Avatarify 的程式員 Ali Aliev 在 YouTube 平台上傳了幾個偽造影片。Ali Aliev 在與同事 Zoom 影片會議時，將自己的臉換成了特斯拉 CEO 埃隆 ‧ 馬斯克，馬斯克的面部微表情、說話自然，看不出任何破綻，讓同事們大感意外，誤以為跟科技大佬討論了一個價值兩億美元的大計畫。
與其他 Deepfake 計畫不同，Avatarify 不需要預先錄製影片，可根據影片流即時工作。隨後，Avatarify 在 Github 上開源，迅速升至每日趨勢列表頂部。2020年，Avatarify 憑藉「螞蟻呀嘿」特效影片走紅後，Avatarify 超越微信、抖音、拼多多，迅速登至蘋果應用商店免費下載榜榜首，還帶動了剪映 APP 的大量下載。
國外有 Avatarify，中國大陸有 ZAO。
2019 年 8 月底，ZAO 在中國大陸上線，短短兩天時間，就成為蘋果應用商店最受歡迎 APP 之一。ZAO 的宣傳語簡潔明了，「僅需一張照片」，「出演天下好戲」，「添加好友多人合演」。ZAO 的出現滿足了人們獵奇、參演大片的心願。
除了說得出名字的科技公司的產品應用和功能，網路上還充斥著大量來自業餘愛好者、IT 程式員等製作的各類深偽影片。
比如，將政客、名人的臉偷樑換柱，嫁接到其他影片上，美國前總統歐巴馬、美國眾議院議長南希‧佩洛西、Facebook 創始人馬克•扎克伯格、知名女星蓋爾‧加朵都中過招。社交、影片網站還出現深偽帳號，2019 年，LinkedIn 領英出現疑似女間諜的假帳號 Katie Jones，2021 年初，TikTok 上出現好萊塢男星湯姆‧克魯斯的深偽影片帳號。
深偽影片、圖片通常利用生成對抗網路（GAN）製作，生成對抗網路涉及兩種相互競爭的神經網路，一個機器學習（ML）模型負責訓練數據集，並創建深偽影片、圖片，另外一個模型負責檢測偽造品，直至無法識別出偽造品。兩個模型互相推進工作。
尤其是，Github 等社區平台上開放大量開源的 Deepfake 技術代碼，使得製作假影片的門檻大大降低，即便不是專業人士也可輕鬆製作出偽造影片。
不過，儘管生成對抗網路在不斷進步，偽造品真假難辨，但一些影片、圖片也總能發現破綻。
比如，出現面部晃動、非自然扭曲、平移；周圍固定物體異動；光線、陰影異常；面部特色細部如斑、痣缺失。2019 年，國外出現每刷新一次生成一張假臉的網站，該生成對抗網路技術來自英偉達。雖然生成的人臉細部完美，但仔細辨別會發現，人物背景邊緣模糊，經常會出現面部器官、背景缺陷。
技術難點之外，科技公司鮮有成功的 Deepfake 商業模式，此外，因涉及人臉重要資訊，科技公司還面臨諸多風險。
人臉是一門好生意？
Avatarify 這類正規管道的 APP 一般藉由免費增值服務模式收費，Avatarify 下載、首週使用免費，額外服務如去除影片、GIF 水印需要付費，一週的使用價格 18 元人民幣，包年價格 253 元。
MyHeritage 則藉由免費的懷舊主題病毒式營銷，推動用戶註冊其他付費業務，MyHeritage 主營業務為 DNA 測試。當然，獲益的永續發展性與應用能否持續火爆相關，不幸的是大部分 Deepfake 應用往往只能火一陣時間。
其實，Deepfake 產業更多存在於黑灰色地帶。
過去幾年，網路犯罪分子採用勒索軟體斂財，現在他們盯上了 Deepfake 技術。藉由偽造影片、企業高層語音，要求企業財務人員資金轉移，或者偽造企業團隊核心負責人照片，進行犯罪活動。
資訊安全公司趨勢科技調查發現，暗網中存在很多深偽影片和圖片示例，網路犯罪分子在暗網上以超低價格出售 Deepfake 技術，深偽影片 50 美元起步，偽造靜態圖片每張 2.5 美元，Deepfake 軟體 25 美元起步。
加拿大媒體 VICE 記者 Evan Jacoby（埃文‧雅各比）曾在網路上客製化 Deepfake 成人影像，僅花費 30 美元。埃文還發現，Deepfake 軟體通常需要數百張照片訓練模型，但單個影片可以繞開這種侷限性，一個長達 15 秒的 Instagram 影片可以將影片主角的臉部渲染到另一個影片上。
理論上講，只要用戶在社交媒體上發佈了臉部影片，有人保存了影片，那麼，這個用戶的臉就有可能出現在各種各樣的影片中。
Deepfake 技術帶來的用戶隱私數據安全問題成為不能忽視的命題。
ZAO 因用戶隱私協議中聲稱可擁有 APP 上所有生成圖片所有權，可在未經用戶允許情況下，將圖片分享給第三方企業，引起極大爭議，上線三天匆匆下架。
儘管，Avatarify、MyHeritage 聲明用戶數據不會上傳至雲端，也不會提供給任何第三方組織。但擁有大量用戶生物數據的科技公司極容易被黑客、黑產盯上。2018 年，MyHeritage 遭遇大面積用戶數據洩露，不久後，有人發現暗網中正出售洩露的用戶隱私數據。
不僅僅是 Deepfake 技術，只要涉及人臉數據使用問題，科技公司需要慎之又慎。
2015 年，Facebook 因未徵得用戶同意擅自收集和儲藏用戶人臉數據，被三名美國伊利諾伊州公民以違反《生物識別資訊隱私法》告上法庭，隨後百萬用戶對 Facebook 提起集體訴訟。經過長達六年的馬拉松式訴訟，最終裁決 Facebook 賠償用戶 6.5 億美元，每個用戶可獲得約 340 美元賠償。
AI 技術終究是中立的，Deepfake 技術可以復活影星、名畫、逝去的親人，Deepfake 也可出現在不見光的暗網中，從事各類違法犯罪活動。而對於科技公司而言，遊走在商業利益和用戶隱私安全、法律法規之間，絕非易事。人臉數據歸屬權應該是用戶，不論這些數據能否變現，使用數據時，用戶需擁有充分的知情權。