AI換臉鑒別率超99.6%，微軟用技術應對虛假信息

近日社交網絡上爆紅的一款換臉應用，讓許多普通用戶體驗到了跟愛豆同框、與偶像飆戲的快樂，也因數據使用帶來的問題陷入了輿論的漩渦——除了用戶隱私保障，如何辨別和處理換臉應用所製造的合成照片、合成視頻是新型科技產品帶來的新挑戰。

這也讓人們開始重新關注此前 DeepFake 在全球引發的軒然大波。從生成足以以假亂真的名人不雅視頻開始，很多使用者將這個“換臉神器”當成了視頻造假工具，並通過社交網絡將虛假信息（disinformation）傳播到全世界。DeepFake 等技術的出現不僅提升了換臉的真實性，其開放源代碼的方式更是降低了將該等技術濫用於虛假信息製作和傳播門檻。

事實上，大約 30% 經過 AI 換臉的合成照片、合成視頻是人類僅憑肉眼無法識別的，很容易被當作真實信息進行再次傳播。這已成為一個亟待解決的社會性問題，麵對這個問題，我們應該以及可以做些什麼？

為了解決這個問題，學界與業界開始研究如何利用 AI 技術去反向鑒別圖像、視頻的真偽。AI 換臉與換臉鑒別如同一場攻防戰，處於防守方的換臉鑒別想準確預測進攻方的路線，是非常困難的。

除了 DeepFake，市場上存在多種換臉技術，不同算法生成的圖像結果千差萬別，難以使用同一個換臉鑒別模型解決所有換臉技術的進攻。與此同時，換臉鑒別模型還需要對目前不存在、但未來可能出現的換臉技術也具有判別力，如何去預測未來換臉技術的發展方向，提前布防，也是重要課題。

目前，最常被使用的 AI 換臉算法有三種：DeepFake、FaceSwap 和 Face2Face。其中，DeepFake 基於大家所熟知的 GAN 技術，對於它所生成的臉，人類的識別率大約為75%*。FaceSwap 是一個學習重建臉部特征的深度學習算法，可以對給出的圖片進行模型替換，人類對於此類換臉的識別率也是75%左右*。Face2Face 則是用其他真實的人臉去替換原本的人臉，不涉及人臉的生成，對於它製造的臉，人類的識別率隻有41%*。作為目前學術界最大的合成視頻數據庫之一，由慕尼黑技術大學創建的 FaceForensics 數據庫涵蓋了經過以上三種換臉算法編輯的公開視頻，以供學術研究使用。

多年來，微軟亞洲研究院在人臉識別、圖像生成等方向都擁有業界領先的算法和模型。在 CVPR 2018上，微軟亞洲研究院視覺計算組發表了論文“Towards Open-Set Identity Preserving Face Synthesis”，其中的技術能夠利用開放數據集中的數據，逼真地合成保留圖中人臉身份信息的圖像。深厚的技術積累讓研究員們對“進攻方”的技術原理有著更深刻的理解，進而能夠更有針對性地研發換臉鑒別算法。

圖1：微軟亞洲研究院開發的模型分別提取蒙娜麗莎和赫本圖片中的身份信息和屬性信息進行合成

因此，微軟亞洲研究院研發的換臉鑒別算法，基於 FaceForensics 數據庫的測試結果均超越了人類肉眼的識別率以及此前業界的最好水平*：對於 DeepFake的識別率達到了99.87%，對於 FaceSwap 的識別率為99.66%，對於Face2Face 的識別率為99.67%。

表1：針對已知換臉算法的識別測試結果

更重要的是，一般的換臉鑒別方案需要針對每一種換臉算法研發專門的換臉鑒別模型，想要鑒別一張圖像的真偽，需要逐個嚐試所有模型。微軟亞洲研究院的算法則可以用一個通用模型，去鑒別不同類型的換臉算法所製造的臉。與此同時，研究員還對人臉合成時難以處理的細節進行檢查，如眼鏡、牙齒、頭發邊緣、臉部輪廓，將它們作為算法關注的重點，從而提高識別準確率。相比其他同類技術，來自微軟亞洲研究院的換臉鑒別算法很好地解決了應對動態幅度大、有遮擋、有表情變化的圖像的難題。

除了準確識別已知算法合成的圖像，換臉鑒別的另一大挑戰是應對尚未出現的新算法。將現有的換臉鑒別算法直接用於新算法時，它們的有效性往往會顯著下降。為此，微軟亞洲研究院提出了一種通用換臉鑒別方法。為了更好地考察這一算法對未知換臉算法的鑒別能力，研究團隊用真實圖像對模型進行了訓練，再讓其辨別多種未知換臉算法生成的圖像。實驗結果表明，與基線算法相比，新算法對各類換臉算法的識別率均有大幅提升。隨著研究團隊對模型的進一步優化，通用鑒別模型一定能越來越精確地幫助我們應對新算法所帶來的問題和挑戰。

表2：針對未知換臉算法的識別測試結果

AI 技術正在給人類的工作和生活帶來顛覆性變革，效率提升、成本降低、各行各業全麵智能化，這些都是積極正麵的影響，但類似 DeepFake 這樣的技術所帶來的隱私泄露、虛假信息等問題也共生共存，這也是新技術發展的必經之路。作為技術的締造者和使用者，人類需要共同直麵和應對這些難題，讓 AI 技術對社會和人類福祉產生積極影響。

正如微軟總裁 Brad Smith 在談及其新書《工具與武器：數字時代的希望與危險》時所說，“如果你的技術改變了世界，你就有責任幫助世界應對這些變化。當我們深入研究這些問題時就會發現，其實大多數問題與過去有相似之處，例如廣播出現時遭遇了公眾反抗，相機的發明讓人類擔心隱私被侵犯。不同隻在於今天的變化速度更快。”

圖2：《工具與武器：數字時代的希望與危險》

微軟研發換臉鑒別模型，是希望用技術手段去應對新技術所帶來的問題，但這還不夠，從更廣的範圍看，所有的技術開發者都應承擔起相應的責任。也正是在這樣的大背景下，微軟強調要設計負責任和可信賴的 AI。AI 是成為助力人類的工具，還是變成攻擊人類的武器，是贏得人類的信賴，還是被人類所唾棄，關鍵都在於利用它的人。

在微軟看來，要構建可信賴的 AI，必須遵循以下六大原則：公平、可靠和安全、隱私、包容、透明、責任。微軟內部還成立了人工智能倫理道德委員會（AETHER），幫助微軟應對 AI 帶來的倫理和社會影響。

除了技術從業者的努力，技術的社會性問題還需要新聞工作者、社會工作者、法律工作者、政府機構等不同社會角色的通力合作。

在整個社會層麵構建負責任和值得信賴的 AI 並非某一家企業、一個組織能夠獨自完成的任務，它需要全行業乃至整個社會的共同努力，將創造技術、使用技術、管理技術以及受技術影響的人和組織彙聚在一起，才能確保最終以負責任的方式去設計 AI，真正造福人類。

*Rössler, Andreas, et al. Faceforensics++: Learning to detect manipulated facial images, 2019