AI換臉視頻鑒別：臉書聯合微軟和麻省理工，辦大賽打擊假視頻

文 | 李水青

導語：媒介環境的混亂將可能造成人類真實世界的混亂。除了隱私問題，AI視頻換臉引發的信息誤導問題同樣值得關注，甚至有過之而無不及。

智東西9月6日消息，臉書（Facebook）的首席技術官Mike Schroepfer發布博客宣布，臉書正和微軟聯合來自麻省理工、牛津等大學的研究者，通過置辦“Deepfakes鑒別挑戰賽”，探索如何通過數據集和基準測試檢測Deepfake換臉視頻。

Deepfakes技術可以利用GAN（生成式對抗網絡）將視頻中的人臉換掉，且十分逼真。近期國內大火的“ZAO”App被就疑似使用了該技術，用戶隻需要在App中上傳一張照片，就能將自己的臉替換成視頻中“小李子”“周潤發”“白展堂”等人的臉，幾乎可以以假亂真。

當ZAO很快地火起來後，人們敏銳地察覺到視頻換臉中的隱私問題，而後“ZAO”換臉App被責令整改。但是，除了隱私問題，其中的信息誤導問題同樣值得關注，甚至有過之而無不及。

▲被AI換臉後的視頻

“Deepfake”技術能夠利用AI將視頻中的人臉逼真地換掉，這使它很容意被用於偽造信息、誤導輿論，甚至被不法人士拿來製作色情短片、實施金融詐騙等違法犯罪行為。然而，行業內還沒有很好的數據集或基準來檢測辨別它們。

現在，美國科技巨頭臉書打算對AI視頻換臉技術下手了，計劃出資1000多萬美元，從數據集、經費、獎金等多方麵支持“Deepfake鑒別挑戰賽”，以尋找能夠準確鑒別AI生成視頻的工具。

其實，早在2017年12月，國外某ID名為“Deepfakes”的Reddit論壇用戶首次將自己製作的AI換臉視頻發布在了網絡上，後來，Deepfakes將這項技術開源，並被大家命名為“Deepfakes”，立刻風靡全球。

“Deepfakes”技術背後的來源是一種名為GAN（生成式對抗網絡）的AI模型。在GAN中，G和D是兩種相互博弈的算法，一種生成圖像，另一種比較判定圖像與源圖像的差別。博弈的理想結果是G成為了能夠“以假亂真”的圖像生成模型。

AI換臉真正在國內火起來還要說今年初，B站UP主“換臉哥”將一段94版射雕英雄傳視頻中的朱茵的臉換成了楊冪。AI換臉技術已經蓬勃爆發，卻也被一再惡意使用，AI換臉黑產甚至已經在國內形成了完整的產業鏈。（參見智東西深度報道：AI換臉黑產：100元打包200部換臉情色片，5張照片就可定製視頻）

▲朱茵的臉被換成了楊冪

今年6月，臉書首席執行官馬克•紮克伯格的一段被篡改過的視頻被廣泛傳播，之後，紮克伯格向觀眾講述了臉書正在考慮製定應對Deepfakes的政策。

今天，臉書宣布將在數據集和基準測試層麵促進更多的研究，以開發出更好的開源工具來檢測Deepfake。臉書將聯合微軟、麻省理工大學等業界和學界的夥伴共同置辦“Deepfake檢測挑戰賽”（DFDC）。

▲紮克伯格視頻被篡改

數據集和基準測試已成為加速AI發展的相當有效的工具。目前深度學習技術的複興一定程度上得益於ImageNet基準；GLUE和SuperGLUE基準加速了自然語言處理的最新進展。

據稱，“Deepfake鑒別挑戰賽”的目標是，找到一款能檢測視頻是否被換過臉的工具，並且它能被每個人便捷操作。

大賽旨在促使行業創建新的檢測方法，以防止AI生成的視聽內容誤導大眾，比如，在2020年大選之前找到更多的偽造視頻，以免媒體誤導選民。

“這是一場貓鼠遊戲，如果我設計一個Deepfakes檢測器，我就直接給了這些黑客一個新的模擬器進行反測試。”紐約大學Tendon學院計算機工程助理教授Siddharth Garg表示。

在“Deepfake鑒別挑戰賽”中，會務組會為參賽者提供一個數據集和經費，還會用排行榜展示參賽者的成績，並設獎金獎勵。人工智能和媒體誠信新指導委員會（Partnership on AI’s new Steering Committee on AI and Media Integrity）將對挑戰賽進行全程監督和管理。

為此，臉書正在調試一個現實的數據集，該數據集來自臉書付費找來的參與者。參賽者可以免費使用大量數據，幾乎沒有使用限製。臉書強調，此數據集中不會使用臉書的用戶數據。

同時，臉書還會資助研究經費和獎項獎金，以鼓勵更多人參與。據稱，臉書會為此投入1000多萬美元。

據了解，相關數據集和挑戰參數將在今年10月的國際計算機視覺會議上，以供專門的技術工作委員會測試，進而確保其質量。完整的數據集和DFDC將於今年12月召開的神經信息處理係統會議（NeurIPS）上發布。

近日，我國企業公開發布的“ZAO”換臉App被相關部門責令整改，這體現了監管對Deepfakes等AI換臉技術的約束作用。但是在暗處，Deepfakes作為被開源的技術，仍然可能被拿來濫用，利用技術進行反製就顯得格外重要。

當Deepfakes被用於偽造信息，甚至被不法人士拿來製作色情短片、實施金融詐騙等違法犯罪行為時，我們如果能通過基準數據等工具進行檢測辨別，可以大大的降低損失。另外，除了算法技術，區塊鏈等技術未來也可能被用於鑒別偽造的視頻。

視頻、報道等媒介內容營造的媒介環境極大地影響著人們的主觀世界，並通過對人們主觀世界的作用影響客觀環境。如果任由虛假的視頻信息蔓延在網絡世界，這種媒介環境的混亂將可能造成人類真實世界的混亂。

“我們必須更好地區分真實與虛假，獎勵可信內容而不是不受信任的內容。這需要產業、大學、非政府組織等共同合作，以開發出能夠快速準確地鑒別真實內容的技術。”加州大學伯克利分校的Hany Farid教授評價“Deepfake鑒別挑戰賽”說。