Facebook拿出1000萬美元，與微軟聯手發起Deepfake檢測挑戰

隨著人們對人工智能生成的“視頻造假”(deepfake)的擔憂日益加劇，一些科技界的頂尖人物最近提出了一個“以毒攻毒”的計劃。

這些造假視頻能讓一個人說出他從未說過的話——在一些例子中，一些名人和政客的視頻被造假，安上了他們從未說過的言論，而畫麵顯得十分逼真。除了惡搞名人，這些視頻還可以用來被傳播假新聞。

2018年8月，美國國防部就已經通過一個名為Media Forensics 的計劃研發出了第一批捕捉deepfake視頻的工具。

“我們在當前GAN操縱的圖像和視頻中發現了微妙的線索，使我們能夠檢測到變化的存在。”Media Forensics項目負責人Matthew Turek表示。

如今，Facebook、微軟(Microsoft)和Partnership on AI也與美國多所大學的研究人員合作，發起了“假視頻檢測挑戰”(Deepfake Detection Challenge)。該挑戰旨在創建此類視頻的數據集，以在現實世界中更好地識別出此類假視頻。

Facebook正在委托各方同意演員參與這項工作，並表示已撥出1000萬美元用於相關研究和獎勵。

Deepfakes自出現以來，在很短的時間內已經變得越來越逼真。而且，科技行業一直難以跟上其發展。

斯坦福等幾所高校此前發布的一項研究甚至能篡改視頻的語句，隻要輸入任意文本，就能讓視頻中的演講者說出對應的話。盡管修改後的詞語的發音和口型和之前完全不同，但幾乎看不出修改痕跡。研究者經過調查發現，59.6% 的受試者認為被修改過的視頻是真的。

通過與學術界合作，並創建一個高質量的數據集，Facebook希望利用人工智能行業的工具，迅速找到一個有效的解決方案。

Facebook邀請了康奈爾理工大學、麻省理工學院、牛津大學、加州大學伯克利分校、馬裏蘭大學、College Park和紐約州立大學奧爾巴尼分校的學者來參與這項挑戰。

Facebook首席技術官邁克•施羅德弗(Mike Schroephfer)在發表的一篇博客文章中寫道:“Deepfake的技術，能夠造出看起來十分真實的人工智能生成的視頻，這對我們如何確定在線呈現的信息的合法性具有重大意義。’”

“不過，該行業並沒有一個很好的數據集或基準來檢測它們。我們希望在這一領域促進更多的研究和開發，並確保有更好的開源工具來檢測Deepfakes。”

達特茅斯學院的數字取證專家Hany Farid認為，奇怪的頭部動作、奇怪的眼睛顏色和其他麵部因素等其他線索可以幫助確定視頻是否被偽造。

此外，Facebook表示，它將不使用來自自己網站的用戶數據來構建數據集。相反，它將使用“明確同意的參與者的數據”。

最終的數據集將在今年10月的國際計算機視覺會議上進行測試，然後在今年12月的神經信息處理係統會議上發布。

據Facebook說，重要的是這些數據集“可供社區免費使用”。

盡管近幾個月來，許多人都試圖找到檢測Deepfakes的方法，但一個單一有效的解決方案尚未出現。

“自從攝影出現以來，人們就一直在試圖操縱圖像。但現在幾乎任何人都有可能製造並向大眾傳播假視頻。”

麻省理工學院電氣工程與計算機科學教授、麻省理工學院智能探索項目(MIT Quest for Intelligence)負責人托拉爾巴(Antonio Torralba)在一份有關這一挑戰的聲明中說。

“這次比賽的目標是建立一個人工智能係統，能夠檢測出經過修改的圖像中的細微缺陷，並揭露其不符合現實的虛假之處。”