係統粉 > IT資訊 > 微軟資訊

AI換臉視頻鑒別:臉書聯合微軟和麻省理工,辦大賽打擊假視頻

發布時間:2019-09-07    瀏覽數:
AI換臉視頻鑒別:臉書聯合微軟和麻省理工,辦大賽打擊假視頻(1)

文 | 李水青

導語:媒介環境的混亂將可能造成人類真實世界的混亂。除了隱私問題,AI視頻換臉引發的信息誤導問題同樣值得關注,甚至有過之而無不及。

智東西9月6日消息,臉書(Facebook)的首席技術官Mike Schroepfer發布博客宣布,臉書正和微軟聯合來自麻省理工、牛津等大學的研究者,通過置辦“Deepfakes鑒別挑戰賽”,探索如何通過數據集和基準測試檢測Deepfake換臉視頻。

Deepfakes技術可以利用GAN(生成式對抗網絡)將視頻中的人臉換掉,且十分逼真。近期國內大火的“ZAO”App被就疑似使用了該技術,用戶隻需要在App中上傳一張照片,就能將自己的臉替換成視頻中“小李子”“周潤發”“白展堂”等人的臉,幾乎可以以假亂真。

當ZAO很快地火起來後,人們敏銳地察覺到視頻換臉中的隱私問題,而後“ZAO”換臉App被責令整改。但是,除了隱私問題,其中的信息誤導問題同樣值得關注,甚至有過之而無不及。

AI換臉視頻鑒別:臉書聯合微軟和麻省理工,辦大賽打擊假視頻(2)

▲被AI換臉後的視頻

“Deepfake”技術能夠利用AI將視頻中的人臉逼真地換掉,這使它很容意被用於偽造信息、誤導輿論,甚至被不法人士拿來製作色情短片、實施金融詐騙等違法犯罪行為。然而,行業內還沒有很好的數據集或基準來檢測辨別它們。

現在,美國科技巨頭臉書打算對AI視頻換臉技術下手了,計劃出資1000多萬美元,從數據集、經費、獎金等多方麵支持“Deepfake鑒別挑戰賽”,以尋找能夠準確鑒別AI生成視頻的工具。

一、紮克伯格也被換臉,聯合產學界搞鑒別研究

其實,早在2017年12月,國外某ID名為“Deepfakes”的Reddit論壇用戶首次將自己製作的AI換臉視頻發布在了網絡上,後來,Deepfakes將這項技術開源,並被大家命名為“Deepfakes”,立刻風靡全球。

“Deepfakes”技術背後的來源是一種名為GAN(生成式對抗網絡)的AI模型。在GAN中,G和D是兩種相互博弈的算法,一種生成圖像,另一種比較判定圖像與源圖像的差別。博弈的理想結果是G成為了能夠“以假亂真”的圖像生成模型。

AI換臉真正在國內火起來還要說今年初,B站UP主“換臉哥”將一段94版射雕英雄傳視頻中的朱茵的臉換成了楊冪。AI換臉技術已經蓬勃爆發,卻也被一再惡意使用,AI換臉黑產甚至已經在國內形成了完整的產業鏈。(參見智東西深度報道:AI換臉黑產:100元打包200部換臉情色片,5張照片就可定製視頻)

AI換臉視頻鑒別:臉書聯合微軟和麻省理工,辦大賽打擊假視頻(3)

▲朱茵的臉被換成了楊冪

今年6月,臉書首席執行官馬克•紮克伯格的一段被篡改過的視頻被廣泛傳播,之後,紮克伯格向觀眾講述了臉書正在考慮製定應對Deepfakes的政策。

今天,臉書宣布將在數據集和基準測試層麵促進更多的研究,以開發出更好的開源工具來檢測Deepfake。臉書將聯合微軟、麻省理工大學等業界和學界的夥伴共同置辦“Deepfake檢測挑戰賽”(DFDC)。

AI換臉視頻鑒別:臉書聯合微軟和麻省理工,辦大賽打擊假視頻(4)

▲紮克伯格視頻被篡改

二、大賽目標:研發通用的AI換臉視頻檢測工具

數據集和基準測試已成為加速AI發展的相當有效的工具。目前深度學習技術的複興一定程度上得益於ImageNet基準;GLUE和SuperGLUE基準加速了自然語言處理的最新進展。

據稱,“Deepfake鑒別挑戰賽”的目標是,找到一款能檢測視頻是否被換過臉的工具,並且它能被每個人便捷操作。

大賽旨在促使行業創建新的檢測方法,以防止AI生成的視聽內容誤導大眾,比如,在2020年大選之前找到更多的偽造視頻,以免媒體誤導選民。

“這是一場貓鼠遊戲,如果我設計一個Deepfakes檢測器,我就直接給了這些黑客一個新的模擬器進行反測試。”紐約大學Tendon學院計算機工程助理教授Siddharth Garg表示。

三、將為參賽者提供數據集和經費,請第三方監督

在“Deepfake鑒別挑戰賽”中,會務組會為參賽者提供一個數據集和經費,還會用排行榜展示參賽者的成績,並設獎金獎勵。人工智能和媒體誠信新指導委員會(Partnership on AI’s new Steering Committee on AI and Media Integrity)將對挑戰賽進行全程監督和管理。

為此,臉書正在調試一個現實的數據集,該數據集來自臉書付費找來的參與者。參賽者可以免費使用大量數據,幾乎沒有使用限製。臉書強調,此數據集中不會使用臉書的用戶數據。

同時,臉書還會資助研究經費和獎項獎金,以鼓勵更多人參與。據稱,臉書會為此投入1000多萬美元。

據了解,相關數據集和挑戰參數將在今年10月的國際計算機視覺會議上,以供專門的技術工作委員會測試,進而確保其質量。完整的數據集和DFDC將於今年12月召開的神經信息處理係統會議(NeurIPS)上發布。

結語:防止AI視頻換臉濫用,還需用技術反製

近日,我國企業公開發布的“ZAO”換臉App被相關部門責令整改,這體現了監管對Deepfakes等AI換臉技術的約束作用。但是在暗處,Deepfakes作為被開源的技術,仍然可能被拿來濫用,利用技術進行反製就顯得格外重要。

當Deepfakes被用於偽造信息,甚至被不法人士拿來製作色情短片、實施金融詐騙等違法犯罪行為時,我們如果能通過基準數據等工具進行檢測辨別,可以大大的降低損失。另外,除了算法技術,區塊鏈等技術未來也可能被用於鑒別偽造的視頻。

視頻、報道等媒介內容營造的媒介環境極大地影響著人們的主觀世界,並通過對人們主觀世界的作用影響客觀環境。如果任由虛假的視頻信息蔓延在網絡世界,這種媒介環境的混亂將可能造成人類真實世界的混亂。

“我們必須更好地區分真實與虛假,獎勵可信內容而不是不受信任的內容。這需要產業、大學、非政府組織等共同合作,以開發出能夠快速準確地鑒別真實內容的技術。”加州大學伯克利分校的Hany Farid教授評價“Deepfake鑒別挑戰賽”說。

上一篇:為什麼二十年來微軟經曆了大起大落?蘋果對抗微軟為何曾慘敗? 下一篇:Win10 20H1新預覽版18975發布:Cortana窗口支持拖拽和縮放了

相關資訊

最新熱門應用

電腦問答