關上Deepfake的潘多拉魔盒，RealAI推出深度偽造視頻檢測工具 _深度

【關上Deepfake的潘多拉魔盒，RealAI推出深度偽造視頻檢測工具】誕生之初，Deepfake是一種有趣的圖像處理技術，只帶來搞笑和娛樂視頻，但潘多拉魔盒打開，催生黑產、惡劣政治家操縱民意，Deepfake逐漸進化為新病毒，人類倫理道德的隱蔽布也被無情地揭開。

圖：Saturday Night Live中凱特麥金農換臉伊麗莎白沃倫

面對因新技術而引發的公眾恐慌，相關監管機構也加快采取行動，出臺打假策略，旨在打擊Deepfake虛假音視頻，控制造假病毒的傳播。同時，國內也迎來了最嚴數據管理的一年。

11月29日，中國國家網絡通信辦公室也正式發布了《網絡音頻視頻信息服務管理規定》，從2020年1月1日起，AI虛假視頻不得隨意發布。新規定中AI虛假視頻的規定主要有四條:按照國家有關規定開展安全評價，以顯著的方式顯示非真實的音頻信息，不得利用AI虛假技術發布虛假新聞，配置AI虛假視頻鑒別技術，健全虛假機制等。

新規則中，有效抑制Deepfake和類似虛假需要雙手抓住，不僅要利用法律法規嚴格控制，還要從源頭加強安全評價、鑒別技術等能力，利用技術手段提前布局，在檢查方面領先。

最近，來自清華大學的人工智能企業RealAI正式發布了深度偽造視頻檢測工具，可以實現深度偽造視頻的自動正確識別。

一鍵換臉一鍵打假

RealAICEO田天表示，盡管需求一致，但目前大規模應用的打假方法面臨很多困難。

首先，Deepfake的開源技術將AI變臉的使用閾值降低到手機美容、p圖的水平，單擊變臉帶來謠言成本的降低、爆炸性的傳播。但是，在防御層，幾乎沒有標準化的檢查工具，人工鑒別不僅專業性高，而且效率低。所以，無論對于個人、平臺還是第三方機構而言，打假辟謠的時間窗口很短，難度卻很高。

下圖:雷佳音(左)變臉郭德綱(右)

更嚴重的問題是，Deepfake往往以假亂真的程度極高，人眼難以察覺。此外，其算法目前無法建模分析，檢測技術的研究受到嚴重影響，但偽造者的適應速度快，新技術越來越反復。

RealAI基于第三代AI技術推出的深度偽造視頻檢測產品，采用數據普及方式，通過偽造視頻培訓新模型，模型更好地識別偽造痕跡，識別偽造視頻該產品支持圖像、視頻內容的識別，用戶可以根據API接口上傳需要檢測的圖像、視頻，單擊即可反饋真偽。

實際上，對Deepfake進行虛假研究的團隊已經存在，但相關成果只停留在算法水平，為學術研究提供使用，無法應對在現實環境中廣泛傳播的虛假內容，因此RealAI發表的這個標準化自動檢查工具可以說給大規模的虛假行動帶來了新的希望。

二、檢測精度達到99%，Deepfake逃不掉

作為清華大學人工智能研究院的核心孵化企業，國內首家安全可控人工智能系統提供商，RealAI在AI安全和攻防技術領域具有行業領先優勢。在今年剛剛結束的GeekPwn2019國際安全極客大賽中，與清華大學的聯合戰隊一舉獲得了CAAD、CTF圖像對抗樣本挑戰賽和CAAD隱身挑戰賽的冠軍。

深厚的技術積累也讓RealAI安全研究團隊對造假方的攻擊原理有著更深刻的理解，能夠更有針對性地開發檢測工具。本次推出的深度偽造視頻檢測產品，將原本高難度的檢測過程大幅簡化，只需接入SDK即可一鍵實時檢測，調用簡單快捷。

、Deepfake視頻檢測產品流程圖

與目前市面上銷售的檢測技術相比，RealAI的視頻檢測工具利用深入的學習算法、大量的數據集訓練模型，可以檢測出絕大多數人工智能的假視頻在算法變臉效果越來越逼真的情況下，RealAI的研究開發團隊也集中開發了新的檢查算法，反復更新RealAI的檢查算法庫。

更值得注意的是，該產品適用于復雜的視頻內容檢測，支持多種格式和多人臉檢測模式，1S識別，最高可支持10人以上的同一屏幕。

三、Deepfake的潘多拉魔盒終于關閉了

隨著Deepfake技術的濫用，傳統意義上真實和虛假的界限模糊，對社會生活的影響很大，但現在技術惡作劇的負面影響正在全面爆發。

例如，在網上隨意傳播的視頻、照片內容、內容平臺的傳統審查機制無法識別Deepfake的生成內容，采用人工審查，需要投入額外的時間、人工費用的特定對象在社交平臺上廣泛傳播虛假信息，在輿論中心的當事人因為找不到可以證明謠言是捏造的有效方法，個人聲譽受損的事件調查、法庭辯論中涉及的視頻、圖像等證據，警察、律師等人員不能僅僅通過肉眼識別證據，而且通過檢查個人的虛假信息

最后，在這場AI軍備競賽中，Deepfake不斷進化，RealAI也不斷反復技術，磨練產品。RealAICEO田天說，未來的AI必然是安全可控的AI，一鍵休假超過一鍵換臉的速度，Deepfake的潘多拉魔盒也關閉。