1. 首頁 > 生活百科 >

Microsoft 微軟宣布推出Counterfit 一個對AI系統進行安全測試的自動化工具

鑒于復雜而惡意的網絡攻擊越來越多，網絡安全是微軟的首要任務 。該公司正在不斷更新其安全基礎設施，以保護自己免受威脅，并建議其合作伙伴也這樣做 。一個被忽視的方面通常是其人工智能系統的安全 。微軟計劃通過發布一個名為Counterfit的新工具來解決這個問題 。
訪問:
微軟中國官方商城 - 首頁
Microsoft 微軟宣布推出Counterfit 一個對AI系統進行安全測試的自動化工具
文章圖片

Counterfit是微軟創建的一個開源工具，用于自動化組織的AI系統的安全測試 。鑒于人工智能系統在各行業的使用量很大，其最終目標是讓企業對其人工智能系統的穩健性和可靠性有很高的信心 。微軟指出，在它調查的28個組織中，有25個認為他們沒有正確的機制來保護人工智能系統，他們的安全專業人員也沒有很好地處理針對它們的威脅 。
Counterfit最初是一套可用于攻擊AI模型的腳本 。微軟首先在自己的內部測試中使用它，但現在，Counterfit已經發展成為一個自動化工具，可以大規模地攻擊多個AI模型 。該公司表示，它已經成為自己的人工智能“紅隊”業務的主要工具，他們用它來執行和自動化目前正在開發和生產的人工智能服務的對抗性安全測試 。
使用Counterfit的好處是，它與環境、模型和數據無關 。這意味著，它可以在企業內部、邊緣和云中使用，以測試任何類型的人工智能模型，這些模型依賴于幾乎任何形式的輸入數據，包括文本和圖像 。
微軟表示，Counterfit對于使用Metasploit或PowerShell Empyre的安全團隊來說很容易使用 。它可以用于滲透測試和漏洞掃描，它還可以記錄對人工智能模型的攻擊，因此數據科學家可以利用其遙測技術來進一步加強其人工智能系統的安全性 。
【Microsoft|微軟宣布推出Counterfit 一個對AI系統進行安全測試的自動化工具】你可以前往該開源項目的GitHub頁面，了解更多關于Counterfit的信息以及如何在你的組織中部署它：
https://github.com/Azure/counterfit

    推薦閱讀