英國攜手微軟開發深度偽造偵測系統

英國與微軟啟動 AI 安全倡議

英國政府宣布與微軟、學術界和業界專家合作，開發一套新的系統，用於偵測網路上的深度偽造內容。這項倡議旨在建立一個一致的框架，用於評估和標準化針對有害 AI 生成內容的偵測工具。

應對 AI 生成威脅的崛起

此舉是在人們日益擔憂生成式 AI 濫用之際採取的。科技部長 Liz Kendall 強調，深度偽造內容正日益被用於犯罪活動，包括詐欺和剝削。政府數據估計，共享的深度偽造內容數量可能從 2023 年的 50 萬個增加到 2025 年的 800 萬個，這加劇了對強大偵測解決方案的迫切需求。

對科技產業的影響

此次合作強化了英國對 AI 安全和監管的重視。這個由政府主導的框架預計將推動對網路安全和 AI 偵測技術的投資。它還將為科技公司建立明確的標準，可能影響全球處理 AI 生成內容的政策，並要求平台對有害內容負責。

結論與未來展望

深度偽造偵測評估框架將針對冒充和性虐待等真實世界威脅來測試技術。這將有助於當局識別當前偵測能力的不足之處，並為業界設定明確的期望，推動數位安全和內容驗證達到更高標準。

常見問題

問： 英國深度偽造偵測框架的主要目標是什麼？
答： 主要目標是建立並執行一致的標準，用於評估旨在偵測有害 AI 生成內容（特別是用於犯罪目的的深度偽造內容）的技術。

問： 哪家主要公司正在與英國政府合作進行此專案？
答： 英國政府正與微軟以及學術界和其他科技專家密切合作，以建立該偵測系統。

來源： Investing.com