開源AI模型構成重大犯罪風險：研究

AI 漏洞的關鍵發現

網路安全公司 SentinelOne 和 Censys 的一項聯合研究顯示，開源大型語言模型極易被犯罪分子濫用。這項歷時 293 天的研究發現，駭客可以輕易地控制這些 AI 系統，進行垃圾郵件操作、建立網路釣魚內容，並發動假訊息宣傳活動，繞過標準安全協定。

安全風險概述

這項調查分析了公開可用的 LLM，包括透過 Ollama 等工具部署的 Meta Llama 和 Google Gemma 的變體。研究人員發現數百個案例，其中內建的安全防護措施被蓄意移除。在具有可見系統提示的模型中，有 7.5% 被認定有可能促成有害或非法活動，從資料竊取到詐欺。

市場與產業影響

這些發現突顯了快速成長的 AI 領域中一個重大的安全盲點。該報告強調了整個生態系統的共同責任，從原始開發者到開源社群，都應解決可預見的危害。儘管微軟等公司承認這些風險並推動負責任的創新，但該研究指出，大量未受監管的 AI 濫用能力正被忽視。

結論

這項研究強調了對公開可用的 AI 模型制定更嚴格安全標準和緩解工具的迫切需求。如果沒有共同承諾來解決這些漏洞，這些強大工具被用於犯罪目的的風險將持續增長，對個人和組織都構成威脅。

常見問題

問：開源 AI 的主要風險有哪些？
答：主要風險包括用於垃圾郵件、網路釣魚攻擊、假訊息宣傳、詐欺以及其他形式的網路犯罪。

問：是哪些公司進行了這項研究？
答：這項研究是由網路安全公司 SentinelOne 和 Censys 共同進行的。

來源： Investing.com