开源AI模型构成重大犯罪风险：研究显示

AI漏洞的关键发现

网络安全公司SentinelOne和Censys联合研究显示，开源大型语言模型极易被犯罪分子滥用。这项历时293天的研究发现，黑客可以轻易控制这些AI系统，进行垃圾邮件操作、创建网络钓鱼内容以及发起虚假信息宣传，从而绕过标准安全协议。

安全风险概述

调查分析了公开可用的LLM，包括通过Ollama等工具部署的Meta Llama和Google Gemma的变体。研究人员发现了数百个内置安全防护措施被故意移除的案例。在具有可见系统提示的模型中，有7.5%被认定有可能促成有害或非法活动，从数据窃取到欺诈。

市场和行业影响

这些发现凸显了快速增长的AI领域中一个重要的安全盲点。报告强调了从原始开发者到开源社区，整个生态系统在解决可预见危害方面的共同责任。尽管微软等公司承认风险并倡导负责任的创新，但研究表明，大量未受监管的AI滥用能力正在被忽视。

结论

这项研究强调了对公开可用的AI模型制定更强安全标准和缓解工具的迫切需求。如果不对这些漏洞采取共同的解决措施，这些强大工具被用于犯罪目的的风险将持续增长，对个人和组织构成威胁。

常见问题

问：开源AI的主要风险有哪些？
答：主要风险包括被滥用于垃圾邮件、网络钓鱼攻击、虚假信息宣传、欺诈以及其他形式的网络犯罪。

问：是哪些公司进行了这项研究？
答：这项研究是由网络安全公司SentinelOne和Censys联合进行的。

来源: Investing.com