美国将AI压力测试扩大到谷歌、微软、xAI

美国政府扩大人工智能安全计划

美国政府已扩大其评估先进人工智能风险的计划，将谷歌的DeepMind、xAI和微软纳入其中。这些公司加入了OpenAI和Anthropic，后者此前已与美国人工智能标准与创新中心合作，测试未发布的人工智能模型是否存在潜在漏洞。

情况概述

该计划侧重于在人工智能模型广泛部署之前识别并减轻可证明的风险。政府科学家正在专门调查人工智能在对美国关键基础设施发动网络攻击、开发化学或生物武器或破坏训练数据方面的潜在滥用。参与公司正在提供专有和未发布模型的访问权限，允许研究人员进行密集的“红队演习”，以模拟恶意攻击并发现安全漏洞。

对科技行业和市场的影响

此次扩张标志着对快速增长的人工智能行业的监管审查日益加强。对于微软和Alphabet等科技巨头而言，合规与合作可以增强公众信任，但也可能带来新的开发时间表和与安全协议相关的成本。这些测试的结果可能会为人工智能安全设定新的行业标准，影响全球未来的投资和监管框架。侧重于发布前测试旨在预防系统性风险，这有助于稳定市场对人工智能技术的长期信心。

总结与展望

美国政府与领先人工智能开发商之间的合作标志着在建立健全的安全和保障标准方面迈出了重要一步。此前与OpenAI和Anthropic进行的测试已经发现并修补了关键漏洞。这项持续的努力可能会为关键行业制定正式指南，确保人工智能系统的安全。市场将密切关注这些测试的结果，因为它们将塑造人工智能监管和部署的未来。

常见问题

问： 哪些公司参与了美国政府的人工智能模型测试？
答： 该计划现在包括谷歌DeepMind、xAI、微软、OpenAI和Anthropic。

问： 美国政府主要关注哪些风险？
答： 主要担忧是人工智能模型可能被用于对关键基础设施发动网络攻击以及开发生物或化学武器。

来源: Investing.com