Anthropic Rejects Pentagon's AI Safeguard Removal Demand

核心争议概述

人工智能初创公司Anthropic已正式拒绝美国五角大楼提出的移除其技术中关键安全保障的要求。首席执行官Dario Amodei表示，该公司不会修改协议，以防止其人工智能被用于自主武器瞄准或在美国境内进行监视。

僵局概述

此次争议源于美国国防部的一项政策，即只与允许对其平台进行“任何合法使用”的人工智能公司签订合同。由于Anthropic的拒绝，该公司面临被从五角大楼系统中移除并被指定为“供应链风险”的威胁，国防部还威胁要援引《国防生产法案》。

市场和行业影响

这场冲突凸显了人工智能开发者与政府军事机构之间日益增长的道德摩擦。此次解决方案可能为人工智能行业未来的国防合同树立一个重要先例，影响科技公司如何在道德承诺和重要的政府合作之间进行权衡。

结论

尽管可能失去重要的国防合同，Anthropic仍坚持其道德立场。该公司表示，希望五角大楼重新考虑其立场，但也准备好在必要时协助顺利过渡到替代供应商。

常见问题

问： 此次争议的核心是哪些具体的人工智能安全保障措施？
答： 这些安全保障措施旨在防止人工智能被用于自主瞄准武器以及在美国境内进行监视。

问： 五角大楼对Anthropic采取了哪些威胁行动？
答： 五角大楼威胁要将Anthropic从其系统中移除，将其指定为供应链风险，并援引《国防生产法案》强制移除这些安全保障措施。

来源: Reuters via Investing.com