OpenAI 披露在新的美国国防合同中的 AI 防护措施

核心交易亮点

OpenAI 已确认与五角大楼达成协议，将在美国国防部的机密网络上部署其人工智能技术。该公司表示，该协议包含额外的保障措施，声称其防护栏比以往任何机密人工智能部署协议都更具保护性。

这一进展是在政府收到指令，要求停止与竞争对手 Anthropic 合作之后发生的，五角大楼将宣布 Anthropic 为供应链风险。

人工智能保障措施概述

该合同对 OpenAI 技术的使用强制规定了三条具体的红线：不得用于大规模国内监控、不得用于指挥自主武器系统，也不得用于任何高风险的自动化决策。

OpenAI 将其保护措施描述为一种多层方法。该公司对其安全堆栈拥有完全酌情权，通过云部署技术，确保有经过审查的 OpenAI 人员参与，并受到强有力的合同条款保护。

行业背景与竞争格局

过去一年，五角大楼积极与主要人工智能实验室合作，与 Anthropic、OpenAI 和谷歌等公司签署了每份价值高达 2 亿美元的协议。该部门旨在保持国防应用中的灵活性，而不受人工智能创建者警告的限制。

在一份相关声明中，OpenAI 还表达了其立场，即竞争对手 Anthropic 不应被标记为“供应链风险”，并表示已将此立场传达给政府。

总结与展望

OpenAI 与国防部的协议强调了先进人工智能日益融入敏感政府行动的趋势，同时通过公开声明的道德框架加以平衡。该公司已包含一项针对政府任何违约行为的终止条款，尽管它不认为这种情况会发生。随着人工智能在国防领域的应用持续加速，市场将关注这些合同保障措施的实际表现。

常见问题

问： OpenAI 在五角大楼协议中的主要限制是什么？
答： 该技术不能用于大规模国内监控、指挥自主武器或高风险自动化决策。

问： OpenAI 如何声称其协议有所不同？
答： OpenAI 表示，其协议通过多层方法拥有更多防护栏，使其能够控制其安全堆栈并包含强有力的合同保护。

问： 这些五角大楼人工智能合同的价值是多少？
答： 五角大楼已与 OpenAI、Anthropic 和谷歌等主要人工智能实验室签署了每份价值高达 2 亿美元的协议。

来源：Investing.com