オープンAI、新たな米国防契約でAIの安全対策を詳述

主要な取引のハイライト

OpenAIは、米国防総省の機密ネットワークに自社の人工知能技術を導入する契約をペンタゴンと締結したことを確認しました。同社は、この取引には追加の安全対策が含まれており、機密AI導入に関するこれまでのどの契約よりも保護的なガードレールを備えていると主張しています。

この進展は、政府が競合他社であるAnthropicとの協力を中止するよう指示されたことに続くもので、ペンタゴンはAnthropicをサプライチェーンリスクと宣言する予定です。

AI安全対策の概要

この契約は、OpenAIの技術の使用に関して3つの具体的なレッドラインを課しています。それは、大規模な国内監視、自律型兵器システムの指揮、またはあらゆる高リスクの自動意思決定には使用できません。

OpenAIは、その保護措置を多層的なアプローチとして説明しました。同社は、安全スタックに対する完全な裁量権を保持し、クラウド経由で技術を展開し、認可されたOpenAIの担当者が関与することを保証し、強力な契約条項によって保護されています。

業界の背景と競争環境

ペンタゴンは過去1年間、主要なAIラボと積極的に連携し、Anthropic、OpenAI、Googleなどの企業とそれぞれ最大2億ドル相当の契約を締結してきました。国防総省は、AI開発者からの警告に制約されることなく、防衛用途における柔軟性を維持することを目指しています。

関連する声明で、OpenAIは競合他社であるAnthropicが「サプライチェーンリスク」と分類されるべきではないとの立場も表明しており、この見解を政府に伝えたことを示唆しています。

まとめと展望

OpenAIと国防総省との契約は、高度なAIが政府の機密性の高い業務に統合される動きが加速していることを強調しており、これは公に表明された倫理的枠組みによってバランスが取られています。同社は、政府による契約違反があった場合の終了条項を含めていますが、それが起こるとは予想していません。防衛分野でのAI導入が加速し続ける中、これらの契約上の安全対策が実際にどのように機能するか、市場は注目するでしょう。

よくある質問

Q: OpenAIのペンタゴンとの契約における主な制限は何ですか？
A: この技術は、大規模な国内監視、自律型兵器の指揮、または高リスクの自動意思決定には使用できません。

Q: OpenAIは、自社の契約がどのように異なると主張していますか？
A: OpenAIは、多層的なアプローチを通じて、より多くのガードレールを備えていると述べており、これにより安全スタックに対する制御権を持ち、強力な契約上の保護が含まれています。

Q: これらのペンタゴンAI契約の価値はどれくらいですか？
A: ペンタゴンは、OpenAI、Anthropic、Googleなどの主要なAIラボと、それぞれ最大2億ドル相当の契約を締結しています。

出典: Investing.com