安索羅匹克就AI安全爭議控告美國政府

爭議重點摘要

人工智慧公司 Anthropic 已對美國政府提起訴訟，聲稱該公司拒絕為軍事應用移除其 Claude AI 模型中的安全協議後遭到報復。這場衝突最終導致聯邦政府禁止 Anthropic 的技術，並將該公司指定為國家安全供應鏈風險。

情勢概覽

根據 Anthropic 的法律文件，這場爭議始於五角大廈 GenAI.mil 平台的談判期間。美國國防部要求能夠將 Claude 模型用於「所有合法用途」。Anthropic 提出異議，特別是拒絕允許其 AI 在沒有人類監督的情況下用於致命自主戰爭，或用於大規模監控美國公民，理由是出於安全考量。

經濟與市場影響

這項政府全面禁令立即終止了 Anthropic 的聯邦合約，並影響其與所有軍事承包商的商業關係。這場法律和政治鬥爭凸顯了大型科技公司倫理與國家安全需求之間日益加劇的緊張關係。其結果可能為未來的人工智慧與政府合作夥伴關係樹立先例，並影響國防科技領域的投資者情緒。

摘要與展望

Anthropic 認為「供應鏈風險」的指定沒有事實依據，並違反了多項憲法和行政法。此案目前正在法律系統中審理，其解決方案將有望界定人工智慧在國防領域作用的倫理界限和監管框架。

常見問題

Q: Anthropic 為何起訴美國政府？
A: Anthropic 聲稱政府的禁令是對其拒絕移除 AI 模型中關於致命戰爭和大規模監控的安全限制的報復。

Q: 政府對此禁令的官方理由是什麼？
A: 政府將 Anthropic 指定為「國家安全供應鏈風險」，並表示不會允許一家公司的服務條款來左右軍事行動。

來源: Investing.com