微軟、谷歌授予美國早期人工智慧存取權以強化安全。

美國政府將在發布前評估科技巨頭的AI模型

微軟、Alphabet旗下的Google以及伊隆·馬斯克的xAI已與美國政府達成一項新協議。他們將在向公眾發布之前，提前提供新的AI模型以進行國家安全風險評估。

情況概述

這項由商務部人工智慧標準與創新中心（CAISI）宣布的協議，旨在解決人們日益擔憂的先進AI系統可能被濫用的問題，特別是在增強駭客能力方面。CAISI作為政府AI模型測試的主要中心，已完成超過40項評估，其中一些是針對尚未公開的模型。

經濟與市場影響

這項合作預示著主要科技公司與政府監管之間更緊密的整合，可能為未來的AI法規鋪平道路。這反映了國家安全對AI關注的更廣泛趨勢，五角大廈最近達成協議，將AI能力部署到機密網路中，進一步凸顯了這一點。此舉為快速發展的AI產業中的安全和保障協議樹立了新先例。

邁向AI安全的主動一步

該協議允許對前沿AI進行獨立評估，這是理解和減輕國家安全影響的關鍵一步。這種主動方法凸顯了開發商和政府機構之間在AI安全方面共同承擔責任的轉變。關鍵在於這些安全評估將如何塑造強大AI技術的未來部署和監管。

常見問題

問：哪些公司正在提前提供其AI模型？
答：微軟、Alphabet旗下的Google以及伊隆·馬斯克的xAI是參與該協議的公司。

問：美國政府為何要提前審查這些AI模型？
答：政府旨在進行國家安全風險評估，以在模型公開之前評估其能力和安全風險。

來源： Investing.com