美國將人工智慧壓力測試擴展至谷歌、微軟、xAI

美國政府擴大AI安全計畫

美國政府已擴大其評估先進人工智慧風險的計畫，將Google的DeepMind、xAI和微軟納入其中。這些公司加入了OpenAI和Anthropic，後者此前已與美國人工智慧標準與創新中心合作，測試未發布的AI模型是否存在潛在漏洞。

情況概述

該計畫旨在於AI模型廣泛部署之前，識別並減輕可證明存在的風險。政府科學家特別針對AI可能被濫用於對美國關鍵基礎設施發動網路攻擊、開發化學或生物武器，或破壞訓練數據等潛在風險進行探查。參與公司提供專有和未發布模型的存取權限，讓研究人員能夠進行密集的「紅隊演練」，以模擬惡意攻擊並發現安全漏洞。

對科技產業和市場的影響

此次擴大預示著對快速成長的AI產業監管力道將日益增強。對於微軟和Alphabet等科技巨頭而言，遵守規定和合作可以提升公眾信任，但也可能帶來新的開發時程和與安全協議相關的成本。這些測試的結果可能會為AI安全設定新的產業標準，影響全球未來的投資和監管框架。著重於發布前測試旨在預防系統性風險，這有助於穩定市場對AI技術的長期信心。

總結與展望

美國政府與領先AI開發商之間的合作，標誌著在建立健全的安全和資安標準方面邁出了重要一步。此前與OpenAI和Anthropic進行的測試已發現並修補了關鍵漏洞。這項持續的努力很可能將為關鍵領域制定正式指南，確保AI系統的安全。市場將密切關注這些測試的結果，因為它們將塑造AI監管和部署的未來。

常見問題

問：哪些公司參與了美國政府的AI模型測試？
答：該計畫目前包括Google DeepMind、xAI、微軟、OpenAI和Anthropic。

問：美國政府主要關注哪些風險？
答：主要關注AI模型可能被用於對關鍵基礎設施發動網路攻擊，以及開發生物或化學武器的潛力。

來源: Investing.com