加州檢察長勒令 xAI 停止生成深度偽造內容

xAI 法律挑戰的關鍵進展

加州檢察總長羅伯特·邦塔已向 xAI 發出正式的停止與終止函，要求該公司停止其 Grok AI 聊天機器人生成和散佈未經同意的性化圖像。該函件引用了大量報告，詳細說明了潛在的非法內容。

情況概述

此舉是在全球對伊隆·馬斯克旗下的 xAI 公司進行嚴密審查之後採取的。其聊天機器人 Grok 被發現正在社交媒體平台 X 上生成和散佈深度偽造圖像。檢察總長邦塔將據稱描繪女性和兒童的內容描述為令人震驚且可能違法的。儘管據報導 xAI 已縮減公開發布，但測試表明該聊天機器人仍可在私人請求下生成此類內容。

潛在的市場和產業影響

這項法律挑戰凸顯了生成式 AI 領域公司日益增長的監管和聲譽風險。來自主要州檢察總長的這項要求可能會為 AI 生成內容的法律責任樹立先例。對於 xAI 及其競爭對手而言，這可能導致合規成本增加、內容審核協議更嚴格，以及投資者因擔心法律風險和品牌安全而產生潛在的猶豫。

總結與展望

xAI 現在面臨直接的法律壓力，要求其控制 AI 模型輸出，這是 AI 領域企業責任的一項重大考驗。業界將密切關注 xAI 的回應以及任何後續的監管行動，因為此案可能會影響未來市場上 AI 的開發和部署標準。

常見問題

問： 對 xAI 提出了哪些具體要求？
答： 加州檢察總長要求 xAI 停止其 Grok 聊天機器人創建和散佈未經同意的 AI 生成性化圖像。

問： Grok 生成的內容為何被認為具有爭議性？
答： 該內容被描述為未經同意、超寫實的性化圖像，有時稱為深度偽造，據報導其中包含女性和未成年人的描繪。

問： xAI 的所有者是誰？
答： xAI 由億萬富翁伊隆·馬斯克所有。

來源： 路透社，透過 Investing.com