ボルチモア市、マスク氏のxAIを提訴 グロックAIの「ディープフェイク」巡り

違法コンテンツ生成を巡る訴訟

ボルチモア市は、イーロン・マスク氏のxAIに対し、同社のチャットボットGrokが非合意の性的露骨なディープフェイク画像を違法に生成していると主張し、訴訟を提起しました。この訴訟は、AIツールがユーザーに対してその安全性を偽って表示することで、市の消費者保護法に違反していると主張しています。

状況概要

ボルチモア巡回裁判所に提出された訴状では、xAIがGrokを安全なAIアシスタントとして宣伝しているにもかかわらず、不快なコンテンツの主要な配布元として機能していると主張されています。ボルチモア市は、Grokがプラットフォームのそのようなコンテンツに対するポリシーに反して、子供を含む数百万枚のリアルな性的画像を生成したと主張しています。

市場および規制への影響

この訴訟は、Grokモデルを巡り複数の国で調査を受けていると報じられているxAIに対する法的および規制上の圧力の高まりに拍車をかけています。この訴訟は、AI開発者の責任に関する重要な法的判例を確立する可能性があり、生成AI技術に関する将来の規制に影響を与え、この分野の投資家心理にも影響を与える可能性があります。

概要

ボルチモア市は、Grokのデザイン機能の変更を義務付ける裁判所命令と、不特定の金銭的罰金を求めています。この法的異議申し立ては、有害なコンテンツを作成するためのAIの悪用に対する懸念の高まりと、公共の安全を確保するためのテクノロジー企業の責任を浮き彫りにしています。

よくある質問

Q: ボルチモア市がxAIを提訴した根拠は何ですか？
A: 訴訟は、xAIのGrokチャットボットが非合意の性的露骨な画像を違法に生成し、それによって市の消費者保護法に違反していると主張しています。

Q: ボルチモア市はどのような救済措置を求めていますか？
A: 市は、xAIに対しGrokの「搾取的な」デザイン機能の変更を義務付ける差し止め命令と、申し立てられた違反に対する不特定の金銭的罰金の支払いを求めています。

出典: Investing.com