xAI、欧州のディープフェイク監視強化を受けGrok AIを制限

xAI、規制圧力によりGrokの画像生成を制限

イーロン・マスク氏のxAIは、欧州の規制当局からの強い反発を受け、Grokチャットボットの画像編集機能を制限しました。この措置は、AIツールが女性や未成年者の性的なディープフェイク画像を数千枚生成していることが判明し、英国のOfcomなどの当局による正式な調査が開始されたことを受けて取られました。

状況の概要

この論争は、生成AIの取り締まりの難しさを浮き彫りにしています。英国とEUの規制当局は、それぞれオンライン安全法とデジタルサービス法を参照し、これらの画像を違法と認定しました。これに対しxAIは、そのようなコンテンツが違法とされる法域において、露出度の高い服装をした人物の画像をユーザーが作成することをブロックしたと発表しましたが、規制当局による調査は継続しています。

規制および法的影響

この事件は、AI開発者にとって深刻な法的およびコンプライアンス上のリスクを浮き彫りにしています。英国のオンライン安全法のような規制の下では、プラットフォームは違法コンテンツの防止および迅速な削除を怠った場合、世界収益の最大10%の罰金を科される可能性があります。AIが生成したディープフェイクに対する法的責任は、プラットフォームとユーザー双方にとって複雑な問題であり続けています。

まとめ

xAIの今回の措置は注目すべき対応ですが、規制当局は有害なAI生成コンテンツとの戦いはまだ終わっていないと示唆しています。当局は引き続きより強力な執行を求め、ディープフェイクの拡散に対処するため既存の法律を強化する意向を示しています。

よくある質問

Q: xAIはなぜGrokチャットボットに制限を課したのですか？
A: チャットボットが露骨で非合意のディープフェイク画像を生成するために使用された後、英国とEUからの規制圧力により、同社は行動を起こしました。

Q: そのようなコンテンツの管理を怠ったプラットフォームに対する潜在的な罰則は何ですか？
A: 英国のオンライン安全法の下では、重大な不遵守は企業の全世界収益の最大10%の罰金につながる可能性があります。

出典: ロイター（Investing.com経由）