イタリア、ハルシネーションリスクに関するコミットメントを受けAI調査を終了

イタリアの規制当局がAI調査を終了

イタリアの独占禁止当局であるAGCMは、AIのハルシネーションに関連するリスクに対処するための拘束力のあるコミットメントに合意したことを受け、3つの人工知能企業—DeepSeek、Mistral AI、Scaleup—に対する調査を終了しました。

状況の概要

この調査は、不正確または誤解を招くコンテンツの生成に関連する不公正な商慣行の疑いで開始されました。これに対し、各企業はチャットボットサービスに恒久的な免責事項を導入し、ウェブサイトやアプリを通じてハルシネーションのリスクについてユーザーにより良く情報を提供する予定です。この措置は、生成AI分野における消費者権利と透明性への関心の高まりを浮き彫りにしています。

AI業界への影響

この解決は、ヨーロッパにおけるAIの透明性に対する規制当局の監視強化を浮き彫りにしています。これらのコミットメントは、ユーザーの認識と保護を重視する運用基準の先例となります。DeepSeekは特に、ハルシネーションの発生を減らすための技術に投資することを約束し、Scaleupは、そのNOVA AIサービスが様々なチャットボットにアクセスするための単一のインターフェースであり、それらの応答のアグリゲーターやプロセッサーではないことを明確にしました。

結論と展望

罰金なしでこれらの調査が終了したことは、積極的な消費者保護を優先する協力的な規制アプローチを示しています。AI業界は、これらの基準が欧州連合全体でベンチマークとなるかどうか、そしてAI技術の将来の開発および展開ポリシーに影響を与える可能性について注視していくでしょう。

よくある質問

Q: イタリアの独占禁止当局によって調査された企業はどこですか？
A: 調査の対象となったのは、中国のDeepSeek、フランスのMistral AI、トルコのScaleup Yazilim Hizmetleri Anonim Şirketiです。

Q: AIのハルシネーションとは何ですか？
A: 生成AIモデルが、事実であるかのように提示される不正確、誤解を招く、または完全に捏造されたコンテンツを生成することを指します。

出典: Investing.com