サリバン＆クロムウェル、法廷でのAI誤りを謝罪

AI関連法務インシデントの要約

ウォール街の一流法律事務所サリバン＆クロムウェルは、人工知能によって生成された重大な誤りを含む裁判所文書を提出したことについて、連邦判事に対し正式に謝罪しました。その誤りには、AIの「幻覚」（ハルシネーション）が含まれており、AIが実在しない判例引用や法的情報を作り出したものです。

状況の概要

マンハッタンの米国破産裁判所への書簡で、同事務所のパートナーは、AIによって生成された不正確な情報が、相手方法律事務所ボイス・シラー・フレックスナーによって発見され、指摘されたと説明しました。書簡は、法律業務におけるAIツールの使用に関する同事務所の内部方針および研修要件が遵守されていなかったこと、そして二次的なレビュープロセスも誤りを見落としたことを認めました。その後、修正版の書類が提出されました。

法曹界への影響

この出来事は、法曹界におけるAIの使用に対する監視の強化を浮き彫りにしています。弁護士は調査や草稿作成にAIを使用することを禁じられていませんが、すべての裁判所提出書類の正確性については倫理的に責任を負います。この事件は、米国判事がAI生成コンテンツの適切な検証を怠った弁護士を制裁した数十件のうちの一つであり、法務テクノロジーの適用における人間の監視の重要性を改めて強調しています。

結論

サリバン＆クロムウェルのような評判の高い事務所からの謝罪は、不適切に管理されたAI統合のリスクに関する注目すべき警告事例となります。この事件は、法曹界全体でAI使用プロトコルの見直しを促し、同様の誤りを防ぎ、裁判手続きの公正性を維持することが期待されます。徹底した検証が依然として最も重要です。

よくある質問

Q: 法的な文脈におけるAIの「幻覚」（ハルシネーション）とは何ですか？
A: AIの幻覚とは、AIモデルが実在しない判例や不正確な引用など、虚偽または完全に捏造された情報を生成しながらも、それを事実として提示する事例を指します。

Q: AI関連の誤りについて謝罪したのはどの法律事務所ですか？
A: ニューヨークを拠点とする法律事務所サリバン＆クロムウェルが謝罪しました。

出典: Investing.com