薩利文與克倫威爾為法庭上的人工智慧錯誤道歉

AI 法律事件關鍵摘要

華爾街頂尖律師事務所 Sullivan & Cromwell 已正式向一名聯邦法官道歉，因提交一份包含由人工智慧生成之重大錯誤的法庭文件。這些錯誤包括 AI「幻覺」，即該技術捏造了不存在的案例引文和法律來源。

情況概述

在一封致曼哈頓美國破產法院的信函中，該事務所的一名合夥人解釋說，這些由 AI 生成的不準確內容是由對方律師事務所 Boies Schiller Flexner 發現並指出的。信中承認，該事務所內部關於在法律工作中使用 AI 工具的政策和培訓要求並未被遵守，且二次審查程序也未能發現這些錯誤。隨後提交了一份更正後的檔案。

對法律專業的影響

此事件凸顯了法律領域對 AI 使用日益增加的審查。儘管律師並未被禁止使用 AI 進行研究和起草，但他們仍需對所有法庭提交文件的準確性負起道德責任。此案是美國法官因律師未能妥善驗證 AI 生成內容而對其進行制裁的數十起案件之一，這再次強調了在應用法律科技時，人工監督的關鍵必要性。

結論

像 Sullivan & Cromwell 這樣聲譽卓著的事務所發出的道歉，為不當管理 AI 整合所帶來的風險提供了一個備受矚目的警示。預計此事件將促使整個法律行業審查 AI 使用協議，以防止類似錯誤並維護法庭程序的完整性。嚴謹的驗證仍然至關重要。

常見問題

問： 在法律背景下，AI「幻覺」是什麼？
答： AI 幻覺指的是 AI 模型生成虛假或完全捏造的資訊，例如不存在的法律案件或不準確的引文，卻將其呈現為事實的情況。

問： 哪家律師事務所為 AI 相關錯誤發出了道歉？
答： 總部位於紐約的律師事務所 Sullivan & Cromwell 發出了道歉。

來源: Investing.com