설리번 앤 크롬웰, 법정 AI 오류에 사과

AI 법률 사건 주요 요약

월스트리트의 유수 로펌 설리번 앤 크롬웰(Sullivan & Cromwell)이 인공지능(AI)이 생성한 중대한 오류가 포함된 법원 문서를 제출한 것에 대해 연방 판사에게 공식적으로 사과했습니다. 이러한 오류에는 AI '환각(hallucinations)'이 포함되었는데, 이는 AI 기술이 존재하지 않는 판례 인용과 법률 자료를 조작한 것을 의미합니다.

상황 개요

맨해튼 연방 파산 법원에 보낸 서한에서, 해당 로펌의 파트너는 AI가 생성한 부정확한 내용이 상대 로펌인 보이즈 실러 플렉스너(Boies Schiller Flexner)에 의해 발견되고 지적되었다고 설명했습니다. 이 서한은 법률 업무에 AI 도구를 사용하는 것에 대한 로펌의 내부 정책 및 교육 요건이 준수되지 않았으며, 2차 검토 과정에서도 오류를 발견하지 못했음을 인정했습니다. 이후 수정된 버전의 서류가 제출되었습니다.

법조계에 미치는 영향

이번 사건은 법률 분야에서 AI 사용에 대한 감시가 강화되고 있음을 보여줍니다. 변호사들이 연구 및 초안 작성에 AI를 사용하는 것이 금지된 것은 아니지만, 모든 법원 제출 서류의 정확성에 대해서는 윤리적 책임을 져야 합니다. 이 사건은 미국 판사들이 AI 생성 콘텐츠를 제대로 확인하지 않아 변호사들에게 제재를 가한 수십 건 중 하나이며, 법률 기술 적용에 있어 인간의 감독이 필수적임을 다시 한번 강조합니다.

결론

설리번 앤 크롬웰과 같은 명망 있는 로펌의 사과는 부적절하게 관리된 AI 통합의 위험성에 대한 세간의 이목을 끄는 경고 사례가 됩니다. 이번 사건은 유사한 오류를 방지하고 법원 절차의 무결성을 유지하기 위해 법조계 전반의 AI 사용 프로토콜에 대한 검토를 촉발할 것으로 예상됩니다. 철저한 검증은 여전히 가장 중요합니다.

자주 묻는 질문

질문: 법률 맥락에서 AI '환각'이란 무엇인가요?
답변: AI 환각은 AI 모델이 존재하지 않는 법률 사례나 부정확한 인용과 같이 거짓이거나 완전히 조작된 정보를 생성하지만, 이를 사실인 것처럼 제시하는 경우를 말합니다.

질문: AI 관련 오류에 대해 사과한 로펌은 어디인가요?
답변: 뉴욕에 본사를 둔 로펌 설리번 앤 크롬웰(Sullivan & Cromwell)이 사과했습니다.

출처: Investing.com