Sullivan & Cromwell Meminta Maaf atas Kesalahan AI di Pengadilan

Ringkasan Utama Insiden Hukum AI

Firma hukum terkemuka Wall Street, Sullivan & Cromwell, telah secara resmi meminta maaf kepada seorang hakim federal karena mengajukan dokumen pengadilan yang berisi kesalahan signifikan yang dihasilkan oleh kecerdasan buatan. Kesalahan tersebut termasuk "halusinasi" AI, di mana teknologi tersebut mengarang kutipan kasus dan sumber hukum yang tidak ada.

Gambaran Umum Situasi

Dalam surat kepada Pengadilan Kepailitan AS di Manhattan, seorang mitra di firma tersebut menjelaskan bahwa ketidakakuratan yang dihasilkan AI ditemukan dan ditunjukkan oleh firma hukum lawan, Boies Schiller Flexner. Surat tersebut mengakui bahwa kebijakan internal firma dan persyaratan pelatihan untuk menggunakan alat AI dalam pekerjaan hukum tidak diikuti, dan proses peninjauan sekunder juga gagal menangkap kesalahan tersebut. Versi pengajuan yang telah dikoreksi kemudian diserahkan.

Dampak pada Profesi Hukum

Peristiwa ini menyoroti peningkatan pengawasan terhadap penggunaan AI di bidang hukum. Meskipun pengacara tidak dilarang menggunakan AI untuk penelitian dan penyusunan draf, mereka tetap bertanggung jawab secara etis atas keakuratan semua pengajuan ke pengadilan. Kasus ini adalah salah satu dari puluhan kasus di mana hakim AS telah memberikan sanksi kepada pengacara karena gagal memverifikasi konten yang dihasilkan AI dengan benar, memperkuat kebutuhan kritis akan pengawasan manusia dalam penerapan teknologi hukum.

Kesimpulan

Permintaan maaf dari firma terkemuka seperti Sullivan & Cromwell berfungsi sebagai kisah peringatan profil tinggi tentang risiko integrasi AI yang tidak dikelola dengan baik. Insiden ini diharapkan mendorong peninjauan protokol penggunaan AI di seluruh industri hukum untuk mencegah kesalahan serupa dan menjaga integritas proses pengadilan. Verifikasi yang cermat tetaplah yang terpenting.

FAQ

T: Apa itu "halusinasi" AI dalam konteks hukum?
J: Halusinasi AI mengacu pada kasus di mana model AI menghasilkan informasi palsu atau sepenuhnya dibuat-buat, seperti kasus hukum yang tidak ada atau kutipan yang tidak akurat, tetapi menyajikannya sebagai fakta.

T: Firma hukum mana yang mengeluarkan permintaan maaf atas kesalahan terkait AI?
J: Firma hukum yang berbasis di New York, Sullivan & Cromwell, mengeluarkan permintaan maaf tersebut.

Sumber: Investing.com