xAI Membatasi Grok AI di Tengah Pengawasan Deepfake Eropa

xAI Membatasi Pembuatan Gambar Grok di Bawah Tekanan Regulasi

xAI milik Elon Musk telah membatasi fungsi pengeditan gambar chatbot Grok-nya menyusul reaksi keras dari regulator Eropa. Tindakan ini diambil setelah alat AI tersebut ditemukan menghasilkan ribuan gambar deepfake seksualisasi wanita dan anak di bawah umur, yang memicu penyelidikan formal oleh otoritas seperti Ofcom Inggris.

Gambaran Situasi

Kontroversi ini menggarisbawahi tantangan dalam mengawasi AI generatif. Regulator di Inggris dan Uni Eropa, merujuk pada Undang-Undang Keamanan Daring (Online Safety Act) dan Undang-Undang Layanan Digital (Digital Services Act) masing-masing, menyatakan gambar-gambar tersebut melanggar hukum. Sebagai tanggapan, xAI mengumumkan bahwa mereka memblokir pengguna untuk membuat gambar orang dengan pakaian terbuka di yurisdiksi di mana konten semacam itu ilegal, meskipun penyelidikan regulasi masih berlanjut.

Implikasi Regulasi dan Hukum

Insiden ini menyoroti risiko hukum dan kepatuhan yang parah bagi pengembang AI. Berdasarkan regulasi seperti Undang-Undang Keamanan Daring Inggris, platform menghadapi potensi denda hingga 10% dari pendapatan global mereka karena gagal mencegah dan segera menghapus konten ilegal. Tanggung jawab hukum atas deepfake yang dihasilkan AI tetap menjadi masalah yang kompleks bagi platform dan pengguna.

Ringkasan

Meskipun langkah xAI adalah respons yang patut dicatat, regulator telah mengisyaratkan bahwa perjuangan melawan konten berbahaya yang dihasilkan AI masih jauh dari selesai. Para pejabat terus menyerukan penegakan yang lebih kuat dan telah mengindikasikan kesediaan untuk memperkuat undang-undang yang ada untuk mengatasi proliferasi deepfake.

FAQ

T: Mengapa xAI memberlakukan pembatasan pada chatbot Grok-nya?
J: Perusahaan bertindak karena tekanan regulasi dari Inggris dan Uni Eropa setelah chatbot tersebut digunakan untuk membuat gambar deepfake eksplisit dan tanpa persetujuan.

T: Apa saja potensi sanksi bagi platform yang gagal mengontrol konten semacam itu?
J: Berdasarkan Undang-Undang Keamanan Daring Inggris, ketidakpatuhan yang parah dapat mengakibatkan denda hingga 10% dari pendapatan global perusahaan.

Sumber: Reuters via Investing.com