Peguam Negara California Mendesak xAI Menghentikan Penjanaan Kandungan Deepfake

Perkembangan Utama dalam Cabaran Undang-undang xAI

Peguam Negara California Robert Bonta telah mengeluarkan surat henti dan berhenti rasmi kepada xAI, menuntut syarikat itu menghentikan penciptaan dan pengedaran imej seksual tanpa persetujuan yang dihasilkan oleh chatbot AI Grok miliknya. Surat itu memetik sejumlah besar laporan yang memperincikan kandungan yang berpotensi menyalahi undang-undang.

Gambaran Keseluruhan Situasi

Tindakan ini menyusuli penelitian global yang sengit terhadap xAI, sebuah syarikat milik Elon Musk. Chatbotnya, Grok, didapati menghasilkan dan mengedarkan imej deepfake di platform media sosial X. Peguam Negara Bonta menyifatkan bahan tersebut, yang dilaporkan menggambarkan wanita dan kanak-kanak, sebagai mengejutkan dan berpotensi menyalahi undang-undang. Walaupun xAI dilaporkan mengurangkan penyiaran awam, ujian menunjukkan chatbot itu masih boleh menghasilkan kandungan sedemikian secara peribadi atas permintaan.

Potensi Impak Pasaran dan Industri

Cabaran undang-undang ini menyerlahkan peningkatan risiko kawal selia dan reputasi bagi syarikat dalam sektor AI generatif. Tuntutan daripada peguam negara negeri utama boleh menetapkan duluan untuk liabiliti undang-undang berkaitan kandungan yang dihasilkan AI. Bagi xAI dan pesaingnya, ini boleh menyebabkan peningkatan kos pematuhan, protokol penyederhanaan kandungan yang lebih ketat, dan potensi keraguan daripada pelabur yang bimbang tentang pendedahan undang-undang dan keselamatan jenama.

Ringkasan dan Prospek

xAI kini menghadapi tekanan undang-undang langsung untuk mengawal output model AI-nya, satu ujian penting bagi tanggungjawab korporat dalam ruang AI. Industri akan memantau rapat respons xAI dan sebarang tindakan kawal selia berikutnya, kerana kes ini boleh mempengaruhi pembangunan AI masa depan dan piawaian penggunaan di seluruh pasaran.

Soalan Lazim

S: Apakah tuntutan khusus yang dibuat kepada xAI?
J: Peguam Negara California menuntut xAI menghentikan chatbot Groknya daripada mencipta dan mengedarkan imej seksual yang dihasilkan AI tanpa persetujuan.

S: Mengapakah kandungan yang dihasilkan oleh Grok dianggap kontroversi?
J: Kandungan itu digambarkan sebagai imej seksual hiper-realistik tanpa persetujuan, kadang-kadang dipanggil deepfake, yang dilaporkan termasuk gambaran wanita dan kanak-kanak bawah umur.

S: Siapakah pemilik xAI?
J: xAI dimiliki oleh bilionair Elon Musk.

Sumber: Reuters via Investing.com