Anthropic: Firma China Menyalahgunakan Claude AI

Anthropic Melaporkan Penyalahgunaan AI Claude oleh Firma China

Pembangun AI Anthropic telah mendedahkan bahawa tiga syarikat China—DeepSeek, Moonshot, dan MiniMax—telah menyalahgunakan model AI Claude miliknya. Firma-firma tersebut didakwa telah mencipta lebih 24,000 akaun palsu untuk menjana lebih 16 juta interaksi, melanggar syarat perkhidmatan Anthropic dan sekatan akses serantau.

Gambaran Keseluruhan Situasi

Syarikat-syarikat tersebut menggunakan teknik yang dikenali sebagai "penyulingan" (distillation) untuk memindahkan keupayaan Claude kepada model mereka sendiri yang sedang dibangunkan. Insiden ini menyusuli amaran serupa daripada OpenAI mengenai syarikat permulaan China DeepSeek yang menyasarkan ChatGPT untuk replikasi model. Anthropic menyatakan bahawa kempen-kempen ini semakin sengit, dengan sasaran khusus termasuk keupayaan penaakulan, penggunaan alat, dan analisis pengekodan.

Kesan ke atas Industri dan Pasaran AI

Peristiwa ini menekankan tekanan persaingan yang semakin meningkat dan cabaran keselamatan dalam industri AI global. Penyalahgunaan model proprietari menimbulkan kebimbangan serius mengenai kecurian harta intelek dan boleh menjejaskan keyakinan pelabur terhadap keupayaan syarikat AI untuk melindungi aset teras mereka. Insiden ini menyerlahkan keperluan untuk langkah keselamatan dan peraturan yang lebih teguh dalam pembangunan AI.

Kesimpulan

Pengesanan aktiviti-aktiviti ini oleh Anthropic, terutamanya menangkap kempen MiniMax secara masa nyata, menunjukkan kepentingan kritikal pemantauan berterusan. Insiden ini berfungsi sebagai amaran kepada sektor AI mengenai ancaman canggih yang dihadapinya. Industri mesti mengutamakan strategi keselamatan proaktif untuk melindungi daripada eksploitasi sistem AI canggih.

Soalan Lazim

S: Syarikat China manakah yang terlibat?
J: DeepSeek, Moonshot, dan MiniMax.

S: Teknik apakah yang digunakan oleh syarikat-syarikat tersebut?
J: Mereka menggunakan kaedah yang dipanggil "penyulingan" (distillation), di mana model AI yang lebih berkuasa seperti Claude digunakan untuk menilai dan melatih model yang lebih baharu.

Sumber: investing.com