Model AI Sumber Terbuka Menimbulkan Risiko Jenayah Besar: Kajian

Penemuan Utama Mengenai Kerentanan AI

Satu kajian bersama oleh firma keselamatan siber SentinelOne dan Censys mendedahkan bahawa model bahasa besar sumber terbuka sangat terdedah kepada penyalahgunaan jenayah. Penyelidikan yang dijalankan selama 293 hari itu mendapati bahawa penggodam boleh dengan mudah menguasai sistem AI ini untuk menjalankan operasi spam, mencipta kandungan pancingan data (phishing), dan melancarkan kempen disinformasi, memintas protokol keselamatan standard.

Gambaran Keseluruhan Risiko Keselamatan

Penyiasatan itu menganalisis LLM yang boleh diakses secara awam, termasuk varian Llama Meta dan Gemma Google, yang digunakan melalui alatan seperti Ollama. Penyelidik menemui ratusan contoh di mana pagar keselamatan terbina dalam telah sengaja dialih keluar. Daripada model dengan gesaan sistem yang kelihatan, 7.5% didapati berpotensi untuk membolehkan aktiviti berbahaya atau haram, daripada pencurian data hingga penipuan.

Implikasi Pasaran dan Industri

Penemuan ini menyerlahkan titik buta keselamatan yang ketara dalam sektor AI yang berkembang pesat. Laporan itu menekankan tanggungjawab bersama merentasi ekosistem, daripada pembangun asal kepada komuniti sumber terbuka, untuk menangani bahaya yang boleh dijangka. Walaupun syarikat seperti Microsoft mengakui risiko dan mempromosikan inovasi yang bertanggungjawab, kajian itu menunjukkan bahawa kapasiti besar yang tidak terkawal untuk penyalahgunaan AI sedang diabaikan.

Kesimpulan

Penyelidikan ini menekankan keperluan mendesak untuk piawaian keselamatan yang lebih kukuh dan alat mitigasi untuk model AI yang tersedia secara awam. Tanpa komitmen bersama untuk menangani kerentanan ini, risiko alat berkuasa ini dieksploitasi untuk tujuan jenayah akan terus meningkat, menimbulkan ancaman kepada individu dan organisasi.

Soalan Lazim

S: Apakah risiko utama yang dikenal pasti dengan AI sumber terbuka?
J: Risiko utama termasuk penyalahgunaan untuk spam, serangan pancingan data (phishing), kempen disinformasi, penipuan, dan bentuk jenayah siber lain.

S: Syarikat manakah yang menjalankan penyelidikan ini?
J: Penyelidikan ini adalah usaha bersama oleh syarikat keselamatan siber SentinelOne dan Censys.

Sumber: Investing.com