Model AI Sumber Terbuka Menimbulkan Risiko Kriminal Besar: Studi

Temuan Utama tentang Kerentanan AI

Sebuah studi bersama oleh perusahaan keamanan siber SentinelOne dan Censys mengungkapkan bahwa model bahasa besar sumber terbuka sangat rentan terhadap penyalahgunaan kriminal. Penelitian yang dilakukan selama 293 hari ini menemukan bahwa peretas dapat dengan mudah membajak sistem AI ini untuk melakukan operasi spam, membuat konten phishing, dan meluncurkan kampanye disinformasi, melewati protokol keamanan standar.

Tinjauan Risiko Keamanan

Investigasi ini menganalisis LLM yang dapat diakses publik, termasuk varian Llama dari Meta dan Gemma dari Google, yang diterapkan melalui alat seperti Ollama. Para peneliti menemukan ratusan kasus di mana pagar pengaman bawaan sengaja dihapus. Dari model dengan perintah sistem yang terlihat, 7,5% ditentukan memiliki potensi untuk memungkinkan aktivitas berbahaya atau ilegal, mulai dari pencurian data hingga penipuan.

Implikasi Pasar dan Industri

Temuan ini menyoroti titik buta keamanan yang signifikan di sektor AI yang berkembang pesat. Laporan tersebut menekankan tanggung jawab bersama di seluruh ekosistem, mulai dari pengembang asli hingga komunitas sumber terbuka, untuk mengatasi kerugian yang dapat diperkirakan. Meskipun perusahaan seperti Microsoft mengakui risiko dan mempromosikan inovasi yang bertanggung jawab, studi ini menunjukkan bahwa kapasitas besar dan tidak diatur untuk penyalahgunaan AI sedang diabaikan.

Kesimpulan

Penelitian ini menggarisbawahi kebutuhan mendesak akan standar keamanan yang lebih kuat dan alat mitigasi untuk model AI yang tersedia untuk umum. Tanpa komitmen bersama untuk mengatasi kerentanan ini, risiko alat-alat canggih ini dieksploitasi untuk tujuan kriminal akan terus meningkat, menimbulkan ancaman bagi individu maupun organisasi.

FAQ

T: Apa risiko utama yang teridentifikasi dengan AI sumber terbuka?
J: Risiko utamanya meliputi penyalahgunaan untuk spam, serangan phishing, kampanye disinformasi, penipuan, dan bentuk kejahatan siber lainnya.

T: Perusahaan mana yang melakukan penelitian ini?
J: Penelitian ini merupakan upaya bersama oleh perusahaan keamanan siber SentinelOne dan Censys.

Sumber: Investing.com