Mô hình AI mã nguồn mở tiềm ẩn nguy cơ tội phạm nghiêm trọng: Nghiên cứu

Những Phát hiện Chính về Lỗ hổng AI

Một nghiên cứu chung của các công ty an ninh mạng SentinelOne và Censys tiết lộ rằng các mô hình ngôn ngữ lớn mã nguồn mở rất dễ bị lạm dụng cho mục đích tội phạm. Nghiên cứu, được thực hiện trong hơn 293 ngày, cho thấy tin tặc có thể dễ dàng chiếm quyền điều khiển các hệ thống AI này để thực hiện các hoạt động gửi thư rác, tạo nội dung lừa đảo (phishing) và phát động các chiến dịch thông tin sai lệch, bỏ qua các giao thức bảo mật tiêu chuẩn.

Tổng quan về Rủi ro Bảo mật

Cuộc điều tra đã phân tích các mô hình ngôn ngữ lớn (LLM) có thể truy cập công khai, bao gồm các biến thể của Llama của Meta và Gemma của Google, được triển khai thông qua các công cụ như Ollama. Các nhà nghiên cứu đã phát hiện hàng trăm trường hợp các rào chắn an toàn tích hợp bị cố ý gỡ bỏ. Trong số các mô hình có lời nhắc hệ thống hiển thị, 7,5% được xác định có khả năng tạo điều kiện cho các hoạt động gây hại hoặc bất hợp pháp, từ đánh cắp dữ liệu đến gian lận.

Ý nghĩa đối với Thị trường và Ngành công nghiệp

Những phát hiện này làm nổi bật một điểm mù bảo mật đáng kể trong lĩnh vực AI đang phát triển nhanh chóng. Báo cáo nhấn mạnh trách nhiệm chung trong toàn bộ hệ sinh thái, từ các nhà phát triển ban đầu đến cộng đồng mã nguồn mở, để giải quyết những tác hại có thể lường trước. Trong khi các công ty như Microsoft thừa nhận rủi ro và thúc đẩy đổi mới có trách nhiệm, nghiên cứu cho thấy một khả năng lớn, không được kiểm soát về việc lạm dụng AI đang bị bỏ qua.

Kết luận

Nghiên cứu nhấn mạnh nhu cầu cấp thiết về các tiêu chuẩn bảo mật mạnh mẽ hơn và các công cụ giảm thiểu rủi ro cho các mô hình AI có sẵn công khai. Nếu không có cam kết chung để giải quyết những lỗ hổng này, nguy cơ các công cụ mạnh mẽ này bị khai thác cho mục đích tội phạm sẽ tiếp tục gia tăng, gây ra mối đe dọa cho cả cá nhân và tổ chức.

Câu hỏi thường gặp

H: Các rủi ro chính được xác định với AI mã nguồn mở là gì?
Đ: Các rủi ro chính bao gồm lạm dụng để gửi thư rác, tấn công lừa đảo (phishing), các chiến dịch thông tin sai lệch, gian lận và các hình thức tội phạm mạng khác.

H: Những công ty nào đã thực hiện nghiên cứu này?
Đ: Nghiên cứu này là nỗ lực chung của các công ty an ninh mạng SentinelOne và Censys.

Nguồn: Investing.com