โมเดล AI โอเพนซอร์ส ก่อความเสี่ยงอาชญากรรมร้ายแรง: ผลการศึกษาชี้

ผลการค้นพบที่สำคัญเกี่ยวกับช่องโหว่ของ AI

การศึกษาที่ร่วมกันโดยบริษัทความปลอดภัยทางไซเบอร์ SentinelOne และ Censys เปิดเผยว่าโมเดลภาษาขนาดใหญ่แบบโอเพนซอร์สมีความเสี่ยงสูงต่อการถูกนำไปใช้ในทางที่ผิดทางอาญา การวิจัยที่ดำเนินการมานานกว่า 293 วัน พบว่าแฮกเกอร์สามารถเข้าควบคุมระบบ AI เหล่านี้ได้อย่างง่ายดาย เพื่อดำเนินการส่งสแปม สร้างเนื้อหาฟิชชิ่ง และเปิดตัวแคมเปญบิดเบือนข้อมูล โดยหลีกเลี่ยงโปรโตคอลความปลอดภัยมาตรฐาน

ภาพรวมของความเสี่ยงด้านความปลอดภัย

การตรวจสอบได้วิเคราะห์ LLM ที่เข้าถึงได้สาธารณะ รวมถึงรุ่นต่างๆ ของ Llama ของ Meta และ Gemma ของ Google ซึ่งถูกนำไปใช้งานผ่านเครื่องมืออย่าง Ollama นักวิจัยพบหลายร้อยกรณีที่ระบบป้องกันความปลอดภัยในตัวถูกถอดออกโดยเจตนา ในบรรดาโมเดลที่มีข้อความแจ้งระบบ (system prompts) ที่มองเห็นได้ 7.5% ถูกระบุว่ามีศักยภาพในการก่อให้เกิดกิจกรรมที่เป็นอันตรายหรือผิดกฎหมาย ตั้งแต่การขโมยข้อมูลไปจนถึงการฉ้อโกง

ผลกระทบต่อตลาดและอุตสาหกรรม

ผลการค้นพบเหล่านี้ชี้ให้เห็นถึงจุดบอดด้านความปลอดภัยที่สำคัญในภาคส่วน AI ที่เติบโตอย่างรวดเร็ว รายงานเน้นย้ำถึงความรับผิดชอบร่วมกันทั่วทั้งระบบนิเวศ ตั้งแต่ผู้พัฒนาต้นฉบับไปจนถึงชุมชนโอเพนซอร์ส เพื่อจัดการกับอันตรายที่คาดการณ์ได้ ในขณะที่บริษัทอย่าง Microsoft ตระหนักถึงความเสี่ยงและส่งเสริมนวัตกรรมที่มีความรับผิดชอบ การศึกษานี้ชี้ให้เห็นว่าศักยภาพขนาดใหญ่ที่ไม่มีการควบคุมสำหรับการนำ AI ไปใช้ในทางที่ผิดกำลังถูกละเลย

บทสรุป

การวิจัยเน้นย้ำถึงความจำเป็นเร่งด่วนสำหรับมาตรฐานความปลอดภัยที่เข้มงวดขึ้นและเครื่องมือบรรเทาผลกระทบสำหรับโมเดล AI ที่เปิดเผยต่อสาธารณะ หากไม่มีความมุ่งมั่นร่วมกันในการแก้ไขช่องโหว่เหล่านี้ ความเสี่ยงที่เครื่องมืออันทรงพลังเหล่านี้จะถูกนำไปใช้เพื่อวัตถุประสงค์ทางอาญาจะยังคงเพิ่มขึ้นอย่างต่อเนื่อง ซึ่งเป็นภัยคุกคามต่อทั้งบุคคลและองค์กร

คำถามที่พบบ่อย

คำถาม: ความเสี่ยงหลักที่ระบุกับ AI แบบโอเพนซอร์สคืออะไร?
คำตอบ: ความเสี่ยงหลักได้แก่ การนำไปใช้ในทางที่ผิดเพื่อส่งสแปม, การโจมตีแบบฟิชชิ่ง, แคมเปญบิดเบือนข้อมูล, การฉ้อโกง และอาชญากรรมไซเบอร์รูปแบบอื่นๆ

คำถาม: บริษัทใดบ้างที่ทำการวิจัยนี้?
คำตอบ: การวิจัยนี้เป็นความร่วมมือระหว่างบริษัทความปลอดภัยทางไซเบอร์ SentinelOne และ Censys

ที่มา: Investing.com