ओपन-सोर्स एआई मॉडल से गंभीर आपराधिक जोखिम: अध्ययन

एआई कमजोरियों पर मुख्य निष्कर्ष

साइबर सुरक्षा फर्मों सेंटिनलवन और सेंसिस के एक संयुक्त अध्ययन से पता चला है कि ओपन-सोर्स बड़े भाषा मॉडल आपराधिक दुरुपयोग के प्रति अत्यधिक संवेदनशील हैं। 293 दिनों में किए गए शोध में पाया गया कि हैकर्स इन एआई प्रणालियों को स्पैम संचालन करने, फ़िशिंग सामग्री बनाने और दुष्प्रचार अभियान शुरू करने के लिए आसानी से नियंत्रित कर सकते हैं, जिससे मानक सुरक्षा प्रोटोकॉल को दरकिनार किया जा सकता है।

सुरक्षा जोखिमों का अवलोकन

जांच में सार्वजनिक रूप से सुलभ एलएलएम का विश्लेषण किया गया, जिसमें मेटा के लामा और गूगल के जेम्मा के वेरिएंट शामिल थे, जिन्हें ओलामा जैसे टूल के माध्यम से तैनात किया गया था। शोधकर्ताओं ने सैकड़ों ऐसे उदाहरण खोजे जहां अंतर्निहित सुरक्षा उपायों को जानबूझकर हटा दिया गया था। दृश्यमान सिस्टम प्रॉम्प्ट वाले मॉडलों में से, 7.5% में डेटा चोरी से लेकर धोखाधड़ी तक, हानिकारक या अवैध गतिविधियों को सक्षम करने की क्षमता पाई गई।

बाजार और उद्योग पर प्रभाव

ये निष्कर्ष तेजी से बढ़ते एआई क्षेत्र में एक महत्वपूर्ण सुरक्षा अंध बिंदु को उजागर करते हैं। रिपोर्ट पारिस्थितिकी तंत्र में, मूल डेवलपर्स से लेकर ओपन-सोर्स समुदाय तक, अनुमानित नुकसानों को दूर करने के लिए एक साझा जिम्मेदारी पर जोर देती है। जबकि माइक्रोसॉफ्ट जैसी कंपनियां जोखिमों को स्वीकार करती हैं और जिम्मेदार नवाचार को बढ़ावा देती हैं, अध्ययन से पता चलता है कि एआई के दुरुपयोग की एक बड़ी, अनियमित क्षमता को नजरअंदाज किया जा रहा है।

निष्कर्ष

यह शोध सार्वजनिक रूप से उपलब्ध एआई मॉडलों के लिए मजबूत सुरक्षा मानकों और शमन उपकरणों की तत्काल आवश्यकता पर जोर देता है। इन कमजोरियों को दूर करने के लिए एक साझा प्रतिबद्धता के बिना, इन शक्तिशाली उपकरणों के आपराधिक उद्देश्यों के लिए शोषण का जोखिम बढ़ता रहेगा, जिससे व्यक्तियों और संगठनों दोनों के लिए खतरा पैदा होगा।

अक्सर पूछे जाने वाले प्रश्न

प्र: ओपन-सोर्स एआई के साथ पहचाने गए मुख्य जोखिम क्या हैं?
उ: प्राथमिक जोखिमों में स्पैम, फ़िशिंग हमले, दुष्प्रचार अभियान, धोखाधड़ी और साइबर अपराध के अन्य रूपों के लिए दुरुपयोग शामिल है।

प्र: किन कंपनियों ने शोध किया?
उ: यह शोध साइबर सुरक्षा कंपनियों सेंटिनलवन और सेंसिस का एक संयुक्त प्रयास था।

स्रोत: Investing.com