xAI ने यूरोपीय डीपफेक जांच के मद्देनजर Grok AI पर प्रतिबंध लगाया।

नियामक दबाव में xAI ने ग्रोक की इमेज जनरेशन पर अंकुश लगाया

यूरोपीय नियामकों की कड़ी प्रतिक्रिया के बाद एलन मस्क की xAI ने अपने ग्रोक चैटबॉट के इमेज एडिटिंग कार्यों को प्रतिबंधित कर दिया है। यह कार्रवाई तब की गई जब AI टूल को महिलाओं और नाबालिगों की हजारों यौन-संबंधित डीपफेक छवियां बनाने के लिए पाया गया, जिसके कारण यूके के ऑफकॉम जैसे अधिकारियों द्वारा औपचारिक जांच शुरू की गई।

स्थितिजन्य अवलोकन

यह विवाद जनरेटिव AI को नियंत्रित करने की चुनौती को रेखांकित करता है। यूके और यूरोपीय संघ के नियामकों ने, क्रमशः ऑनलाइन सुरक्षा अधिनियम और डिजिटल सेवा अधिनियम का हवाला देते हुए, इन छवियों को गैरकानूनी करार दिया। जवाब में, xAI ने घोषणा की कि उसने उन क्षेत्रों में उपयोगकर्ताओं को आपत्तिजनक पोशाक में लोगों की छवियां बनाने से रोक दिया है जहां ऐसी सामग्री अवैध है, हालांकि नियामक जांच जारी है।

नियामक और कानूनी निहितार्थ

यह घटना AI डेवलपर्स के लिए गंभीर कानूनी और अनुपालन जोखिमों को उजागर करती है। यूके के ऑनलाइन सुरक्षा अधिनियम जैसे नियमों के तहत, अवैध सामग्री को रोकने और तुरंत हटाने में विफल रहने पर प्लेटफॉर्म को अपने वैश्विक राजस्व के 10% तक का संभावित जुर्माना लग सकता है। AI-जनरेटेड डीपफेक के लिए कानूनी जिम्मेदारी प्लेटफॉर्म और उपयोगकर्ताओं दोनों के लिए एक जटिल मुद्दा बनी हुई है।

सारांश

हालांकि xAI का यह कदम एक उल्लेखनीय प्रतिक्रिया है, नियामकों ने संकेत दिया है कि हानिकारक AI-जनरेटेड सामग्री के खिलाफ लड़ाई अभी खत्म नहीं हुई है। अधिकारी मजबूत प्रवर्तन की मांग जारी रखे हुए हैं और डीपफेक के प्रसार को संबोधित करने के लिए मौजूदा कानूनों को मजबूत करने की इच्छा व्यक्त की है।

अक्सर पूछे जाने वाले प्रश्न

प्र: xAI ने अपने ग्रोक चैटबॉट पर प्रतिबंध क्यों लगाए?
उ: चैटबॉट का उपयोग स्पष्ट और गैर-सहमति वाली डीपफेक छवियां बनाने के लिए किए जाने के बाद कंपनी ने यूके और यूरोपीय संघ के नियामक दबाव के कारण कार्रवाई की।

प्र: ऐसी सामग्री को नियंत्रित करने में विफल रहने वाले प्लेटफॉर्म के लिए संभावित दंड क्या हैं?
उ: यूके के ऑनलाइन सुरक्षा अधिनियम के तहत, गंभीर गैर-अनुपालन के परिणामस्वरूप कंपनी के वैश्विक राजस्व के 10% तक का जुर्माना लग सकता है।

स्रोत: रॉयटर्स वाया इन्वेस्टिंग.कॉम