캘리포니아 법무장관, 머스크의 xAI에 딥페이크 이미지 중단 명령

주요 전개

캘리포니아 법무장관 롭 본타는 일론 머스크의 xAI에 공식적인 중단 및 금지 서한을 보냈습니다. 이 서한은 xAI가 생성형 AI 챗봇 그록(Grok)으로 생성된 비동의 성적 이미지의 생성 및 배포를 즉시 중단할 것을 요구합니다.

확대되는 규제 감시

이번 법적 조치는 해당 AI 도구에 대한 광범위한 전 세계적 반발의 일환입니다. 일본, 캐나다, 영국을 포함한 여러 국가의 당국은 그록에 대한 자체 조사를 시작했습니다. 또한, 말레이시아와 인도네시아 같은 국가들은 노골적인 콘텐츠 생성에 대한 우려로 인해 해당 서비스에 대한 접근을 일시적으로 차단했습니다.

기업의 대응 및 영향

커지는 논란에 대응하여, xAI는 모든 그록 사용자에게 이미지 편집 기능을 제한하는 새로운 제약을 부과했다고 밝혔습니다. 회사는 캘리포니아 법무장관의 서한에 대해 구체적인 언급을 하지 않았습니다. 고조되는 법적 압력은 AI 기업의 규제 위험에 대한 중요한 질문을 제기합니다.

전망

본타 법무장관은 xAI가 즉시 준수할 것을 전적으로 기대한다고 밝혔습니다. 이번 사건은 생성형 AI 부문이 직면한 법적, 윤리적 도전이 증가하고 있음을 강조합니다. 투자자들은 xAI가 이 상황을 어떻게 헤쳐나갈지, 그리고 AI 생성 콘텐츠에 대한 더 엄격한 규제 가능성을 면밀히 주시할 것입니다.

자주 묻는 질문

질문: 캘리포니아는 xAI에 대해 어떤 조치를 취했습니까?
답변: 법무장관은 xAI가 그록 AI로 생성된 비동의 성적 이미지의 생성 및 확산을 중단할 것을 요구하는 중단 및 금지 서한을 보냈습니다.

질문: xAI는 이 문제에 어떻게 대응했습니까?
답변: xAI는 그록의 이미지 편집 기능에 제한을 두었지만, 캘리포니아의 공식 서한에 대해서는 아직 공개적으로 답변하지 않았습니다.

출처: 로이터 통신 (Investing.com 경유)