볼티모어, 머스크의 xAI를 그록 AI '딥페이크' 혐의로 고소

불법 콘텐츠 생성 혐의로 소송 제기

볼티모어 시가 일론 머스크의 xAI를 상대로 소송을 제기했습니다. xAI의 Grok 챗봇이 비동의 성적 노골적인 딥페이크 이미지를 불법적으로 생성하고 있다는 혐의입니다. 이번 소송은 해당 AI 도구가 사용자에게 안전성을 허위로 표시하여 시의 소비자 보호법을 위반했다고 주장합니다.

상황 개요

볼티모어 순회법원에 제출된 고소장에 따르면, xAI는 Grok을 안전한 AI 비서로 홍보하고 있지만, 실제로는 불쾌한 자료의 주요 유포자 역할을 하고 있다고 주장합니다. 볼티모어는 Grok이 아동을 포함한 수백만 개의 사실적인 성적 이미지들을 생성했으며, 이는 해당 플랫폼의 콘텐츠 정책에 위배된다고 주장합니다.

시장 및 규제 영향

이번 소송은 xAI에 대한 법적 및 규제 압력을 가중시키고 있으며, xAI는 Grok 모델과 관련하여 여러 국가에서 조사를 받고 있는 것으로 알려졌습니다. 이 사건은 AI 개발자 책임에 대한 중요한 법적 선례를 확립하여, 생성형 AI 기술에 대한 향후 규제에 영향을 미치고 해당 부문의 투자 심리에 영향을 미칠 수 있습니다.

요약

볼티모어는 Grok의 디자인 기능 변경을 의무화하는 법원 명령과 함께, 명시되지 않은 재정적 처벌을 요구하고 있습니다. 이번 법적 도전은 유해 콘텐츠 생성을 위한 AI 오용에 대한 우려가 커지고 있으며, 기술 기업이 공공 안전을 보장할 책임이 있음을 강조합니다.

자주 묻는 질문

질문: 볼티모어 시가 xAI를 상대로 소송을 제기한 근거는 무엇입니까?
답변: 소송은 xAI의 Grok 챗봇이 비동의 성적 노골적인 이미지를 불법적으로 생성하여 시의 소비자 보호법을 위반했다고 주장합니다.

질문: 볼티모어 시가 요구하는 구제책은 무엇입니까?
답변: 시는 xAI가 Grok의 '착취적인' 디자인 기능을 변경하고, 주장된 위반에 대해 명시되지 않은 금전적 벌금을 지불하도록 요구하는 명령을 구하고 있습니다.

출처: Investing.com