xAI, 유럽 딥페이크 감시 강화 속 그록 AI 제한

xAI, 규제 압력으로 Grok의 이미지 생성 제한

일론 머스크의 xAI는 유럽 규제 당국의 상당한 반발에 따라 Grok 챗봇의 이미지 편집 기능을 제한했습니다. 이 조치는 해당 AI 도구가 여성과 미성년자의 성적으로 노골적인 딥페이크 이미지를 수천 장 생성한 것으로 밝혀진 후 취해졌으며, 이는 영국 Ofcom과 같은 당국의 공식 조사를 촉발했습니다.

상황 개요

이번 논란은 생성형 AI를 규제하는 데 따르는 어려움을 강조합니다. 영국과 EU의 규제 당국은 각각 온라인 안전법(Online Safety Act)과 디지털 서비스법(Digital Services Act)을 언급하며 해당 이미지를 불법으로 규정했습니다. 이에 xAI는 해당 콘텐츠가 불법인 관할 지역에서 노출이 심한 복장을 한 사람들의 이미지를 생성하는 것을 차단했다고 발표했지만, 규제 당국의 조사는 계속되고 있습니다.

규제 및 법적 함의

이번 사건은 AI 개발자들에게 심각한 법적 및 규제 준수 위험을 부각시킵니다. 영국 온라인 안전법과 같은 규정에 따라, 플랫폼은 불법 콘텐츠를 방지하고 신속하게 제거하지 못할 경우 전 세계 매출의 최대 10%에 달하는 벌금을 부과받을 수 있습니다. AI 생성 딥페이크에 대한 법적 책임은 플랫폼과 사용자 모두에게 복잡한 문제로 남아 있습니다.

요약

xAI의 조치가 주목할 만한 대응이지만, 규제 당국은 유해한 AI 생성 콘텐츠와의 싸움이 아직 끝나지 않았음을 시사했습니다. 관계자들은 더 강력한 집행을 계속 요구하고 있으며, 딥페이크 확산에 대처하기 위해 기존 법률을 강화할 의지를 밝혔습니다.

자주 묻는 질문

Q: xAI는 왜 Grok 챗봇에 제한을 두었나요?
A: 챗봇이 노골적이고 비동의적인 딥페이크 이미지를 생성하는 데 사용된 후, 영국과 EU의 규제 압력으로 인해 회사가 조치를 취했습니다.

Q: 그러한 콘텐츠를 통제하지 못하는 플랫폼에 대한 잠재적 처벌은 무엇인가요?
A: 영국 온라인 안전법에 따르면, 심각한 규정 미준수는 회사 전 세계 매출의 최대 10%에 달하는 벌금으로 이어질 수 있습니다.

출처: 로이터 통신(Investing.com 경유)