xAI, 딥페이크 피해자 익명성 박탈 법원에 요청… "소송 취하 압박"

인공지능(AI) 기업 xAI가 챗봇 '그록(Grok)'을 이용해 제작된 딥페이크 성적 이미지 피해자 4명의 실명을 공개하도록 법원에 요청했다. 이는 자신들의 불법 행위에 대한 소송을 취하하도록 압박하려는 의도로 풀이된다.

피해자, 익명성 유지 호소… xAI는 공개 요구

지난 5월 29일, 연방 집단소송의 주요 원고인 4명(사우스캐롤라이나 도, 사우스캐롤라이나 로, 뉴저지 도, 오하이오 도로 알려짐)은 제출된 법원 문서에 따르면 올해 초 발생한 딥페이크 피해로 인해 심각한 정신적 고통을 겪고 있다고 밝혔다. 이들은 소송 과정에서 실명이 공개될 경우 추가적인 온라인 괴롭힘과 신상털기(doxing)를 당할 것을 우려하고 있다. 원고 측 변호인단은 "xAI가 그들의 옷을 벗긴 데 이어, 이제는 소송을 취하하도록 압박하기 위해 익명성을 박탈하려 한다"며 "xAI의 행위는 자신들이 치유하려는 피해를 더욱 가중시키는 것"이라고 비판했다.

'그록' 챗봇, 딥페이크 이미지 제작 논란 지속

일론 머스크(Elon Musk)가 소유한 xAI의 그록 챗봇은 지난 1월, 수많은 남성들이 생성형 AI를 이용해 여성들의 나체 또는 비키니 사진을 합성하는 데 사용되면서 전 세계적인 공분을 샀다. 특히 이 과정에서 아동으로 추정되는 인물들의 성적 이미지까지 제작된 것으로 알려졌다. 디지털 혐오 대응 센터(Center for Countering Digital Hate)의 분석에 따르면, 그록은 단 11일 만에 약 300만 건의 성적 이미지를 생성했으며, 이 중 23,000건은 아동을 포함했을 가능성이 있다고 한다. 이러한 파문으로 인해 스페이스X(SpaceX)는 5억 달러 이상을 관련 피해 처리를 위해 별도로 마련한 것으로 전해졌다.

xAI, 법원에 익명성 철회 요구… 소송의 쟁점 부상

xAI를 상대로 제기된 집단 소송은 지난 1월 처음 제기되었으며, 당시에는 한 명의 익명 원고가 참여했다. 캘리포니아 북부 연방 지방 법원의 판사는 이 원고가 '제인 도(Jane Doe)'라는 가명으로 소송에 참여할 수 있도록 허가했다. 이후 5월 초 4명의 주요 원고가 추가되면서 소송이 재개되었고, 기존의 제인 도는 사우스캐롤라이나 도라는 이름으로 변경되었다. xAI 측은 소송 당사자들의 신원 공개는 공익에 부합하며, 소송을 제기하는 측이 특정 추가 피해나 위협에 대한 증거를 제시하지 않았다는 입장이다. 또한, 딥페이크 이미지가 소송의 일부로 공개되지 않을 것이므로 사생활 침해 우려는 불필요하다고 주장하고 있다.