아동 성착취물(CSAM) 생성 혐의를 둘러싼 소송이 새로운 국면에 접어들었다. 지난주 확대된 집단소송에서는 X(구 트위터)의 자회사인 xAI(엑스에이아이)의 인공지능 모델 그록(Grok)이 아동 대상 착취 이미지 생성에 악용된 사례와 함께, xAI가 수사기관의 협력 요청을 거부한 혐의가 제기됐다. 소송은 그록이 '누드화' 기능을 제공함으로써 아동 포식자들을 보호했다고 주장한다.
소장(修章)에 따르면 지난 3월, 한 남성이 11세 때 촬영된 의붓딸의 사진 1장을 이용해 그록으로 7천 장의 성인물을 생성한 혐의로 경찰에 적발된 후 2일 뒤 스스로 목숨을 끊었다. 경찰 수사에 따르면 이 남성은 근친상간과 강간을 묘사하는 극단적인 이미지들을 생성했으며, 그록의 안전 시스템은 '집단강간(gang rape)' 프롬프트 입력 이후에야 처음 경고를 표시했다. 이후 시스템이 미국 실종·착취아동센터(NCMEC)에 신고했다.
더 큰 문제는 xAI의 수사 협력 거부다. 소장은 xAI가 CSAM 적발 시 사용자 IP 주소 등 정보를 공유해야 하는 의무적 보고 요건을 반복적으로 무시했다고 주장했다. xAI는 수주에 걸쳐 '수사의 모든 단계에서 방해'를 했으며, 법 집행기관이 가해자를 추적·식별·체포하기 어렵게 만들었다는 내용이다. 결국 영장을 통해 용의자 기기를 압수한 후에야 약 7천 장의 AI 생성 이미지와 영상이 적발됐다.
소송장에서 '제인 도(Jane Doe) 4'로 표기된 의붓딸은 현재 불안감과 우울증을 앓고 있으며 자살 충동까지 겪고 있는 것으로 나타났다. 가족들은 그록이 '벗겨내기' 기능을 제공하지 않았다면 이 같은 이미지들이 절대 생성되지 않았을 것이라고 주장하고 있다. 소장은 이 남성이 생성한 이미지들을 다른 아동 성착취자들이 만든 CSAM과 거래한 혐의도 기술했다.