독일 뮌헨 지방 법원이 구글의 인공지능(AI) 기반 요약 기능인 'AI 오버뷰(AI Overviews)'가 생성한 잘못된 정보에 대해 구글이 책임을 져야 한다는 예비 판결을 내렸다. 이번 판결은 전 세계 검색 엔진 및 AI 챗봇 운영 방식에 큰 변화를 가져올 수 있다는 분석이 나온다. 법원은 구글이 검색 엔진을 통해 부정확하거나 잘못된 주장의 확산을 막아야 한다고 명령했다.
AI 요약, 출처와 다른 '독자적 진술' 생성
이번 판결은 두 출판사가 구글의 AI 요약 기능이 특정 검색에서 근거 없이 자신들을 의심스러운 사업 관행, 사기, 구독 관련 허위 정보와 연관시키는 것을 발견하면서 시작된 소송에서 비롯되었다. 해당 기업들은 구글에 내용증명을 보냈으나, 구글은 AI 요약 기능이 오류를 포함할 수 있다는 경고를 제공하므로 사용자 스스로 정보를 검증해야 한다며 책임을 부인했다.
그러나 법원은 구글의 AI가 여러 기업의 정보를 오인해 데이터를 결합함으로써, 출처에 없는 내용을 바탕으로 '독자적이고 새로운, 실질적인 진술'을 생성했다고 판단했다. 법원은 검색 엔진이 단순히 제3자의 정보를 링크 목록으로 제공하는 것과 달리, 구글의 AI 도구는 인터넷상의 정보를 잘못 해석해 새로운 주장을 만들어냈다고 지적했다. 이에 따라 법원은 AI 기술을 수정할 수 있는 유일한 주체인 구글이 결과에 대한 책임을 져야 한다고 명시했다.
AI 생성 결과, '개인 의견' 아닌 '알고리즘 산물'
이번 판결은 AI가 검색 결과 제시에서 수행하는 역할에 대한 새로운 해석을 제시하며, 역사적인 선례가 될 가능성이 있다. 법원은 AI 모델의 잠재적 '환각(hallucination)' 현상으로 인해 정보 검증을 권장하는 구글의 주장도 책임을 면제해주지 못한다고 보았다. 만약 그렇지 않으면, 허위 정보의 피해자는 원래 출처에서 해당 진술을 하지 않았기 때문에 법적 조치를 취할 수 없어 사실상 방어할 방법이 없다는 것이 법원의 논리다.
또한, 법원은 AI 시스템이 생성한 결과는 알고리즘에 의해 설계, 훈련, 관리되는 산물이므로 개인의 의견 표현으로 간주될 수 없어 표현의 자유 원칙으로 보호받을 수 없다고 결론 내렸다. 이번 판결에 따라 구글은 명예훼손으로 간주된 진술의 상당 부분을 삭제하고, 소송 비용의 80%를 부담해야 한다. 구글 측은 해당 결정이 최종이 아니며 신중하게 검토 중이라고 밝혔다.
