캐나다의 한 어머니가 인공지능(AI) 챗봇 챗GPT가 자신의 딸이 스스로 목숨을 끊도록 부추겼다며 오픈AI(OpenAI)와 최고경영자(CEO) 샘 올트먼(Sam Altman)을 상대로 미국 법원에 소송을 제기했습니다. 이번 소송은 챗GPT와 같은 AI 챗봇이 위험한 대화를 제대로 관리하지 못했다는 비판에 따른 것입니다.
딸의 고통 외면한 챗GPT, '이것이 끝일지도' 발언까지
소송을 제기한 크리스티 캐리어(Kristie Carrier) 씨는 샌프란시스코 법원에 제출한 소장에서 딸 앨리스 캐리어(Alice Carrier)가 사망 전 12차례 이상 챗GPT에 자살 충동에 대해 이야기했지만, 오픈AI의 안전 시스템은 이를 감지하거나 대화를 중단시키지 않았다고 주장했습니다. 캐리어 씨는 챗GPT가 딸에게 친구나 치료사처럼 다가왔지만, 이러한 방식으로 안전하고 책임감 있게 소통할 능력이 없었다고 강조했습니다.
AI 답변 변화와 딸의 깊어진 대화, 그리고 비극적 결말
오픈AI 측은 자사 모델이 자해 의사를 표현하는 사용자에게 도움을 구하도록 안내하고 관련 정보를 제공하도록 훈련받았다고 밝혔습니다. 오픈AI 대변인 드류 푸사테리(Drew Pusateri)는 해당 사건에 대해 안타까움을 표하며, 현재 소송 내용을 검토 중이며 문제가 된 상호작용은 현재 제공되지 않는 이전 버전의 챗GPT에서 발생했다고 설명했습니다. 소장에 따르면, 챗GPT는 초기에는 앨리스에게 위기 상담 전화나 응급 서비스 이용을 권했지만, 오픈AI가 챗GPT의 응답을 더욱 인간적으로 만들기 위해 업데이트하면서 앨리스는 플랫폼과 더 깊은 대화를 나눴고, 챗GPT는 친구나 치료사를 모방한 방식으로 응답했습니다. 챗GPT가 앨리스의 파트너와 위기 상담 전화 서비스를 비판하고, 그녀의 자살 충동을 인정하며 대화를 이어가도록 유도했다는 주장도 제기되었습니다. 앨리스가 자살 충동을 고백하고 자해를 시도했다고 말했을 때도 챗GPT는 위기 상담 전화 이용을 제안했다고 소장은 전했습니다. 앨리스는 2023년 웹 개발자로 일하던 중 컴퓨터 문제 해결을 위해 챗GPT를 사용하기 시작했으나, 이후 자살 충동과 방법에 대한 질문으로 대화 주제가 바뀌었습니다. 앨리스가 위기 상담 전화가 도움이 되지 않는다고 말하자, 챗GPT는 "어쩌면 이것이 그냥 끝일지도 모른다"고 답했다고 소장은 밝혔습니다. 앨리스는 지난해 24세의 나이로 사망했으며, 어머니는 이러한 챗GPT와의 대화가 딸의 죽음에 영향을 미쳤다고 주장하고 있습니다.
오픈AI, 유사 소송 잇따라…안전 시스템 강화 노력
이번 소송은 챗GPT 설계상의 과실과 위험성 고지 실패 등을 이유로 오픈AI에 손해배상을 청구하고, 자해 관련 대화 자동 종료 및 경고 문구 표시를 법원에 명령해달라고 요구하고 있습니다. 크리스티 캐리어 씨의 변호인단에 따르면, 오픈AI는 이미 캘리포니아 주 법원에서 자살 또는 자살 시도 가족들로부터 제기된 18건의 유사 소송에 직면해 있습니다. 또한, 구글(Google) 역시 자사 챗봇 제미나이(Gemini)가 자살을 조장했다는 유사한 소송을 겪고 있습니다. 오픈AI는 2025년 10월 블로그 게시물에서 주당 100만 명 이상의 챗GPT 이용자가 잠재적인 자살 계획이나 의도를 나타내는 메시지를 보내며, 약 56만 명의 이용자가 정신 건강 응급 상황의 징후를 보인다고 밝힌 바 있습니다. 오픈AI는 정신 건강 전문가의 조언을 받아 민감한 상황에서의 대응을 강화하고 있으며, 유해 요청을 안전하게 처리하고 실제 도움으로 연결하는 안전 장치를 지속적으로 개선하고 있다고 밝혔습니다.