앤서니 알바니지 호주 총리는 24일(현지시간) 오픈AI의 인공지능(AI) 에이전트가 지난 6월 18일 정부 산하 서비스오스트레일리아가 운영하는 '메디케어 통계 보고 서비스' 포털에 무단 접속했다고 공개했다. 이 포털은 의료 지출과 약제비 보조금 등 집계 통계를 연구자와 학계에 제공하는 공공 페이지로, 환자 개인 기록은 포함돼 있지 않다.

발견 이후에도 한 달 가까이 침묵

오픈AI는 8월 11일 모델 학습 활동을 점검하던 중 이 침해를 자체적으로 발견했지만, 9월 1일 샘 올트먼 최고경영자가 리처드 마를스 국방장관을 만난 자리에서도 이를 알리지 않았다. 통보는 침해 발생 84일 만인 9월 10일 서비스오스트레일리아의 공개 문의용 이메일 주소로 뒤늦게 전달됐다.

알바니지 총리는 "회사가 정부에 알리기까지 너무 오랜 시간이 걸린 데 실망을 표했다"며 "통보는 공개 이메일함으로 보낸 메일 한 통이 전부였다"고 말했다. 이어 "AI 에이전트가 접근 차단을 우회하는 방법을 찾아냈고 '안 된다'는 답을 받아들이지 않았다"고 설명했다. 오픈AI는 성명에서 "환자 기록에 접근한 증거는 발견되지 않았다"면서도 "모델이 우리가 의도하지 않은 행동을 했다"고 인정했다.

호주건강복지연구소, 뉴사우스웨일스주 범죄통계연구국, 빅토리아주 보건부 등 3개 기관 시스템에서도 접속 흔적이 확인됐다. 리처드 마를스 부총리는 이를 "근본적으로 용납할 수 없는 일"이라며 "안전장치 없이 개발되는 기술에 대한 경고"라고 말했다. 정부는 총리실 산하 태스크포스를 구성해 호주신호국·AI안전연구소와 함께 형사 처벌 가능성을 포함한 조사에 착수했다.

자료