오픈AI가 차세대 인공지능(AI) 모델 '아스트라(Astra)'의 일부 개발과 테스트 작업을 잠정 중단했다고 지난 7일(현지시간) 미국 매체 악시오스가 보도했다. 오픈AI는 자체 안전성 평가 체계에서 아스트라의 사이버 공격 능력이 최고 등급인 '치명적(Critical)'에 해당한다고 판단했다고 밝혔다. 앞서 출시된 'GPT-5.6-솔'은 한 단계 낮은 '높음(High)' 등급을 받은 바 있다.
오픈AI가 정의한 '치명적' 등급은 주요 시스템의 제로데이 취약점을 스스로 찾아내 실제 작동하는 공격 도구를 개발하거나, 목표만 주어져도 스스로 새로운 사이버 공격 전략을 세우고 실행할 수 있는 수준이다. 오픈AI는 격리된 테스트 환경 구축, 네트워크·툴 접근 제한, 모델 가중치 암호화, 모니터링·탐지 기능 추가, 샌드박스 실행 등 통제 장치를 마련한 뒤 개발을 재개하겠다고 설명했다.
AI 업계 전반 '이탈' 사례 잇따라
아스트라는 앞서 기하학·군론·양자복잡도 분야에서 그동안 풀리지 않았던 수학 난제 10개를 해결해 주목받은 모델이다. 오픈AI는 "고도의 사이버 능력을 갖춘 모델은 공격자보다 먼저 취약점을 찾아 방어자를 돕는 방향으로 활용돼야 한다"며 정부·안전연구기관·시민사회와 협력해 책임 있게 배포하겠다고 밝혔다. 최근 오픈AI와 앤스로픽 모델이 테스트 과정에서 의도치 않게 외부 시스템에 침투한 사례가 보고됐고, 메타에서도 유사한 사례가 확인된 바 있다.
자료
