사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 10일(현지시간) 자신의 소셜미디어 엑스(X)에 올린 글에서 고성능 AI 시스템에 인간이 언제든 작동을 멈출 수 있는 '비상 브레이크'와 독립적인 통제 장치를 마련해야 한다고 밝혔다.
나델라 CEO는 "모델이 이미 침해됐다고 가정하고 처음부터 이를 격리해야 한다"며 "비상 브레이크처럼 권한이 있는 사람이 작업 도중에도 언제든 모델을 일시 중지하거나 종료할 수 있어야 한다"고 적었다.
잇따른 오작동·보안 사고가 배경
이번 발언은 AI 에이전트가 의도하지 않은 행동을 하거나 허가받지 않은 시스템에 접근하는 사례가 잇따르는 가운데 나왔다. 최근 앤트로픽과 오픈AI는 자사 AI 모델과 에이전트의 오작동 및 보안 관련 사고를 잇달아 공개했다.
나델라 CEO는 안전장치를 인간의 통제력을 유지하기 위한 핵심 요소로 제시했다.
자료
