사티아 나델라 마이크로소프트 최고경영자(CEO)는 13일(현지시간) 인간이 통제할 수 없는 초지능은 추구할 가치가 없다는 원칙을 세우기 위해 자사 AI 모델 '마이(MAI)' 전용 행동강령(Code of Conduct)을 이튿날인 14일 공개해 공개 의견수렴에 부치겠다고 발표했다.
나델라 CEO는 이날 공개한 글에서 "우리가 만드는 AI가 인류에 도움이 되지 않고 인간의 통제 아래 있지 않다면 추구할 가치가 없다"고 밝혔다. 그는 마이크로소프트의 AI 전략이 △모든 계층에서의 폭넓은 접근과 선택권 △기업의 학습 루프·모델 통제권 확보 △자사 1세대 모델 '마이'에 적용할 행동강령이라는 세 축 위에 서 있다고 설명했다.
이번 발표는 다리오 아모데이 앤스로픽 CEO가 최근 AI 개발 속도를 늦춰야 한다고 주장한 데 대한 화답 성격이 짙다. 샘 올트먼 오픈AI CEO도 지난 12일 같은 취지에 공감한다고 밝힌 바 있다. 나델라 CEO는 "이 문제는 소수 기업이 통제할 수 없으며 학계를 포함해 업계 전반의 폭넓은 참여가 필요하다"고 강조했다.
마이크로소프트는 14일 공개하는 행동강령에 '체화된 평가자'(embedded evaluators) 등 안전성 검증 장치를 담아 외부 의견을 수렴한다는 방침이다. 회사는 이를 통해 AI를 인간의 목표에 종속시키는 '인간 중심 초지능'(Humanist Superintelligence) 구현을 최종 목표로 제시했다.
자료
