다리오 아모데이 앤스로픽 최고경영자(CEO)가 9월12일(현지시간) 약 3500자 분량의 에세이 '프런티어의 속도를 늦춰야 한다(We Must Pace the Frontier)'를 공개하고, 인공지능(AI) 개발 속도를 인위적으로 늦추고 독립된 외부 평가자를 상시 투입해 안전성을 검증받아야 한다고 제안했다. 같은 날 샘 올트먼 오픈AI CEO는 "최근 몇 주간 오픈AI 내부에서도 핵심 논의 주제였다"며 "독립 평가자에게 직원 수준 접근권을 주는 방안에 동의하며 오픈AI도 동일하게 시행하겠다"고 밝혔다. 일론 머스크 xAI 대표는 자신의 소셜미디어에 "아모데이가 옳다"는 글을 올려 동조했다.

3단계 감속안 무엇을 담았나

아모데이가 제시한 방안은 세 갈래다. 첫째 AI 기업이 내부 직원과 동등한 접근권을 독립 평가자에게 상시 부여해 안전성 검증을 받는 것, 둘째 민주주의 진영 AI 기업들이 공동으로 안전기준과 개발속도 상한선에 합의하는 것, 셋째 각국 정부가 검증체계를 조율하되 첨단 AI 반도체의 중국 판매는 자제하는 것이다. 앤스로픽은 첫 번째 방안을 독자적으로 우선 시행하겠다고 밝혔다.

아모데이는 미국 CBS 인터뷰에서 "진전 속도가 이 정도로 빠를 줄은 미처 헤아리지 못했다"며 "당장 패닉에 빠질 필요는 없지만 속도를 늦춰야 한다는 경고 신호"라고 말했다. 평소 경쟁관계로 꼽히는 세 빅테크 수장이 하루 만에 감속 필요성에 공개적으로 뜻을 모은 것은 이례적이라는 평가가 나온다.

자료