엔비디아는 28일(현지시간) AI 에이전트가 통제를 벗어나 이상 작동하는 것을 감시·차단하는 '오픈 에이전트 세이프티 플랫폼'을 공개했다. 마이크로소프트, 시스코, JP모건체이스, 액센츄어, 레노버, 앤스로픽 등 100여개 기업이 동참했다.
이 플랫폼은 에이전트의 이탈을 막는 오픈소스 샌드박스 소프트웨어 '오픈셸'과, 엔비디아의 블루필드-4 프로세서 기반 하드웨어 모니터링 시스템 '센트리'로 구성됐다.
오픈AI·구글·아마존은 공식 불참
오픈AI와 구글, 아마존, 애플은 이번 플랫폼에 공식적으로 이름을 올리지 않았다. 다만 오픈AI는 플랫폼 구성 요소인 '오픈셸' 개발에는 엔비디아와 협력하고 있다고 밝혔다. 오픈AI 샘 알트먼 최고경영자는 29일 이번 플랫폼에 대해 긍정적으로 평가하면서도 AI 에이전트 위협에 대한 완전한 해법은 아니라고 말했다.
자료
