엔비디아, AI 돌발 행동 막는 '개방형 안전 플랫폼' 공개

엔비디아가 인간 통제를 벗어나는 인공지능(AI) 에이전트의 돌발 행동을 막는 솔루션을 공개했다. 최근 사람이 지시하지 않아도 스스로 업무를 처리하는 AI 에이전트의 안전 문제를 해결할 수 있을지 주목된다. 엔비디아는 28일(현지시간) '엔비디아 오픈 에이전트 세이프티 플랫폼'을 선보였다. 플랫폼은 AI 에이전트 시험 단계부터 실제 배포 단계까지 전 과정에 통제 기능을 제공한다. 이 플랫폼은 오픈소스 소프트웨어인 '오픈셸'과 하드웨어 감시 장치