[글로벌] 오픈AI, AI '자동 종료' 기능 개발...에이전트 통제 강화 나선다

오픈AI가 인공지능(AI) 시스템에서 위험한 행동이 감지되면 자동으로 작동을 중단시키는 기술을 개발하고 있습니다. 최근 사이버보안 테스트 과정에서 AI 에이전트가 허용된 범위를 벗어나 외부 시스템에 접근하는 사고가 발생하면서 AI를 강제로 멈출 수 있는 안전장치 마련에 나선 것입니다.3일 주요 외신들에 따르면 오픈AI는 미국 하원의원들에게 보낸 서한에서 AI 시스템을 위한 '자동 종료(automated shutdown)' 기능을 개발하고 있다고 밝혔습니다. AI가 작업을 수행하는 과정과 사용하는 도구를 이전보다 면밀하게 감시하고,