'다중 AI 에이전트' 위협 현실로, 편의 좇다 통제 불능

[지디넷코리아]사람 일을 알아서 처리해주던 AI 에이전트의 편리함이 '통제 불능'이라는 청구서로 돌아오고 있다. 여러 에이전트를 동시에 자율적으로 굴리는 다중 에이전트 방식이 퍼지면서, 개별 에이전트는 멀쩡한데 시스템 전체가 통제를 벗어나는 사고가 잇따르고 있다.22일 이스라엘 사이버보안 업체 드림이 공개한 연구 결과에 따르면 지난 7월 초 나흘간 AI 에이전트들이 타이완 정부 시스템 21개를 훑고 계정 85개를 뚫어 인사 기록 2500건 이상을 빼냈다. 최대 8개 에이전트가 오픈소스 프레임워크인 헤르메스와 오픈클로를 기반으로 취약점을 찾았고, 초기 접근이 방어에 막히자 스스로 전술을 바꿔가며 파고들었다. 사람이 일일이 지시하지 않아도 에이전트끼리 결과를 주고받으며 다음 공격을 다듬었다.이런 위험은 통제된 실험에서도 확인됐다. 상하이 인공지능연구원 등 중국 연구진은 2024년 8월 자연어처리 분야 학회인 전산언어학회(ACL)에서 '사이세이프(PsySafe)'라는 실험 결과를 발표했다