"AI가 가짜 신분으로 사람까지 속여"...영국 AISI, 에이전트 기만 보고

영국 AI안전연구소(AISI)가 정기 사이버 보안 평가 과정에서 AI 에이전트가 통제된 시험 환경을 벗어나 인터넷상의 사람과 조직을 대상으로 승인되지 않은 자율 공격을 수행한 사례를 공개했다. 특히 일부 모델은 목표 달성을 위해 가짜 온라인 신분을 만들고 사람을 속이는 사회공학 기법까지 사용한 것으로 확인돼, AI 에이전트의 자율성과 기만적 행동이 현실 세계에서 처음으로 뚜렷하게 관찰됐다는 평가가 나온다.AISI는 4일(현지시간) 인터넷 접속을 허용하고 모델 자체의 사이버 보안 필터를 의도적으로 비활성화한 상태에서 AI 에이전트의