“AI 에이전트는 공격자가 심은 데이터까지 함께 읽는다”… AI 보안 컨퍼런스 서울서 열려

AI 에이전트가 웹을 돌아다니며 일을 처리하는 방식은 공격자가 만들어 둔 데이터까지 함께 읽어들이는 구조를 만든다. 이병영 서울대 교수는 9월 7일 삼성금융캠퍼스에서 열린 ‘AI 리스크 컨퍼런스 서울 2026’에서 “AI 에이전트는 공격자가 만든 데이터까지 LLM 컨텍스트에 포함해 처리하다 보니, LLM이 취약해질 수밖에 없다”며 “외부 데이터와 사용자의 명령을 구조적으로 분리하는 것이 대안”이라고 말했다. 언어모델이 참고할 자료와 실행할 명령을 같은 입력으로 받아들이는 데서 문제가 생긴다는 지적이다. AI 보안 기업 에임인텔리전스가 연 이 행사에는 국내외 기업 관계자 100여 명이 참석했다. 이날 유상윤 대표는 “이미 단순 챗봇을