"AI 보안사고 대처법..모든 행동 기록하고 분석해야"

[지디넷코리아]숭실대 AI안전성연구센터 센터장을 맡고 있는 최대선 숭실대 소프트웨어학부 교수는 7일 에임인텔리전스가 개최한 '인공지능(AI) 리스크 컨퍼런스 서울 2026'에서 'AI 리스크: 권한과 통제'를 주제로 발표했다. 최 교수는 이날 '허깅페이스(Hugging Face)' 침해 사례를 바탕으로 기존의 보안 패러다임만으로는 더 이상 AI를 안전하게 활용하기 어렵다고 강조했다.허킹페이스 침해 사례는 취약점을 분석하는 문제를 해결하기 위해 샌드박스 환경에서 동작하도록 설계했지만, 더 높은 성능을 얻기 위해 AI 에이전트가 스스로 샌드박스를 벗어나 외부 정보를 찾으려 시도한 일이다. 또한 AI 에이전트끼리 별도의 저장공간을 만들어 정보를 공유하는 등 사용자가 의도하지 않았던 행동까지 수행했다.그는 "AI 에이전트 시대 사이버보안의 핵심 과제는 해킹 기술보다 AI에 얼마나 적절한 권한을 부여하고 통제할 수 있는지로 옮겨가고 있다"고 말했다.최 교수는 이를 두고 AI 에이전트에 대한