AI 에이전트 허용 범위 벗어나는데...국내서 행위 기반 안전기준 만든다

AI 에이전트의 행동을 평가할 안전 기준 마련 작업이 국내에서도 시작된다.한국전자통신연구원(ETRI)은 7일 오후 3시 '소프트웨어 개발·코드 실행 에이전틱 AI 행위 기반 위험 유형 분석 및 평가 기준 도출 및 사례 적용' 연구 용역 접수를 마감한다. 공공서비스에 활용되는 AI 에이전트의 행위 기반 위험을 분석하는 연구도 별도 추진한다.두 사업은 모두 행위를 기반으로 AI 에이전트를 판단한다. 이용자 질문에 답하는 생성형 AI와 달리 자율적으로 목표를 수행하기 위해 움직이는 에이전트의 특성을 고려했다. AI 에이전트는 업무 과정에