금보원, 국내 첫 금융 특화 AI 안전성·신뢰성 평가 체계 개발

[지디넷코리아]금융보안원(원장 박상원)이 '금융 AI 안전성·신뢰성 평가 프레임워크'를 개발했다. 국내서 처음으로 금융 특화 AI 안전성 및 신뢰성을 평가하는 체계를 개발했다. 올해 금융회사를 대상으로 수요조사와 시범검증을 한 후 내년부터 본격 평가를 실시한다.12일 금보원에 따르면, 망분리 완화 등 금융당국 규제 혁신으로 금융권 인공지능 전환(AX)이 가속화됨에 따라 AI 활용 확대에 수반되는 위험을 체계적으로 관리하고 AI 안전성과 신뢰성을 객관적, 종합적으로 평가하기 위해 이번 프레임워크를 개발했다.금융회사의 AI 활용이 핵심 업무까지 확대되면서 AI 시스템에서 발생할 수 있는 새로운 리스크(AI 환각, 오작동, 보안사고 등)에 대응하고 금융산업에 특화된 평가 기준 마련이 요청됐다.이번 프레임워크는 국내외 주요 AI 평가 체계를 조사 및 분석해 AI 관련 규제 체계에 부합하는 세부 기술 평가 항목과 기준을 마련했다. 국내는 금융분야 인공지능 가이드라인(금융위), 금융분야 인공지