[이프 카카오] "실행하는 AI 위험성까지"...카카오, 에이전틱 AI 시대 '안전망' 확보 총력

카카오가 가속화되는 '에이전틱 인공지능(AI)' 시대에 맞춰 AI 안전성 강화에 나선다. 자체 AI 안전성 평가 플랫폼을 구축해 모델별 위험성을 검증하고, 구글 딥마인드와의 협력을 통해 AI 생성 콘텐츠의 식별 기술도 고도화했다. 이와 함께 이용자와 AI 혹은 AI 에이전트 간 상호작용과 작업 실행 과정에서 발생할 수 있는 새로운 위험까지 관리하는 'AI 세이프티 이니셔티브 2.0'을 통해 AI 위험성 전반을 감지하고 안정성을 확보한다는 계획이다.13일 카카오는 경기도 용인시 카카오 AI 캠퍼스에서 열린 개발자 컨퍼런스 '이프 카카