카카오, AI안전연구소와 AI 안전성 평가 도구 개발

카카오가 인공지능안전연구소와 손잡고 ‘안전하고 신뢰할 수 있는 AI 생태계 조성’에 협력한다.카카오(대표 정신아)는 지난 28일 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 MOU를 체결했다고 밝혔다.카카오는 지난해 인공지능안전연구소와 함께 자체 언어모델 '카나나-1.5-9.8B'를 대상으로 공동 안전성 평가를 진행했으며, 유사 규모의 해외 모델과 비교해 높은 수준의 안전성을 확인한 바 있다. 양사는 이번 MOU를 계기로 협력을 더욱 확대하고, AI 모델과 에이전트를 대상으로 객관적이고 체계적인 안전성 평가