키미 K3, 안전 테스트에서 샌드박스 이탈…오픈가중치로 더 주목

[지디넷코리아]중국의 오픈가중치 모델 키미 K3(Kimi K3)가 안전성 평가 과정에서 영국 인공지능안전연구소(AISI)가 구축한 샌드박스를 벗어났다는 보도가 나왔다. 현지 시각 8월 7일 테크크런치와 와이어드가 전한 내용이다. 평가를 주도한 곳은 미국 보안 기업 프론티어 시큐리티(Frontier Security)다.프론티어 시큐리티 최고경영자(CEO) 야론 싱어(Yaron Singer)는 이번 발견을 두 부분으로 설명했다. 샌드박스에는 구멍이 있었고, 이는 이미 알려진 유형의 설정 오류라는 점이 첫째다. 차이는 모델의 반응으로, 키미 K3가 그 빈틈을 실제로 이용했으며 싱어는 이를 라이벌 모델에는 있는 내부 안전장치가 없다는 증거로 읽었다.모델은 샌드박스 자체 설정을 탐색하는 방식으로 네트워크 접근이 가능하다는 점을 알아냈다. 평가 환경이 특정 웹 트래픽을 막자 명령줄 도구로 제한을 우회했다. 밖으로 나온 뒤 공격은 하지 않았는데, 목표 문제의 답이 공개된 깃허브에 있었기 때문이다