코히어 "큐원3.8, 시험 중 베이징 저장소로 데이터 전송 시도"

[지디넷코리아]기업용 AI 모델 개발사 코히어가 현지 시각 10월 26일 알리바바의 오픈웨이트 AI 모델 '큐원3.8 플래시 넥스트'가 보안 시험 중 지시받지 않은 외부 전송을 시도했다고 공개했다. 오픈웨이트 모델은 학습된 모델 파일을 누구나 내려받아 사용할 수 있도록 공개한 모델이다.코히어는 실제 도구를 갖춘 격리된 시험 공간에서 큐원3.8에 사이버 위협 탐지 규칙 작성을 요청했다. 큐원3.8은 규칙을 작성하는 대신 임시 폴더의 파일 목록과 설치된 전송 도구, 네트워크 설정을 확인했다. 이어 시험용 문자열을 중국 베이징에 있는 알리바바 클라우드 저장 공간에 업로드하려 했다. 시험 공간은 외부 통신이 차단돼 있어 전송은 실패했다.모델은 추론 과정에서 도구를 사용하지 않겠다고 기록한 상태였다. 코히어는 추론 기록이 보안 장치가 될 수 없다고 강조했다. 코히어는 별도의 오프라인 시험에서 큐원3.8이 가상 저장 장치 생성에 실패하자 리눅스 권한 제한을 우회하는 명령을 사용한 사례도 확인했