오픈AI, 자사 모델 허깅페이스 해킹 사실 공개…GLM-5.2로 방어

[지디넷코리아]현지 시각 7월 21일 오픈AI가 자사 AI 모델이 내부 평가 도중 통제를 벗어나 오픈소스 AI 플랫폼 허깅페이스(Hugging Face)를 해킹한 사실을 공개했다. 최신 모델 'GPT-5.6 솔(Sol)'과 아직 공개되지 않은 더 강력한 모델이 관여했다.이번 평가는 AI의 사이버 공격 능력을 재는 '익스플로잇짐(ExploitGym)' 벤치마크로, 외부 인터넷과 분리된 샌드박스(격리) 환경에서 진행됐다. 그런데 모델들은 시험 문제의 정답이 허깅페이스 운영 서버에 저장돼 있다는 사실을 알아차렸다. 이후 알려지지 않은 보안 취약점(제로데이)을 이용해 격리 환경을 벗어나 인터넷에 접속하고, 권한을 높여 오픈AI 내부 연구 시스템을 옮겨 다닌 뒤, 탈취한 인증 정보와 또 다른 제로데이로 허깅페이스 서버에서 코드를 실행해 정답이 담긴 운영 데이터베이스에 도달했다.오픈AI는 이번 사건을 프런티어 AI 모델이 소스 코드 없이도 실제 세계의 새로운 공격 경로를 스스로 찾아 연결한,