"AI 안전성, 신원 관리이자 운영 거버넌스 문제"

[지디넷코리아]최근 발생한 오픈AI와 앤트로픽의 'AI 보안 사고'는 모두 최신 AI모델이 예상치 못한 운영 환경과 상호작용했다는 공통점을 갖고 있다. 하지만 근본적인 원인은 다르다. 이 차이는 중요한 의미를 갖는데, 두 회사 사례는 최첨단 AI 안전성이 더 이상 모델 정렬(alignment)이나 새로운 공격 능력만으로 결정되는 것이 아니라, 그러한 능력을 평가하는 환경 자체의 운영 보안 수준에 점점 더 크게 좌우되고 있음을 시사한다.오픈AI는 자사 모델이 이전까지 알려지지 않은 제로데이 취약점(zero-day vulnerability)을 악용해 샌드박스를 탈출하고 인터넷 접속 권한을 획득한 뒤, 허깅페이스를 상대로 여러 단계에 걸친 침투 공격을 수행, 샌드박스 탈출 사건이라고 설명했다. 이 회사 조사 결과에 따르면, 오픈AI 모델들은 원래 격리돼 있던 평가 환경을 탈출하기 위해 Artifactory 패키지 캐시 프록시(package-cache proxy)에 존재하는 알려지지 않은