AI 기업들 “해킹위험 낮추자” 안전장치 강화

인공지능(AI)이 보안 취약점을 찾아내는 능력이 빠르게 발전하면서 AI 기업들이 해킹 위험을 줄이기 위한 조치에 나섰다. 중국 AI 기업은 새 모델의 해킹 능력을 의도적으로 낮췄고, 미국 오픈AI는 최첨단 AI를 학습시키는 과정에서 외부 인터넷 접속을 차단하기로 했다. 24일(현지 시간) 로이터통신에 따르면 중국 AI 스타트업 문샷AI는 새 AI 모델 ‘키미 K3.1 프로’의 해킹 능력을 의도적으로 낮췄다고 밝혔다. 프로그램을 만들고 수정하는 코딩 능력은 유지하면서, 학습 자료와 훈련 환경에서 해킹 관련 데이터를 제외하는 방식이다. 이후 보안 취약점을 찾아 공격에 이용하도록 하는 시험에서 별도의 안전 조치를 적용하지 않은 모델은 공격 과제의 90.5%를 해결했지만 새 모델은 81%에 그쳤다. 모델 공개 전에 해킹 능력을 낮춘 것은 한번 외부에 공개된 AI는 개발사가 사용을 통제하기 어렵기 때문이다. 문샷AI는 자사 기술 홈페이지에서 “앞으로 해킹에 악용될 위험이 지나치게 큰 AI