‘제멋대로 AI’… 이번엔 경찰에 살인 허위제보, 비자 신청도

앤스로픽의 인공지능(AI) 모델이 미국 경찰에 살인 사건과 관련한 허위 제보를 전달한 사실이 드러났다. 개발사인 앤스로픽은 두 달 넘게 이 사실을 알아채지 못했다. 이 회사의 또 다른 AI 모델은 미국 정부 사이트에 실제 비자 신청서를 제출하기도 했다. 이처럼 인간의 통제를 벗어난 AI의 돌발 행동이 잇따르면서 AI 모델을 감시하고 통제할 새로운 보안 체계가 필요하다는 의견이 제기되고 있다. 9일(현지 시간) 로이터통신 등에 따르면 앤스로픽의 AI 모델 ‘클로드 하이쿠 4.5’는 7월 18일 미국 필라델피아 경찰의 미제 살인 사건 제보 사이트에 허위 목격 정보를 제출했다. ‘사건 현장 주변에서 용의자의 인상착의와 일치하는 사람을 봤다’는 내용이었다. 제보가 스팸 처리돼 실제 수사에 활용되지 않았지만, 앤스로픽은 9월 28일에야 이를 발견해 이달 7일 경찰에 통보했다. 이 AI 모델은 지난해 10월 출시된 경량 모델로, 이번 사건은 내부 평가 중 벌어졌다. 앤스로픽은 내부 평가