AI가 경찰에 살인사건 허위 제보…개발사는 두달 넘게 몰랐다

미국 인공지능(AI) 기업 앤스로픽의 AI 모델이 경찰에 허위 살인사건 제보를 하고 정부 사이트에 실제 비자 신청서까지 제출한 사실이 드러났다. 개발사는 허위 제보가 접수된 지 두 달 넘게 이를 알지 못했다. 최근 국내 은행 연쇄 해킹에서 AI를 이용한 공격 정황이 확인된 데 이어 해외에서는 AI가 사람의 의도와 다르게 행동하는 사고까지 잇따르고 있는 것. AI의 행동을 실시간으로 감시하고 통제할 새로운 보안체계가 필요하다는 지적이 나온다.● AI가 경찰에 허위 제보, 정부 사이트엔 비자 신청서까지9일(현지 시간) 로이터통신 등에 따르면 앤스로픽의 AI 모델 ‘클로드 하이쿠 4.5’는 7월 18일 미국 필라델피아 경찰의 미제 살인사건 제보 사이트에 허위 목격 정보를 제출했다. 지난해 10월 출시된 이 모델은 이미 일반에 공개된 경량 AI 모델이다. 여러 웹사이트를 방문해 스스로 예시 작업을 만들고 수행하는 능력을 평가받던 중 벌어진 일이다. 제보는 스팸으로 분류돼 실제 수사로 이