앤스로픽 “사람 감독 없이 AI가 AI 만들면 안돼”

미국 인공지능(AI) 기업 앤스로픽이 AI가 사람의 감독 없이 더 똑똑한 AI를 마음대로 만들지 못하도록 막는 방안을 검토하고 있다. ‘AI가 AI를 개발하는 능력’이 빠르게 발전하면서 사람이 이를 통제하지 못할 것이란 우려가 커졌기 때문이다. 2일(현지 시간) 로이터통신에 따르면 앤스로픽은 이날 미국 증권거래위원회(SEC)에 이 같은 내용을 담은 수정 상장신고서를 제출했다. 앤스로픽은 지난달 26일 처음 제출한 신고서에서 AI가 더 강력한 AI를 개발할 때 발생할 수 있는 위험을 경고한 데 이어, 이번에는 안전정책 개정을 검토하겠다는 내용을 추가했다. 앤스로픽은 수정 신고서에서 “사람이 제대로 감독하지 못하는 상태에서 AI에 첨단 모델 개발을 전적으로 맡기는 것은 안전하지 않다고 본다”고 밝혔다. 실제로 AI가 차세대 AI 개발에 참여하는 비중은 커지고 있다. 앤스로픽의 자체 조사 결과 올 8월 AI 연구개발 업무 중 26%는 AI가 사람의 감독 아래 대부분을 수행한 것으로 나