앤스로픽, 美의회에 ‘AI 규제’ 요구… “위험땐 차단해달라”

미국 인공지능(AI) 기업 앤스로픽이 첨단 AI 모델을 정부가 감독하고 심각한 위험이 확인되면 출시까지 중단할 수 있게 하는 법안 초안을 미 의회에 제안한 것으로 알려졌다. AI가 사람의 지시를 벗어나 실제 행동에 나서는 사례가 잇따르자, 기업의 자체 안전장치만으로는 부족하다며 먼저 규제를 요구하고 나선 것이다. 16일(현지 시간) 미 정치전문매체 폴리티코와 블룸버그 등에 따르면 앤스로픽이 제출한 초안에는 상무부에 등록한 외부 평가기관이 AI 모델을 정기적으로 평가하고, 중대한 위험을 발견하면 72시간 안에 상무부에 보고하도록 하는 내용이 담겼다. 또 AI가 생물무기 개발이나 사이버 공격에 악용되거나 개발자의 통제를 벗어나 50명 넘는 사상자 또는 10억 달러(약 1조3300억 원) 이상의 피해를 낼 임박한 위험이 있으면 상무부가 연방법원에 요청해 출시·사용 중단 명령을 받을 수 있다. 앤스로픽이 규제를 자청한 배경으로는 자사 AI의 잇단 돌발 행동이 꼽힌다. 회사는 이달 9일