'클로드'에 폭력 협박 남겼다 체포..."AI 챗봇은 일기장 아니다"

AI 챗봇을 외부로 공개되지 않는 개인 비밀 일기장처럼 활용하며 범죄를 계획하거나 사법 기관을 위협하는 사용자들이 실제 경찰에 체포되는 사례가 잇따르고 있다. 특히 이 문제가 집중됐던 오픈AI의 '챗GPT'에 이어, 최근에는 AI 안전을 최우선 가치로 내세워 온 앤트로픽의 '클로드'에서도 유사 사건이 발생했다.2일(현지시간) 걸프 코스트 뉴스에 따르면, 미국 플로리다주 리 카운티 보안관 사무소는 보니타 스프링스에 거주하는 30세의 칼리 미셸 헬러를 강력 범죄 협박 혐의로 체포했다.수사 기록에 따르면 헬러는 9월26일 클로드 대화창에