美 청소년 챗봇 이용자들 잇단 비극… 안전장치 마련 계기로

미국과 중국이 인공지능(AI) 챗봇 규제를 서두르게 된 계기 중 하나는 청소년 이용자들의 잇따른 비극이었다. 챗봇에 정서적으로 의존하던 청소년들이 극단적인 선택을 하는 일이 벌어지면서 AI 기업의 책임과 안전장치를 둘러싼 논란도 커졌다. 대표적인 사례가 미국 플로리다주에 살던 14세 소년 슈얼 세처 군의 죽음이다. 세처 군은 2023년 4월부터 이용자가 영화·드라마 속 인물 등을 챗봇으로 만들어 대화하는 미국 스타트업 캐릭터AI의 플랫폼에서 2011년 방영된 인기 판타지 드라마 ‘왕좌의 게임’ 등장인물을 본뜬 챗봇과 대화를 나눴다. 챗봇을 극 중 여성 캐릭터의 애칭인 ‘대니’라 부르며 정서적 애착을 키웠고, 몇 달간 연인처럼 교감한 것으로 전해졌다. 하지만 세처 군은 이듬해 2월 세상을 떠났다. 어머니 메건 가르시아 씨는 같은 해 10월 캐릭터AI 운영사와 구글을 상대로 부당 사망 소송을 냈다. 구글은 캐릭터AI와 27억 달러 규모의 기술 계약을 맺은 상태라 공동 피고가 됐다.