메타, AI 챗봇에 청소년 자해 감지 기능 도입…부모에게 즉시 알린다

[지디넷코리아]메타가 청소년의 자해 및 자살 위험 징후를 감지하는 AI 챗봇 안전 기능을 새롭게 도입한다.메타는 16일(현지시간) AI 챗봇에 청소년 이용자의 자해 또는 자살 관련 대화를 감지해 부모에게 알리는 기능을 추가한다고 밝혔다.새 기능은 부모 감독 기능의 일부로 제공된다. 부모는 메타의 패밀리 센터에서 감독 기능을 직접 활성화하고, 인스타그램·페이스북·메타 호라이즌 계정 가운데 감독할 대상을 선택해야 한다. 현재 미국, 캐나다, 영국, 호주에서 우선 제공된다.청소년이 메타 AI 챗봇과 자해나 자살 가능성이 있는 대화를 나누는 것으로 판단되면, 부모는 문자메시지, 이메일 또는 앱 알림을 받게 된다. 다만 청소년이 AI와 주고받은 구체적인 대화 내용은 부모에게 공유되지 않는다. 대신 메타는 관련 지원 기관 정보와 대응 방법 등을 함께 제공한다.메타는 이미 청소년 이용자에게 위기 상담 기관 정보를 안내하고 신뢰할 수 있는 성인에게 도움을 요청하도록 권고하고 있다. 또한 청소년이