메타, 아동 성착취물 유도 광고 탐지에 LLM 도입

[지디넷코리아]메타가 현지 시각 10월 7일 올해 상반기 페이스북과 인스타그램에서 아동 성착취 콘텐츠 3,320만 건에 조치했다고 발표했다. 이 가운데 97% 이상은 이용자 신고 전에 자체 시스템이 먼저 찾아냈다. 인도에서는 같은 기간 530만 건에 조치했고, 98% 이상을 신고 전에 탐지했다.메타는 정상 광고처럼 보이지만 이용자를 외부 불법 사이트로 유도하는 광고를 찾는 대형언어모델(LLM) 시스템을 도입했다. 메타는 이 수법을 '사인포스팅(signposting)'이라고 부르며, 탐지를 피하려는 이들이 최근 사용하기 시작한 방식이라고 설명했다. 광고 자체에는 불법 콘텐츠가 없어도 아동 성착취물을 게시한 사이트로 연결되는 경우가 있어, 메타는 광고 내용뿐 아니라 광고가 이용자를 보내는 목적지까지 확인한다. 규정을 어긴 목적지는 차단하고 광고를 집행한 계정도 제재한다.메타는 기존 시스템이 놓친 콘텐츠를 찾기 위해 AI 검사를 추가했고, 자사 안전장치를 직접 공격해 약점을 찾는 '레드팀