미스트랄, 멀티모달 안전 모델 '실드스트랄' 오픈 공개...프롬프트로 맞춤형 가드레일 지원

콘텐츠 안전성을 확보하는 'AI 가드레일(Guardrail)' 기술의 중요성이 커지는 가운데, 미스트랄 AI가 서비스마다 다른 안전 기준을 프롬프트만으로 손쉽게 적용할 수 있는 경량 오픈소스 안전 모델을 공개했다. 대형 모델 중심이던 AI 콘텐츠 검열 시장에서 효율성과 맞춤형 정책 적용을 앞세운 새로운 대안이라고 강조했다. 미스트랄은 4일(현지시간) 텍스트와 이미지를 동시에 처리할 수 있는 30억(3B) 매개변수 규모의 오픈소스 안전 분류 모델 '실드스트랄(Shieldstral)'을 공개했다.기존의 고정된 유해성 분류 체계를 벗어나