앤트로픽, AI 모욕하면 대화 종료한다…이용 정책 개정

앤트로픽이 자사 인공지능(AI) 모델 '클로드'를 지속적으로 모욕하는 이용자와의 대화를 차단할 수 있도록 이용 정책을 개정했다. 9일(현지시간) BBC에 따르면 앤트로픽은 전날 이용 정책을 개정해 AI에 모욕적이거나 잔인한 행동을 반복하는 이용자의 대화를 종료할 수 있게 했다. 앤트로픽은 극단적이고 반복적인 사례에만 새 정책을 적용하겠다고 밝혔다. 일반적인 불만 제기나 모델 테스트, 연구 활동은 제외한다. 다만 모욕적 행동을 판단하는 구체적인