앤트로픽, 페이블5 사이버 탈옥 신고 '해커원 버그바운티' 개설

[지디넷코리아]앤트로픽이 최신 모델 페이블5의 사이버 탈옥을 신고받는 버그바운티를 열었다. 해커원(HackerOne) 플랫폼에서 운영한다. 6월 페이블5를 다시 배포하며 미 정부와 맺은 합의의 일부다.방식은 이렇다. 검증된 보안 연구자가 페이블5의 사이버보안 분류기를 우회하는 기법을 찾아 신고한다. 성공한 신고에는 금전 보상을 준다. 적대적 공격이 아닌 책임 있는 공개로 처리한다. 신고 범위는 사이버 탈옥으로 한정된다. 시스템 프롬프트 추출 같은 비(非)사이버 문제는 앤트로픽이 이미 자체 공개하고 있어 제외된다.이 프로그램은 6월 12일 사태에 대한 대응이다. 당시 페이블5의 수출 통제를 부른 아마존발 탈옥은 내부 테스트로 발견됐다. 외부 신고가 아니었다. 공식 신고 창구가 없다 보니 보안 연구 커뮤니티가 찾은 문제를 앤트로픽에 전달할 길이 마땅치 않았다. 버그바운티는 그 통로를 만든 것이다.앤트로픽은 공동 프레임워크도 마련하고 있다. 아마존·마이크로소프트·구글과 함께 탈옥 심각도를