오픈AI "AI 안전 확신 못 해…'정렬 실패' 사례 수시 공개할 것"

오픈AI가 AI 모델에서 발생하는 예상치 못한 행동이나 인간의 의도에서 벗어난 '정렬 실패(misalignment)' 사례를 추적·조사하고 정기적으로 공개하기 위한 새로운 보고 체계를 마련했다. AI의 기능이 빠르게 발전하는 가운데 안전성과 투명성에 대한 우려가 커지자 관련 사례를 보다 신속하게 공개하겠다는 취지다.오픈AI는 16일(현지시간) 새로운 정렬 실패 보고 프레임워크를 공개하고 최근 6개월간 모델의 훈련과 평가 과정에서 관찰한 문제 행동 6건을 함께 발표했다.그동안 여러 사례를 하나의 보고서로 묶거나 새로운 모델의 시스템