KAIST, AI 미세조정으로 ‘안전성·성능’ 모두 챙기는 학습 프레임워크 개발

한국과학기술원(KAIST, 총장 배충식)은 김창익 전기및전자공학부 교수 연구팀이 대형언어모델(LLM) 미세조정 과정에서 안전성이 훼손되는 문제를 해결하는 ‘버퍼 앤드 리인포스(Buffer-and-Reinforce)’ 학습 프레임워크를 개발했다고 15일 밝혔다. 대형언어모델(LLM)을 개인이나 기업 데이터에 맞게 다시 학습하는 미세조정 과정에서 안전성이 훼손되는 문제를 해결하기 위해서다. AI를 맞춤형으로 학습하면 새로운 업무 능력은 향상되지만, 기존의 안전 규칙이 같이 약화하는 문제가 있었다는 것이다.이에, 연구팀은 탈옥(Jailb