리벨리온, 국산 NPU로 SKT 독자 모델 'A.X K1' 구동 성공

리벨리온(대표 박성현)은 SK텔레콤의 독자 AI 파운데이션 모델 '에이닷엑스 케이원(A.X K1)'을 자체 신경망처리장치(NPU) 서버에서 구동하는 데 성공했다고 23일 밝혔다.A.X K1은 5190억개 매개변수의 대형언어모델(LLM)로 추론 시 330억개만 활성화되는 전문가 혼합(MoE) 구조로 설계됐다.리벨리온은 이에 맞춰 소프트웨어를 최적화하고, 반도체 칩에 효율적인 방식으로 병렬 처리하는 분산 기술을 구현했다. 그 결과, NPU 단일 서버만으로도 고성능 GPU 서버에 준하는 인프라 역량을 확인했다는 설명이다.이를 기반으로 다