비드래프트, LLM 추론 가속 엔진 ‘VKAE’ 리더보드·통합 컨테이너 공개

AI 전문 비드래프트(대표 김민식)는 자체 개발 대형언어모델(LLM) 추론 가속 엔진 ‘VKAE(VIDRAFT Kernel Acceleration Engine)’의 성능 리더보드를 공개하고 모델 가중치와 최적화된 서빙 환경을 하나로 묶은 통합 도커(Docker) 컨테이너를 배포한다고 8일 밝혔다.VKAE는 똑같은 GPU 환경에서 기존 표준 서빙 방식보다 데이터 처리량을 최대 23.4배까지 끌어올린 커널 레벨의 추론 가속 엔진이다. 답변 퀄리티는 유지하면서 응답 속도와 처리량을 높인 것이 강점이다.사용자는 복잡한 개발 환경을 구축할