리퀴드 AI, 실시간 추론 엔진 ‘RIPL’ 출시...AI 응답 지연 50ms 미만 겨냥

리퀴드 AI가 AI를 검색과 결제 등 실시간 업무에 적용할 수 있도록 추론 속도를 높인 엔진을 공개했다. 기존 대형언어모델(LLM)의 응답 지연 때문에 고전적인 머신러닝 기법을 주로 사용했던 업무에 해당 엔진을 도입하는 것이 목표다.리퀴드 AI는 22일(현지시간) 실시간 추론 엔진 ‘RIPL(Real-time Inference Pipeline)’을 출시했다고 밝혔다.RIPL은 오픈소스가 아닌 기업 고객을 위한 전용 상용 제품으로 제공되며, 구체적인 도입 가격은 리퀴드 AI 영업팀을 통해 문의해야 한다.리퀴드 AI는 자체 파운데이션