베슬AI, 업스테이지 ‘솔라 프로4’ 글로벌 추론 운영 맡아

베슬AI는 한국과 유럽, 미국의 데이터센터에 있는 GPU 서버로 전 세계 이용자가 솔라 프로4에 보내는 요청을 처리했다고 8일 밝혔다. 이처럼 학습을 마친 AI 모델을 실제 서비스에서 돌려 이용자 질문에 답을 내놓는 과정을 ‘추론(인퍼런스)’이라고 한다. 베슬AI에 따르면 솔라 프로4는 여러 AI 모델을 한곳에서 골라 쓰는 글로벌 LLM 중개 플랫폼 오픈라우터에서 9월 무렵 사용량 3위에 올랐다. 베슬AI는 이 ... 더 읽기