래블업, GPU 넘어 AI 토큰 사용료까지 통합 관리

[지디넷코리아]래블업이 기업이 보유한 GPU를 나눠 쓰도록 관리하는 것을 넘어 여러 AI 모델을 쓸 때 발생하는 토큰 사용량과 비용까지 한 곳에서 관리해주는 서비스를 선보였다.래블업은 6일부터 8일까지 서울 코엑스에서 열리는 'AI 페스타 26'에서 AI 인프라 관리 플랫폼 '백엔드닷AI(Backend.AI)'와 AI 모델 통합 운영 서비스 '컨티넘'을 소개했다.AI를 업무에 도입하려는 기업은 모델을 고르는 일 외에도 해결할 과제가 많다. AI 모델을 돌릴 GPU를 확보해야 하고, 여러 직원과 부서에 자원을 나눠줘야 한다. 외부 클라우드 서비스와 회사 내부 서버를 함께 쓸 경우에는 어느 모델을 이용했는지, 얼마의 비용이 들었는지도 따로 관리해야 한다.래블업은 이 같은 운영 부담을 소프트웨어로 줄여주는 기업이다. 2015년 설립된 래블업은 기업이나 연구기관이 보유한 GPU 등 고성능 컴퓨팅 자원을 여러 사람이 함께 활용하도록 만드는 소프트웨어를 개발해 왔다.주력 제품인 백엔드닷AI는