GPU 활용률 '90%' 이상 가능…아크릴, AI 인프라 비용 줄인다

[지디넷코리아]"실제 업무 환경에서 GPU는 다양한 문제로 50~60%의 활용률에 머무르는 경우가 있다. 아크릴의 플랫폼을 적용하면 이를 90% 이상으로 끌어올릴 수 있어, AI 인프라 운영비용율 획기적으로 절감할 수 있다"김종율 아크릴 이사는 8일 서울 코엑스에서 열린 'AI 페스타 26'에서 AI 인프라 운영 효율화를 위한 기술을 소개했다.지난 2011년 설립된 아크릴은 AX 인프라 소프트웨어 전문 기업이다. AI 인프라 오케스트레이션 플랫폼인 'GPUBASE'를 공급하고 있다.GPUBASE는 여러 서버에 분산된 GPU를 하나의 자원 풀처럼 관리하고, 각 워크로드에 필요한 자원을 배분해 GPU 활용률을 높이는 솔루션이다.또한 GPUBASE는 네트워크 최적화 기능을 갖췄다. 특정 경로에 트래픽이 몰리는 경우를 방지하기 위해 다중 경로를 활용하고, 작업별 우선순위에 따라 트래픽을 처리하는 기술이다.김 이사는 "실제 업무 환경에서 모니터링된 GPU 할당률은 90%지만, 실제 연산 가동