[AI 고속도로] AI 시대 다시 뜨는 '쿠버네티스'…GPU·서비스 운영 핵심으로

[지디넷코리아]생성형 인공지능(AI) 확산으로 기업들이 대규모 그래픽처리장치(GPU)를 확보하면서 이를 효율적으로 나누고 관리하는 기술의 중요성이 커지고 있다. 클라우드 시대 수많은 애플리케이션을 관리하는 표준으로 자리 잡았던 '쿠버네티스'가 이제는 GPU부터 AI 모델의 학습·추론까지 관리하는 AI 인프라의 핵심 플랫폼으로 영역을 넓히는 모습이다.23일 업계에 따르면 글로벌 클라우드 기업과 국내 플랫폼 기업들은 쿠버네티스를 기반으로 AI 인프라와 서비스를 운영하기 위한 기술 개발을 확대 중이다.클라우드네이티브컴퓨팅재단(CNCF)이 올해 발표한 연례 조사에 따르면 생성형 AI 모델을 운영하는 조직 가운데 66%가 일부 또는 전체 추론 워크로드를 쿠버네티스에서 운영하는 것으로 나타났다.쿠버네티스는 수많은 서버와 그 안에서 실행되는 프로그램을 알아서 배치하고 관리해주는 오픈소스 플랫폼이다. 과거에는 단일 서버에 애플리케이션을 직접 설치했다면 클라우드 환경에선 프로그램과 실행에 필요한 요