[AI TCO 함정①] 토큰 비용이 전부 아냐…기업 예산 갉아먹는 '데이터 통합'

[지디넷코리아]기업의 인공지능(AI) 도입 비용이 토큰 사용료를 넘어 소프트웨어 구독료와 데이터 통합, 인프라 운영비 전반으로 번지고 있다. AI 기능이 기존 서비스형 소프트웨어(SaaS)에 추가되면서 사용량에 따라 비용이 달라지고 예산 예측도 어려워지는 분위기다. 데이터 정비와 검색증강생성(RAG) 구축, 사내 시스템 연동 비용도 AI 도입 부담을 키우는 요인으로 꼽힌다. AI 서비스 이용이 늘면서 서버와 스토리지, 네트워크 등 인프라 운영비까지 동반 상승하고 있다. 이에 지디넷코리아는 기업들이 AI 도입 과정에서 놓치기 쉬운 비용 구조와 예산 관리의 사각지대를 3회에 걸쳐 살펴본다. [편집자주]기업들이 인공지능(AI) 에이전트 비용을 줄이기 위해 토큰 사용료에 몰두하고 있지만, 정작 더 큰 부담은 에이전트를 도입하기 전 데이터 관리·통합 단계에서 발생한다는 지적이 나오고 있다. 흩어진 사내 데이터를 정리하고 검색증강생성(RAG)을 구축해 기존 업무 시스템과 연결해야 하는 만큼 사