AMD·세레브라스, AI 추론 플랫폼 협력..."프롬프트-토큰 생성 분리로 성능 5배 높인다"

AMD와 세레브라스가 차세대 AI 추론(inference) 플랫폼을 공동 개발한다. AMD의 차세대 랙 스케일 AI 인프라 '헬리오스(Helios)'와 세레브라스의 웨이퍼 스케일 엔진(WSE)을 결합해 추론 과정을 역할별로 분리하는 방식으로, 전력 대비 토큰 생성 성능을 최대 5배 높인다는 목표다.양사는 23일(현지시간) AMD의 헬리오스 랙 스케일 인프라와 세레브라스 WSE를 통합한 분산형(disaggregated) AI 추론 플랫폼을 공동 개발한다고 발표했다. 새로운 플랫폼은 하나의 추론 워크플로 안에서 서로 다른 하드웨어가 각