메타, AI 전용 통신 규격 ‘메타RoCE’ 공개…수십만 GPU 네트워크 병목 잡는다

메타가 수십만 개의 GPU가 연결된 초대형 AI 클러스터의 네트워크 병목을 해결하기 위해 기존 RDMA(Remote Direct Memory Access) 기술을 전면 재설계한 새로운 통신 프로토콜을 공개했다. AI 모델 규모가 커지면서 수만 개의 가속기가 동시에 데이터를 교환하는 AI 워크로드 특성상 GPU 간 데이터 전송 속도와 안정성이 전체 성능을 좌우하기 때문이다.메타는 24일(현지시간) 대규모 AI 모델의 학습과 추론 과정에서 발생하는 네트워크 병목을 해결하기 위해 AI 워크로드에 특화된 새로운 RDMA 전송 프로토콜 ‘메