오픈AI와 반도체 기업들이 AI 클러스터용 MRC 프로토콜을 출시했다.

OpenAI, 기술 대기업들과 함께 새로운 네트워크 프로토콜 공개

OpenAI는 AMD, 브로드컴, 인텔, 마이크로소프트, 엔비디아를 포함한 업계 선두 기업들과의 협력을 통해 멀티패스 신뢰성 연결(Multipath Reliable Connection) 또는 MRC 프로토콜을 발표했습니다. 이 새로운 개방형 표준은 대규모 AI 훈련 클러스터의 네트워크 병목 현상을 해결하고 제거하기 위해 오픈 컴퓨트 프로젝트(Open Compute Project)를 통해 공개되었습니다.

프로토콜 개요 및 배포

MRC는 네트워크 인터페이스를 여러 개의 더 작은 링크로 분할함으로써 컨버지드 이더넷(Converged Ethernet)을 통한 RDMA를 향상시킵니다. 이는 병렬 네트워크를 생성하여 단일 데이터 전송이 수백 개의 경로에 분산될 수 있도록 합니다. 이 프로토콜은 이미 OpenAI의 가장 큰 엔비디아 GB200 슈퍼컴퓨터에 배포되어 있으며, 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure) 및 마이크로소프트의 슈퍼컴퓨터를 포함한 시설에서 최첨단 모델 훈련에 사용됩니다.

기술적 및 시장 영향

IPv6 세그먼트 라우팅(IPv6 Segment Routing)을 활용하여 MRC는 발신자가 패킷 경로를 직접 지정할 수 있도록 하여 네트워크 효율성을 향상시킵니다. 이는 마이크로초 단위로 네트워크 장애를 감지하고 우회할 수 있으며, 기존 패브릭(conventional fabrics)이 필요로 하는 수초에 비해 상당한 개선입니다. 이러한 발전은 매주 9억 명 이상이 사용하는 ChatGPT와 같은 서비스를 지원하는 모델의 집중적인 훈련 동안 성능을 유지하는 데 중요합니다.

결론

MRC 프로토콜의 도입은 AI 인프라를 위한 고성능 네트워킹을 표준화하는 데 중요한 진전을 의미합니다. OpenAI와 주요 칩 제조업체 간의 이러한 협력은 더욱 탄력적이고 빠른 훈련 환경을 조성함으로써 더 강력하고 효율적인 AI 모델 개발을 가속화할 것으로 기대됩니다.

자주 묻는 질문

Q: 멀티패스 신뢰성 연결(MRC) 프로토콜이란 무엇입니까?
A: 이는 OpenAI와 그 파트너들이 대규모 AI 훈련 클러스터의 병목 현상을 제거하고 효율성을 향상시키기 위해 설계한 새로운 개방형 표준 네트워크 프로토콜입니다.

Q: MRC 프로토콜에 대해 OpenAI와 협력한 회사는 어디입니까?
A: 파트너십에는 AMD, 브로드컴, 인텔, 마이크로소프트, 엔비디아가 포함됩니다.

출처: Investing.com