In sintesi: OpenAI pubblica MRC, un nuovo protocollo di rete open source che elimina i colli di bottiglia nei supercomputer da 100.000 GPU.
Su un supercomputer da 100.000 GPU ad Abilene, Texas, un protocollo di rete sconosciuto al grande pubblico stava già girando in produzione da due anni — addestrandoci sopra i modelli che alimentano ChatGPT. Ieri OpenAI lo ha reso pubblico. Si chiama MRC — Multipath Reliable Connection — ed è progettato per risolvere il problema che, a questa scala, brucia più tempo di calcolo di qualsiasi altro: la rete che rallenta, si inceppa, o cede nel momento sbagliato.
Il collo di bottiglia che nessuno cita nei comunicati stampa
Costruire un modello AI di grandi dimensioni richiede che migliaia di GPU lavorino all’unisono, scambiandosi dati in continuazione. Un singolo step di training può coinvolgere milioni di trasferimenti. Se anche uno solo arriva in ritardo, l’intero job si ferma ad aspettare. Le GPU costose restano ferme. È quello che in gergo si chiama straggler effect: il ritardatario che blocca il gruppo.
Il problema si aggrava con la scala. Le reti tradizionali basate su RoCEv2 — RDMA over Converged Ethernet v2, lo standard che permette alle GPU di accedere direttamente alla memoria di altri nodi senza passare per il processore centrale — reggono bene fino a un certo punto. Ma i cluster AI lavorano con un’utilizzazione dei link tra il 70 e l’80 per cento, contro il 30-50 per cento delle reti cloud normali. A quella densità di traffico, i pacchetti si accumulano sugli stessi percorsi mentre altri rimangono vuoti: hotspot di congestione, latenza imprevedibile, GPU che aspettano.
MRC nasce per risolvere esattamente questo. Il principio è diretto: invece di trattare un’interfaccia di rete da 800 Gb/s come un singolo canale, la si divide in link più piccoli collegati a switch diversi. Un’interfaccia si connette a otto switch separati, costruendo otto reti parallele da 100 Gb/s ciascuna. I pacchetti vengono distribuiti dinamicamente su centinaia di percorsi disponibili — tecnica chiamata packet spraying — e se un percorso cade, il traffico viene reindirizzato in microsecondi, in hardware, senza che il software debba accorgersene.
Due anni di lavoro, un consorzio insolito, una specifica aperta
Quello che colpisce di MRC non è solo cosa fa, ma chi lo ha fatto e come. OpenAI ha lavorato con AMD, Broadcom, Intel, Microsoft e NVIDIA per svilupparlo nel corso di due anni. Non è una partnership di marketing: il protocollo è già in produzione sui supercomputer GB200 di OpenAI, incluso il sito con Oracle Cloud Infrastructure ad Abilene e nei supercomputer Fairwater di Microsoft. È stato usato per addestrare modelli reali — tra cui quelli che alimentano ChatGPT e Codex.
La specifica è stata rilasciata attraverso l’Open Compute Project, il consorzio fondato da Facebook nel 2011 per condividere design di infrastrutture tra i grandi operatori. Chiunque può ora leggerla, implementarla, costruirci sopra. Il supporto hardware è già presente negli switch NVIDIA Spectrum-4 e 5, e — in collaborazione con Arista — negli switch Broadcom Tomahawk 5. AMD ha già validato il protocollo su cluster di test con un grande cloud provider.
Mark Handley, networking lead di OpenAI, ha spiegato che l’industria ha raggiunto un punto in cui vale la pena stabilire standard aperti, invece di lasciare che ogni grande azienda sviluppi la propria soluzione proprietaria. MRC si accoppia con SRv6 — IPv6 Segment Routing — un meccanismo che codifica il percorso esatto direttamente nel pacchetto: gli switch fanno meno lavoro, consumano meno energia, la rete diventa più prevedibile.
La mossa strategica che OpenAI non ha messo nel comunicato
C’è un dettaglio che vale la pena notare. OpenAI ha scelto di rendere MRC uno standard aperto proprio mentre accelera il progetto Stargate — la sua spinta per costruire infrastruttura AI su scala senza precedenti. L’azienda ha dichiarato di aver superato 10 gigawatt di capacità infrastrutturale garantita, aggiungendo più di 3 GW negli ultimi novanta giorni.
A quella scala, un protocollo proprietario sarebbe un problema, non un vantaggio. OpenAI ha bisogno che AMD, Broadcom, Intel, NVIDIA e una dozzina di cloud provider costruiscano hardware compatibile. Rendere MRC uno standard aperto è il modo più rapido per creare un ecosistema. Non è altruismo tecnologico: è ingegneria dell’ecosistema. La specifica aperta abbassa le barriere per i fornitori, aumenta la concorrenza sull’hardware compatibile, e riduce la dipendenza da qualsiasi singolo vendor. La topologia supportata scala fino a 64.000 NIC con due tier di switch, e raggiunge 100.000 GPU con quattro tier. Sono esattamente i numeri di Stargate.
Cosa cambia per chi costruisce infrastruttura AI
Per chi opera cluster di training di grandi dimensioni, MRC offre tre vantaggi concreti:
- Resilienza ai guasti in microsecondi: un link che cade non interrompe il training, il traffico viene reindirizzato automaticamente in hardware prima che il software si accorga del problema.
- Distribuzione uniforme del traffico: il packet spraying elimina gli hotspot di congestione che affliggono RoCEv2 ad alta utilizzazione.
- Controllo semplificato: SRv6 riduce la complessità del control plane, alleggerisce il carico sugli switch e semplifica la gestione operativa.
Ron Westfall di HyperFrame Research ha sintetizzato la portata del cambiamento con una frase precisa: OpenAI sta trattando l’intero fabric AI come un sistema fluido unico, invece che come una serie di connessioni isolate. L’infrastruttura smette di essere una somma di cavi e switch, e diventa un tessuto che si auto-ripara.
Perche’ e’ importante
MRC ridefinisce il modo in cui i supercomputer AI gestiscono la comunicazione interna, trasformando un collo di bottiglia cronico in un sistema resiliente e scalabile. Renderlo uno standard aperto accelera l’adozione industriale e abbassa i costi dell’hardware compatibile per tutti gli operatori. Il networking è diventato il vero campo di battaglia dell’infrastruttura AI: chi controlla lo standard, orienta la direzione dell’intero settore.
