Waarom AI een nieuw soort supercomputernetwerk nodig heeft — the OpenAI Podcast afl. 18 Why AI needs a new kind of supercomputer network — the OpenAI Podcast Ep. 18

Frontiermodellen trainen is niet zo simpel als meer GPU's toevoegen: één klein probleem en de hele gecoördineerde dans valt uit elkaar. Mark Handley en Greg Steinbrecher van OpenAI bespreken hoe een nieuw ontwerp voor een supercomputernetwerk, gebruikt om enkele van de nieuwste modellen van het bedrijf te trainen, het hele systeem in de pas laat lopen, zelfs met recordaantallen GPU's. Ze leggen Multipath Reliable Connection uit, een nieuw protocol dat OpenAI ontwikkelde met AMD, Broadcom, Intel, Microsoft en Nvidia, en waarom ze het beschikbaar maken voor de hele sector. Hoofdstukken 00:00 Intro 00:39 Hoe Greg en Mark bij OpenAI terechtkwamen 04:34 Waarom AI-training netwerken anders belast 10:05 Knelpunten, storingen en de kosten van wachten 15:19 Hoe Multipath Reliable Connection werkt 18:59 Een protocol dat om storingen heen routeert 25:05 Waarom OpenAI van MRC een open standaard maakt 35:09 Kan AI-rekenkracht naar de ruimte verhuizen?

Training frontier models isn’t as simple as adding more GPUs—one small problem and the whole coordinated dance falls apart. OpenAI’s Mark Handley and Greg Steinbrecher discuss how a new supercomputer network design, used to train some of the company’s latest models, keeps the whole system moving in lockstep, even with record numbers of GPUs. They break down Multipath Reliable Connection, a new protocol OpenAI developed with AMD, Broadcom, Intel, Microsoft, and Nvidia, and why they’re making it available for the whole industry to use. Chapters 00:00 Intro 00:39 Greg and Mark's paths to OpenAI 04:34 Why training AI stresses networks differently 10:05 Bottlenecks, failures, and the cost of waiting 15:19 How Multipath Reliable Connection works 18:59 A protocol to route around failures 25:05 Why OpenAI is making MRC an open standard 35:09 Could AI compute move to space?