Adónde va Nvidia, no necesita cables

La semana pasada asistí a un evento de medios de Nvidia que incluyó una visita a una ubicación no revelada en Silicon Valley: un edificio sin ningún letrero que lo identificara. Aunque cientos de GPUs montadas en racks trabajaban a toda máquina en tareas reales de IA dentro, Nvidia llama a la instalación “superlaboratorio de ingeniería” en lugar de centro de datos. Entre la IA que se procesaba durante nuestra visita: una versión de prueba del modelo GPT de OpenAI optimizada para la nueva plataforma Vera Rubin de Nvidia, nombrada así en honor a la legendaria astrónoma.

Para fines de exhibición, varias computadoras potentes estaban a la vista en el lobby del edificio. Contienen GPUs, CPUs y componentes de soporte, y se conocen como “trays” (bandejas); se deslizan dentro de los racks igual que los del superlaboratorio. Los centros de datos equipados con cantidades mucho mayores de estos racks alimentan un porcentaje enorme de la IA presente en nuestras vidas.

Básicamente, todos usamos estas computadoras tipo tray de Nvidia todo el día. Solo que, en circunstancias normales, nunca las vemos ni tenemos mucha razón para pensar en ellas. Ver de cerca las del superlaboratorio sin letrero de Nvidia fue una oportunidad poco común para reflexionar sobre cómo hacen lo que hacen.

Para efectos de comparación, entre las que estaban en el lobby había un tray de Vera Rubin colocado junto a uno basado en la plataforma de generación anterior de Nvidia, para sus chips GB200 y GB300. A simple vista era obvio que el rediseño iba mucho más allá de los chips más potentes del nuevo tray. El tray anterior parecía un nido de ratas, con un enjambre de cables serpenteando en todas direcciones para conectar los componentes. El tray de Vera Rubin era radicalmente más limpio. Estaba libre de cables.

Bueno, no literalmente libre de cables. “Le llamamos ‘sin cables’, pero en realidad tiene dos cables”, explicó Andrew Bell, vicepresidente sénior de Ingeniería de Hardware y veterano de Nvidia con 25 años en la empresa. Queda un cable para conectar el tray a la energía y otro para conectarlo a los recursos de red. Pero eran tan discretos que no los noté hasta que él me los señaló.

También podría ser injusto llamar “nido de ratas” al diseño anterior. Estaba organizado con mucho más esmero que el enredo de cables USB junto a mi cama con los que cargo el teléfono, la laptop y el iPad. Pero cuando una computadora tiene 50 o 60 cables, como esta, da una impresión abrumadora de caos estilo steampunk. Sobre todo cuando está junto a una que está tan cerca de no tener cables en absoluto.

Dos preguntas generales son relevantes para este rediseño: ¿por qué decidió Nvidia volverse (casi) libre de cables, y cómo lo logró la empresa? La primera respuesta podría ser bastante obvia si alguna vez has armado una PC de escritorio, o al menos la has abierto.

Dentro de una computadora, los cables simplemente complican las cosas. Unos 50 o 60 cables suman entre 100 y 120 pasos adicionales durante el ensamblaje. Cada conexión es un lugar donde algo podría salir mal durante el proceso de construcción y, después, un posible punto de falla. Los cables crean maraña que estorba a otros componentes, tanto durante la manufactura como en el mantenimiento posterior.

“Toma de dos a tres horas ensamblar [el tray GB200/GB300]”, dijo Bell. “Y cuando empezamos a construirlo, tenías apenas 20% de probabilidad de hacerlo bien a la primera”.

Ian Buck, vicepresidente y gerente general de cómputo hiperescalar y de alto rendimiento, agregó: “Imagínate conectando cada uno de esos cables e intentando hacerlo a la escala de Nvidia”.

La tasa de éxito sí fue aumentando gradualmente, pero no era solo la escala propia de Nvidia lo que representaba un problema. En lugar de fabricar los trays en masa por sí misma, la empresa enviaba las piezas a contratistas y socios de manufactura, como Dell. Cada vez que la producción se expandía, se desataba un ciclo estilo Día de la marmota, con nuevos equipos aprendiendo a ensamblar los trays cargados de cables.

Si las desventajas de los cables son tantas y tan variadas, ¿por qué han sido tan fundamentales en los diseños de computadoras durante tanto tiempo? De una u otra forma, los componentes necesitan comunicarse entre sí. Durante mucho tiempo, no fue obvio cómo lograrlo sin cableado.

Para Nvidia, el avance surgió de otro gran logro de diseño reflejado en la plataforma Vera Rubin: no tiene ventiladores. En lugar de usar enfriamiento por aire para evitar el sobrecalentamiento, el tray se enfría 100% por líquido, usando un nuevo método que funciona con agua de hasta 45 grados Celsius, lo que reduce drásticamente los requerimientos de energía comparado con técnicas de enfriamiento líquido anteriores.

Como beneficio adicional, eliminar los ventiladores también promete reducir drásticamente la contaminación acústica dentro de los centros de datos. (En el superlaboratorio, lleno de racks enfriados por ventiladores, usamos tapones para los oídos, y Bell nos habló con micrófono a pesar de estar a solo unos pasos de distancia).

Cuando Nvidia descubrió cómo prescindir de los ventiladores, se abrió espacio dentro de los trays de Vera Rubin. Ese espacio adicional le permitió a la empresa crear un conector de placa intermedia (midplane), basado en su tecnología NVLink, que estableció comunicaciones sin cables entre los componentes. Incluso si Nvidia hubiera encontrado espacio para el conector midplane en un tray enfriado por aire, no habría funcionado: habría obstruido el flujo de aire.

En resumen, un avance técnico elegante hizo posible otro. No hace falta conocer esos antecedentes de boca de los ejecutivos de Nvidia para ver la elegancia del tray Vera Rubin resultante. Es esbelto, negro, y roza el brutalismo en su falta de ornamentación. Comparados con él, sus predecesores parecen versiones altamente comprimidas de la Univac de 1951.

Todo esto está, en última instancia, al servicio de un despliegue más rápido y confiable de la plataforma Vera Rubin, en fábricas que ahora pueden automatizarse más plenamente. “Este [tray] se puede ensamblar en cinco minutos en lugar de dos a tres horas”, dijo Bell. “La primera vez que lo armas, tienes un 95% de probabilidad de hacerlo bien. Puedes llevarlo a una fábrica nueva. La primera vez que lo arman ahí, es 95%. Esperamos que después de un mes estén en 98% o 99%”.

Con otros fabricantes de chips de IA cada vez más decididos a robarle participación de mercado a Nvidia (hola, AMD), esas eficiencias importan. Pero incluso si Nvidia no buscaba la elegancia por la elegancia misma, la empresa la logró, y yo, por mi parte, nunca más daré por sentado que los cables son uno de los males necesarios y eternos de la computación.

Artículo publicado originalmente en Plugged In, newsletter semanal de tecnología de Fast Company.