De transistores de 2nm a canchas de fútbol

Nota: Este es un ejercicio direccional de escala, no una afirmación sobre la infraestructura de ningún proveedor específico de IA. Se utilizan especificaciones públicas de racks de NVIDIA y HPE como referencias de hardware; las hipótesis de carga de trabajo son intencionalmente ilustrativas.

1. La ilusión de una IA sin peso

Soy curioso por naturaleza. Cuando un problema se vuelve demasiado abstracto, busco analogías y números que lo vuelvan visible. A veces es difícil obtener respuestas precisas, entonces uno asume un escenario y trabaja con él hasta que sea direccionalmente correcto.

Usamos la IA como si no tuviera peso.

• Pedir una explicación.
• Crear una imagen.
• Escribir código.
• Reescribir un texto.
• Resumir un documento.
• Investigar un tema.
• A veces, lamentablemente, hacer tarea.

La experiencia es simple. Escribís algo, esperás unos segundos y aparece una respuesta.

Esa simplicidad crea una ilusión: alguien del otro lado respondiendo.

En un sentido, sí: hay un sistema respondiendo. En otro sentido, no: no hay una persona escribiendo. El sistema no lee ni piensa como nosotros. Procesa tokens, probabilidades, vectores y operaciones matemáticas.

La mayor parte de lo que ocurre es invisible.

Vemos la respuesta. Lo que no vemos es el 99% que está debajo.

Detrás de cada respuesta hay modelos, chips, memoria, interconexiones, racks, sistemas de refrigeración, capas de software, centros de datos, contratos de electricidad, transformadores e inversión de capital.

Como ingeniero electrónico con más de 30 años en el mercado de tecnología, esperaba que los números detrás de la IA fueran grandes. Aun así, me sorprendió lo rápido que crece la escala.

La paradoja es que la IA empieza en una escala microscópica y termina en una escala industrial.

Estamos llevando la fabricación de chips hacia la era de los 2nm. Los transistores se están volviendo inimaginablemente pequeños. Pero cuando la IA se despliega para millones de usuarios, la infraestructura se expande hacia afuera: racks, megavatios, circuitos de refrigeración y edificios medidos en canchas de fútbol.

Cuanto más pequeño se vuelve el transistor, más grande se vuelve la fábrica.

Entonces decidí hacer matemática simple y convertir ese 99% en algo tangible.

2. Las palabras se convierten en números

La IA no recibe palabras de la misma forma que nosotros. Primero convierte el texto en tokens. Esos tokens luego se transforman en representaciones numéricas, y esas representaciones atraviesan capas de operaciones matemáticas.

La respuesta puede parecer lenguaje. Debajo, son números.

En la máquina, muchos de esos números son números de punto flotante: valores con decimales, esos que muchos no disfrutamos en la escuela. En los sistemas de IA, se convierten en la materia prima de la computación.

3. Matemática simple, escala absurda

En una explicación simplificada, las cargas de trabajo de IA dependen fuertemente de la multiplicación de matrices. La multiplicación de matrices es, en gran medida, repetir operaciones de multiplicar y sumar. Multiplicar números. Sumar números. Repetir. Hacerlo masivamente en paralelo.

Una GPU no es inteligente en el sentido humano, pero es muy buena con los números. Es una máquina aritmética extremadamente poderosa.

Entonces la magia no está en que cada operación individual sea complicada. La magia está en que el sistema realiza una cantidad asombrosa de operaciones simples, coordinadas a través de arquitectura de modelos, memoria, interconexión, software y probabilidad.

4. De la GPU al rack de IA

Una placa NVIDIA normal en una PC suele tener un chip GPU. Un servidor de IA para centro de datos puede tener múltiples GPUs. Un sistema de IA a escala de rack va más lejos.

NVIDIA GB200 NVL72, por ejemplo, conecta 36 CPUs Grace y 72 GPUs Blackwell en un diseño a escala de rack, refrigerado por líquido, con un dominio NVLink de 72 GPUs. NVIDIA lista el sistema con 1.440 PFLOPS de rendimiento pico teórico en un formato de baja precisión para IA.

FLOPS significa Floating Point Operations Per Second: en palabras simples, cuántos cálculos usando números reales aproximados puede realizar un sistema cada segundo. Los prefijos escalan por factores de mil: kilo (10³), mega (10⁶), giga (10⁹), tera (10¹²), peta (10¹⁵), exa (10¹⁸). Entonces, un PFLOP equivale a un cuatrillón de operaciones por segundo, y 1.440 PFLOPS equivale a 1,44 exaFLOPS: aproximadamente 1,44 mil millones de millones de cálculos por segundo.

5. El experimento mental

Esto no es una afirmación sobre ningún proveedor específico de LLMs. No es un conteo de racks de ninguna compañía. Es un ejercicio de escala usando especificaciones públicas e hipótesis explícitas.

Supuse:

• 1 millón de conversaciones / sesiones activas simultáneas con IA.
• 8 PFLOPs equivalentes de operaciones por conversación pesada.
• Una ventana de respuesta de 10 segundos.
• Un sistema de IA a escala de rack con 1.440 PFLOPS de pico teórico.
• 50% de utilización efectiva.

Un millón de sesiones simultáneas no pretende representar un día promedio ni un proveedor específico. Es un número de prueba de estrés: lo suficientemente grande como para exponer las consecuencias físicas de la IA a escala de consumo, pero todavía diminuto comparado con la población mundial.

La hipótesis de 8 PFLOPs por conversación depende fuertemente del tamaño del modelo, la longitud del contexto, la longitud de la respuesta, el batching, el routing, el caching, la precisión y la eficiencia del software. Una conversación liviana podría ser 10 veces menor; una consulta multimodal o de contexto largo podría ser 10 veces mayor. Trátenlo como una estimación ilustrativa de conversación pesada, no como un hecho medido.

Ahora la matemática:

1.000.000 de conversaciones multiplicadas por 8 PFLOPs equivale a 8.000.000 PFLOPs.

Un rack de 1.440 PFLOPS funcionando durante 10 segundos produce 14.400 PFLOPs de cómputo teórico.

Con 50% de utilización efectiva, eso se convierte en 7.200 PFLOPs utilizables por rack durante 10 segundos.

8.000.000 dividido por 7.200 da aproximadamente 1.111 racks.

Llamémoslo 1.100 racks integrados de IA.

Ese es el momento en el que la abstracción cambia. La conversación ya no se siente solo como software. Se vuelve física.

6. Energía: de racks a departamentos

Usar aproximadamente 1.100 racks de IA implica alrededor de 80.000 GPUs de alta gama.

Usando la implementación GB200 NVL72 de HPE como referencia, cada rack consume 132 kW de potencia, con 115 kW refrigerados por líquido y 17 kW refrigerados por aire.

A 132 kW por rack, 1.111 racks llegan a aproximadamente 147 MW de potencia de rack.

¿Cuánto es eso?

Un departamento típico de 3 dormitorios y 2 baños, con cuatro personas, podría promediar alrededor de 900 kWh por mes, o aproximadamente 1,25 kW de potencia continua.

Con esa estimación, un rack de IA de 132 kW consume aproximadamente tanta potencia continua como unos 100 departamentos familiares.

El experimento mental de 1.100 racks aterriza cerca del consumo eléctrico continuo de más de 100.000 departamentos familiares.

De nuevo, esto es una analogía, no un modelo de ingeniería eléctrica. Pero da la escala.

7. Espacio: de racks a canchas de fútbol

Los racks por sí solos no ocupan canchas de fútbol. La huella de un rack podría estar alrededor de 0,72 metros cuadrados. Pero los centros de datos no pueden apilar racks pared contra pared. Necesitan pasillos, acceso de servicio, distribución eléctrica, redes, manifolds de refrigeración líquida, bombas, sistemas de seguridad, espacio de mantenimiento e infraestructura de soporte.

Para 1.100 racks, el espacio blanco práctico podría ser de varios miles de metros cuadrados. La instalación completa, incluyendo salas eléctricas, sistemas de refrigeración, transformadores, UPS, corredores, áreas de carga e infraestructura de soporte, puede moverse hacia el rango de una a algunas canchas de fútbol.

Por eso la analogía de la cancha de fútbol funciona, pero con una advertencia: no son solo los gabinetes. Es la instalación necesaria para alimentarlos, enfriarlos, conectarlos y operarlos.

8. Refrigeración líquida: el rack se convierte en una máquina térmica

La refrigeración líquida es la señal más clara de este cambio, y la razón por la cual 1.100 racks no pueden simplemente apilarse en un depósito. Hagamos una digresión de dos minutos.

Los centros de datos tradicionales usaban pasillos fríos y calientes. Los ventiladores movían aire frío a través del equipamiento y empujaban aire caliente hacia el otro lado, quitando calor de la electrónica.

A medida que los chips se volvieron más densos y los aceleradores de IA consumieron más potencia, el cuello de botella se desplazó más allá del escalado del transistor. La pregunta ya no era solamente cuán pequeñas podían ser las características, sino cuánto calor podía extraerse de un paquete muy denso y luego de un rack muy denso.

El líquido refrigerante normalmente no fluye sobre la electrónica desnuda. Fluye a través de placas frías selladas y canales conectados a los paquetes calientes. Pero operativamente, el rack ahora tiene cañerías.

El rack de IA se convierte en una máquina térmica.

Esto es importante porque la refrigeración líquida no se trata solo de reducir temperatura. Es lo que permite que exista esta densidad de cómputo.

A 5 o 10 kW por rack, la refrigeración por aire funciona. A más de 100 kW por rack, el aire se convierte en el medio equivocado para transportar la carga térmica principal.

El problema de infraestructura cambia. Ya no es solamente: ¿podemos hacer el transistor más pequeño?

• ¿Podemos sacar el calor?
• ¿Podemos alimentar el rack?
• ¿Podemos alimentar las GPUs con suficiente ancho de banda de memoria?
• ¿Podemos conectarlas lo suficientemente rápido?
• ¿Podemos construir la instalación lo suficientemente cerca de la energía?
• ¿Podemos enfriarla de forma confiable?
• ¿Podemos operarla económicamente?

Fin de la digresión. Por eso la instalación crece más allá de los racks mismos, y por eso la analogía de la cancha de fútbol se sostiene.

9. Personas: un millón sigue siendo un número pequeño

Según estándares tradicionales de centros de datos, 1.100 racks puede no sonar enorme. Algunos de los campus más grandes pueden contener más de 10.000 racks. Pero a más de 100 kW por rack, mil racks de IA pueden convertirse en una instalación de clase cien megavatios.

Esa es la dirección.

Y un millón de conversaciones simultáneas ni siquiera es una fracción grande de la humanidad. Frente a una población global de aproximadamente 8.000 millones, un millón de sesiones simultáneas representaría alrededor del 0,0125% de una población global de aproximadamente 8.000 millones de personas. Es 1% solo si la población de referencia es de unos 100 millones.

La conclusión es que la IA a escala de consumo convierte la generación de texto en infraestructura industrial.

10. El punto real

Una sola respuesta se siente sin peso. A escala, no lo es.

Es chips. Es matemática. Es memoria. Es racks. Es refrigeración líquida. Es megavatios. Es edificios. Es tierra. Es capital.

La IA puede empezar como matemática simple. Pero a escala, la matemática simple se convierte en canchas de fútbol.

Modelo ilustrativo

Entonces:

• La IA no es sin peso.
• La IA no es solo software.
• La IA es infraestructura industrial escondida detrás de una interfaz limpia.

Si preguntas como “¿por qué un millón de sesiones?”, “¿por qué 8 PFLOPs?” o “¿qué pasa con hardware más nuevo?” empezaron a aparecer en tu cabeza, bien.

Cambiá las hipótesis y corré el modelo de nuevo. El número exacto se va a mover. La dirección probablemente no.