Del dial-up a la IA: siempre se trató del ancho de banda
Un ensayo tecnológico sobre la restricción de infraestructura detrás de cada gran cambio digital: la capacidad de mover información lo suficientemente rápido como para hacer posible un nuevo comportamiento.
En 1995, trabajaba como Sales Rep para un proveedor de servicios de telecomunicaciones.
Los servicios de internet dial-up empezaban a estar disponibles para el público. Muchos usuarios se conectaban a velocidades dolorosamente bajas: 9.6, 14.4, 28.8 y, más tarde, 33.6 kbps.
Muchas empresas compraban líneas dedicadas de 64 kbps, y eso los destacaba.
Si te reunías con el gerente de IT, normalmente estaba sentado en un sillón, tal vez fumando un habano, y su tarjeta personal diría:
“Yo tengo ancho de banda.”
Los cargos de CIO todavía no eran tan comunes ni tan poderosos como llegarían a ser después. Pero la persona que controlaba la conectividad controlaba una parte muy importante del futuro de la empresa.
Hacia 1997, las redes de fibra óptica empezaron a estar disponibles. Una sucursal podía tener 2 Mbps. Una sede principal podía llegar a 155 Mbps.
Mientras tanto, la mayoría de las personas seguía accediendo a internet mediante módems dial-up.
Después del año 2000, el dial-up empezó a ser reemplazado por ADSL y cablemódem. El verdadero cambio no fue solamente la velocidad. Fue el paso a la conectividad permanente (Always-On).
El ancho de banda del consumidor empezó a escalar.
Se hicieron enormes inversiones en infraestructura para satisfacer la necesidad de más ancho de banda. Algunas de esas inversiones eran cuestionables. Otras eran insostenibles.
Entonces explotó la burbuja.
La demanda era real. El timing era incorrecto.
Construimos capacidad antes de que las aplicaciones, los dispositivos y el comportamiento de los usuarios estuvieran listos para absorberla. Terminamos con grandes cantidades de infraestructura adelantadas a la demanda.
La capa de red había avanzado más rápido que la capa de aplicaciones, la capa de dispositivos y la capa de usuarios.
Pero finalmente llegaron los casos de uso.
Movilidad. Redes sociales. Video. Aplicaciones en la nube. Comercio electrónico.
Esa capacidad finalmente se ocupó, y luego el mundo exigió órdenes de magnitud más.
Si la IA se te vino a la mente mientras leías esto, ese es exactamente el punto.
La infraestructura de IA actual tiene un problema similar. La demanda es real. Los casos de uso son reales. La importancia estratégica es real.
Pero la economía depende de si la infraestructura puede mover datos lo suficientemente rápido, barato e inteligentemente.
Hoy, muchas interacciones con LLMs se comportan como profesores brillantes con una memoria de corto plazo frágil: no recuerdan realmente; reconstruyen contexto.
Procesan prompts. Recuperan documentos. Usan cachés. Releen grandes cantidades de información. Consumen cómputo para reconstruir lo que idealmente debería estar disponible como memoria estructurada.
Un modelo que tiene que releer todo es caro.
Un modelo que puede acceder a memoria estructurada y relevante es económicamente diferente.
La próxima frontera de eficiencia es la memoria: no solo almacenar más, sino recuperar el contexto correcto, en el momento correcto, con menos cómputo.
Esto sigue siendo un problema de ancho de banda, solo que ahora el cuello de botella no está únicamente en la última milla.
Está en el ancho de banda de la memoria, el ancho de banda GPU-a-GPU, el ancho de banda entre chip y memoria, la interconexión del centro de datos y el costo de mover tokens (datos) a través del sistema.
Algunas respuestas serán incrementales: mejor memoria, mejores redes, mejores aceleradores, mejor caché y mejores arquitecturas de modelos.
Otras serán más radicales: computación en memoria, interconexiones ópticas y enfoques neuromórficos.
Por eso la memoria, las redes, los aceleradores y la infraestructura de centros de datos vuelven a ser estratégicos.
El mercado no está pagando solamente por más cómputo.
Está pagando por mover datos más rápido.
Muchas de las inversiones más importantes de hoy en memoria y redes apuntan a una sola cosa: hacer que la infraestructura de IA sea económicamente escalable.
Sin eso, la IA escala técnicamente, pero no económicamente.
Miremos la atención estratégica alrededor de HBM, memorias avanzadas, interconexiones GPU, Ethernet fabrics y redes para centros de datos de IA.
Empresas como Micron, SK Hynix, Samsung, Broadcom, Arista y otras ya no son simplemente “plomería”.
Son parte del cuello de botella de la IA.
Y los cuellos de botella crean valor.
Cambiaron los caños.
La lección no.