Cuando comenzó la pandemia del COVID-19, el papel higiénico y la levadura volaron del supermercado. El papel porque es un bien básico, pero la levadura porque todo el mundo iba a hacer mucho pan en su casa. Esa era la previsión, pero realmente habría que ver cuántos terminamos haciendo pan. Pues algo similar está ocurriendo en los centros de datos actualmente. Los hiperescaladores se han gastado miles y miles de millones de dólares en GPU para la IA y, según un informe, el 95% están inactivas la mayor parte del tiempo.
Y todo por el miedo a quedarse fuera.
Kubernetes. Antes de entrar en materia, hay un concepto que hay que aterrizar. Es el de los kubernetes. Se trata de una especie de "sistema operativo" en los centros de datos, el capataz que organiza y vigila todo el software que se está utilizando. Imagina que un centro de datos es un supermercado, las estanterías son los servidores y los productos son las apps.
Ejemplo de un panel de control
Lo que hace este capataz es encontrar la estantería perfecta para colocar el producto de la forma más óptima posible. Además, está todo el rato vigilando todas las estanterías todo el tiempo con el objetivo de no perderse nada y que el flujo de datos sea perfecto. Es, en definitiva, un software que gestiona muchos servidores físicos de manera optimizadísima y 24/7.
Qué pasa. Dicho esto, el Informe 2026 sobre el Estado de la Optimización de Kubernetes elaborado por Cast AI acaba de arrojar un dato: la tremenda ineficiencia de los centros de datos. Han analizado unos 23.000 clústeres de kubernetes en gigantes como AWS (Amazon), Azure (Microsoft) y GCP (Google) y han descubierto que el uso medio de GPU de estos centros de datos es de apenas el 5%.
Esto se traduce de otro modo: el 95% están inactivas la mayor parte del tiempo, lo que implica que estas empresas están pagando por hacerse con 20 veces más capacidad de cómputo de la que necesitan realmente. Ahora mismo te estarás preguntando si ha valido la pena destrozar el mercado de la RAM y los SSD, encareciendo ordenadores, móviles, consolas y prácticamente todo. Y es una pregunta con todo el sentido del mundo, pero hay otro dato interesante.
A peor. Como vemos en TechRadar, los responsables de Cast AI apuntan que es “el tercer año que publicamos este informe y los números van a peor”. Concretamente, hablamos de que el uso de las CPU cayó del 10% del año anterior al 8% actualmente, mientras que el uso de memoria bajó del 23% al 20%.
Necesidades sobredimensionadas. Algo que también apunta el informe es que, aunque el uso de los equipos baje respecto al año anterior, los hiperescaladores siguen comprando como si el mundo se fuera a acabar. El sobreaprovisionamiento, como lo describen ellos, de CPU aumentó del 40% al 69%. En el caso de la memoria, pasó al 79%.
FOMO. Hace unas semanas, uno de los mandamases de SMIC, la gran fundición de China, ya apuntó que las Big Tech estaban comprando todos los recursos que necesitarán, o que creen que necesitarán, durante la próxima década… pero en apenas un par de años. Están invirtiendo un dineral en crear autopistas anchas cuando no hay coches ni una demanda real, y desde Cast AI apuntan en esa misma dirección.
Los hiperescaladores están comprando a destajo debido al miedo a quedarse fuera. Es lo conocido como FOMO o fear of missing out, algo que se aplica a muchos escenarios, pero que aquí tiene que ver con no querer llegar el último a la carrera que está moviendo muchísimos millones de un lado para otro.
Ese instinto de acaparamiento está alimentando un ciclo de escasez de componentes que afecta a consumidores, pero también a la propia industria. Según el informe, tiene cierto sentido querer comprarlo todo cuanto antes porque los plazos de entrega son largos, pero precisamente lo son porque todos están comprando más capacidad de la que necesitan.
Las matemáticas no funcionan. En el análisis también apuntan que hay clústeres que no tienen un desempeño tan malo y que hay algunos que están utilizando el 49% de sus H200 o el 30% de sus H100, muy por encima del mencionado 5%, pero no es la norma. Y más allá de haber reventado el mercado de componentes, la consecuencia de tener tanto equipo parado es que están perdiendo dinero porque no le sacan rentabilidad.
Según los cálculos, una CPU que no se usa cuesta unos céntimos por horas, pero una GPU inactiva cuesta varios dólares. Y ahí está otra clave de todo este asunto. Los centros de datos de Amazon o Azure sirven para satisfacer las demandas de sus propias compañías, pero también alquilan potencia de cálculo a quien la necesite. Y como tener las GPU paradas les cuesta dinero, estos últimos meses se está reportando que los precios de esos alquileres se están multiplicando.
¿Cuándo terminará todo? Cast AI no es optimista, ya que afirman que la mayoría de los hiperescaladores prefieren asumir los costes antes que cambiar de hábitos por el miedo a que esto despegue algún día y los pille con el pie cambiado. La traducción es que… nunca tendré mi Steam Machine, ya que todos están centrados en hacer hardware para la IA.
Imagen | NVIDIA
-
La noticia La industria tecnológica se estn fundiendo miles de millones de dólares en GPUs para la IA. El 95% están inactivas fue publicada originalmente en Xataka por Alejandro Alcolea .
☞ El artículo completo original de Alejandro Alcolea lo puedes ver aquí
No hay comentarios.:
Publicar un comentario