Tomasz Tunguz: l'infrastruttura AI sotto l"effetto frusta", colli di bottiglia e costi in aumento

ChainCatcher riporta che il venture capitalist Tomasz Tunguz descrive l'evoluzione dell'infrastruttura per l'AI come una staffetta lenta: i colli di bottiglia si spostano in sequenza dalle GPU alla memoria, poi alle CPU e allo storage. Ogni strozzatura finisce per bloccare, per anni, la catena di fornitura della fase successiva, fissando un livello di costi strutturalmente più alto. All'inizio del 2023, l'impennata della domanda di GPU ha spinto i canoni di noleggio delle H100 oltre i 9 dollari l'ora e ha ridotto le spedizioni di server del 22%. In seguito, i produttori hanno riallocato la capacità verso l'HBM: in un solo trimestre i prezzi degli SSD enterprise sono saliti dell'80% e quelli della DRAM di oltre il 60%. Secondo Tunguz, entro la fine del 2025 i carichi di lavoro degli agenti porteranno il rapporto CPU/GPU nei server vicino a 1:1, con un aumento medio del prezzo delle CPU per server del 27% su base annua. Nel 2026, la capacità annuale degli HDD nearline risulterà completamente venduta. Sul fronte della realizzazione dei data center, i costi di costruzione sono arrivati a circa 20 miliardi di dollari per gigawatt e componenti a lunga consegna come trasformatori e turbine risultano già prenotati fino al 2029–2031. Tunguz definisce il fenomeno come un "bullwhip effect" dell'hardware: i tempi di produzione pluriennali amplificano a monte gli shock di domanda a valle; quando la pressione si allenta su un collo di bottiglia, lo sgravio impiega tempo a trasferirsi al successivo. In questo contesto, l'espansione della produzione di trasformatori con consegne 2027–2028, nuovi impianti di wafer NAND e linee produttive di turbine potrebbero esporsi a rischi di sovracapacità.