LinkedIn: Investimenti in GPU Stabili per il Prossimo Anno Fiscale

LinkedIn ha annunciato che non prevede di aumentare in modo significativo la spesa per hardware AI nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente piatto, e l’impronta di calcolo e storage della piattaforma sarà mantenuta all’incirca invariata.

Secondo la società, negli ultimi sei mesi è stata raddoppiata l’efficienza delle GPU esistenti grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. LinkedIn intende utilizzare questo margine operativo per sviluppare nuove funzionalità piuttosto che investire in nuovo hardware.

Erran Berger, CTO dell’ingegneria, ha sottolineato l’obiettivo di mantenere stabile il footprint di calcolo, pur introducendo funzionalità più esigenti dal punto di vista computazionale. Questa strategia si inserisce in un contesto più ampio, considerando che LinkedIn è controllata da Microsoft dal 2016, ma sta adottando un approccio diverso rispetto all’espansione infrastrutturale del gruppo.

Microsoft ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 nuovi data center in quel periodo e 88 nell’anno, con previsioni di oltre 50 miliardi per il trimestre corrente. In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, la società ha deciso di concentrarsi sui propri data center situati in Oregon, Texas e Virginia.

Avere il controllo dell’intero stack tecnologico è stato indicato come un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo. Raghu Hiremagalur, CTO per l’infrastruttura, ha evidenziato che mantenere invariati storage e compute per un anno è «non una piccola impresa» e ha richiesto un notevole sforzo.

I miglioramenti ottenuti sono stati descritti come accumulativi, piuttosto che il risultato di una singola innovazione tecnologica. Questi includono un migliore utilizzo delle GPU, una riallocazione dei carichi di lavoro, la distillazione di modelli più grandi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.

Il cambiamento è stato anche motivato dalla dinamica dei costi: il costo per singola query era in aumento mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma questa scelta rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware. La sua rilevanza dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.