In Breve
- Qual è la previsione di LinkedIn per gli investimenti in GPU?
- LinkedIn prevede di mantenere invariati gli investimenti in GPU per il prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'allocazione dei carichi di lavoro.
- Qual è l'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio più conservativo rispetto all'espansione infrastrutturale di Microsoft.
LinkedIn ha comunicato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato e l’impronta di calcolo e storage sarà mantenuta all’incirca stabile. Questo approccio è frutto di un incremento dell’efficienza delle GPU esistenti, che la società afferma di aver raddoppiato in soli sei mesi.
Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere un footprint di calcolo costante, pur introducendo nuove funzionalità che richiedono maggiori risorse computazionali. LinkedIn, controllata da Microsoft dal 2016, sta seguendo una strategia differente rispetto alla consistente espansione infrastrutturale del colosso tecnologico. Infatti, Microsoft ha riportato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, con l’aggiunta di 31 data center, mentre LinkedIn ha scelto di non espandere ulteriormente la propria infrastruttura.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. La società ha quindi deciso di investire in data center propri, situati in Oregon, Texas e Virginia. Avere il controllo completo dell’intero stack tecnologico è considerato un vantaggio significativo, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e calcolo per un anno è un’impresa notevole, che ha richiesto un lavoro considerevole. I miglioramenti ottenuti sono il risultato di un approccio cumulativo, che include una migliore allocazione delle risorse, la distillazione di modelli complessi in versioni più leggere e una riprogettazione della divisione dei compiti tra training, inferenza e storage.
Questa strategia è anche una risposta alla crescente dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza che LinkedIn ha giudicato insostenibile. Sebbene la società non pretenda di aver risolto definitivamente il problema, la scelta di mantenere stabili gli investimenti in hardware rappresenta un’alternativa alla tendenza generale di crescita proporzionale dell’hardware. La sostenibilità di questo approccio dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.
