L’intelligenza artificiale sta sbloccando scoperte scientifiche, migliorando l’assistenza sanitaria e l’istruzione, e potrebbe aggiungere trilioni all’economia globale. Comprendere l’impronta dell’IA è cruciale, e il nostro obiettivo è fare chiarezza sull’impatto ambientale dell’intelligenza artificiale, in particolare sul consumo energetico e l’impatto ambientale dell’inferenza, ovvero l’uso di un modello IA addestrato per generare testo o immagini.
Misurare l’impronta ambientale di Gemini
Come calcolare l’impatto ambientale dell’intelligenza artificiale? Un approccio completo che tiene conto delle realtà del servizio AI su vasta scala non è semplice. Abbiamo sviluppato una metodologia dettagliata per misurare l’energia, le emissioni e il consumo di acqua dei prompt di Gemini, che include una serie di fattori spesso trascurati. Questi includono la potenza dinamica dell’intero sistema, le macchine inattive, la CPU e la RAM, l’overhead del data center e il consumo di acqua. Molte stime attuali considerano solo il consumo attivo delle macchine, sottovalutando la vera impronta operativa.
Utilizzando questa metodologia completa, stimiamo che un prompt di testo Gemini consumi 0,24 watt-ora (Wh) di energia, emetta 0,03 grammi di anidride carbonica equivalente (gCO2e) e consumi 0,26 millilitri di acqua, cifre notevolmente inferiori rispetto a molte stime pubbliche. Questo consumo energetico è equivalente a guardare la TV per meno di nove secondi.
Efficienza e innovazione continua
I nostri sistemi AI stanno diventando più efficienti grazie a innovazioni nella ricerca e a miglioramenti nel software e nell’hardware. In un recente periodo di 12 mesi, l’energia e l’impronta carbonica totale del prompt di testo Gemini sono calate rispettivamente di 33 e 44 volte, pur offrendo risposte di alta qualità.
Questo risultato è il frutto di un approccio “full-stack” che integra l’efficienza in ogni livello, dall’hardware ai modelli stessi. Abbiamo migliorato le architetture dei modelli, utilizzando strutture più efficienti come Mixture-of-Experts (MoE), che attivano solo un piccolo sottoinsieme di un modello più grande per rispondere a una query, riducendo i calcoli di 10-100 volte. Inoltre, affiniamo continuamente gli algoritmi e ottimizziamo l’inferenza e il serving con tecnologie innovative come il decoding speculativo.
Hardware e data center ultra-efficienti
L’hardware gioca un ruolo cruciale. Abbiamo progettato le nostre TPU per massimizzare le prestazioni per watt. L’ultima generazione, Ironwood, è 30 volte più efficiente dal punto di vista energetico della prima TPU. Anche i nostri data center sono tra i più efficienti del settore, con un PUE (Power Usage Effectiveness) medio di 1,09. Questi sforzi si traducono in un minor consumo di energia e, di conseguenza, in un minore consumo di acqua per il raffreddamento.
Questo ci consente di continuare il nostro impegno verso il raggiungimento di un’energia senza emissioni di carbonio 24/7 e di reintegrare il 120% dell’acqua dolce che consumiamo. L’impatto ambientale dell’intelligenza artificiale è una preoccupazione reale, e siamo convinti che la nostra metodologia possa contribuire a definire standard più precisi per l’intero settore. Questo è solo l’inizio di un percorso verso un’IA più responsabile e sostenibile.
CONTATTACI
Comments are closed