Non troppi anni fa l’universo virtuale creato dalle tecnologie digitali aveva innescato l’illusione di un immaginario mondo dematerializzato a impatto zero, simboleggiato dalla teleconferenza contrapposta alle “costose” e poco sostenibili trasferte fisiche.
Ci è voluto più del previsto per liberarsi da questa pericolosa allucinazione. Ma ormai sembra essere generalmente accettato il fatto che non esiste nessuna attività umana puramente “dematerializzata”.
Anche rimanere seduti in una stanza a pensare richiede almeno il costo energetico di base per sostentare il metabolismo umano, che corrisponde a circa 100 Watt per un adulto che ingerisce 2000 kcal giornaliere. Come una vecchia lampadina a filamento.
Senza contare il costo energetico richiesto all’industria alimentare per produrre le calorie che servono al nostro sostentamento e il costo energetico pagato dall’edilizia per costruire l’ambiente in cui possiamo sedere comodamente e dar libero sfogo ai nostri pensieri.
Ecco qual è il costo energetico totale del settore ICT e soprattutto l’impatto dell’IA e di ChatGpt sull’ambiente.
Il costo energetico delle tecnologie digitali
Le tecnologie digitali non fanno eccezione. E richiedono un’imponente infrastruttura fisica per funzionare, costituita da dispositivi terminali, centri di calcolo e reti di
telecomunicazione.
Per calcolare il costo energetico totale del settore ICT, le stime variano in base alle assunzioni e al metodo di calcolo. Ma tutte concordano sul fatto che non sia affatto trascurabile. In letteratura si trovano valori che vanno dal 5 al 10% dei consumi elettrici mondiali. Tradotto in energia primaria rende il consumo energetico dell’ICT paragonabile, se non superiore, a quello dell’aviazione. Ma soprattutto, il settore è in forte espansione e i recenti progressi nell’intelligenza artificiale (IA) hanno riproposto il tema dell’impatto ambientale.
L’impatto ambientale dell’IA
La preoccupazione nasce dalla crescita per ora esponenziale nella complessità dei modelli IA di base (foundation models), che si traduce in richieste sempre più esose di capacità di calcolo e di memoria. Prima del 2010, la risorsa computazionale richiesta
dall’addestramento cresceva in linea con la legge di Moore, raddoppiando ogni 20 mesi circa.
Ma con l’avvento dei sistemi basati su apprendimento profondo (deep learning), si
osserva un’accelerazione e il tempo di raddoppio si è contratto a sei mesi (Sevilla et al., 2022).
Fino a dieci anni fa, i modelli di punta potevano richiedere da 10 17 a 10 18 FLOP
(floating point operations, operazioni elementari eseguite del processore) per essere
addestrati. Oggi GPT-4 richiede un numero di operazioni elementari almeno un milione di volte superiore. Una crescita di oltre sei ordini di grandezza in dieci anni. Nello stesso periodo, anche il volume di dati richiesto per l’addestramento è cresciuto di diversi ordini di grandezza. Nel caso dei modelli linguistici, per esempio, la crescita
è stata di circa 4 ordini di grandezza per raggiungere le 2,7×10 12 parole di PaLM2.
Acquisizione della conoscenza: ecco il costo energetico
Questi numeri non mancano di impressionare l’osservatore casuale, generando
l’impressione di una crescita fuori controllo rispetto all’impatto ambientale. Per capire
davvero la situazione, occorre tradurre questi valori nella moneta comune a tutti i fenomeni fisici: l’energia.
Il calcolo preciso è piuttosto complesso, ma per i nostri scopi ci basta un ordine di grandezza.
Considerando la fase di addestramento del modello, che è anche la più studiata, l’analisi svolta da ricercatori di Google e dell’Università di Berkeley in California
(Patterson et al., 2021) riporta i valori di consumo energetico richiesto per l’addestramento di alcuni popolari modelli di IA, indicativamente intorno al centinaio di MegaWatt ora (MWh), con un picco di 1.287 MWh riportato per GPT-3.
È probabile che l’addestramento dei modelli più recenti abbia richiesto valori ancora più elevati. Per capire se è tanto o poco, possiamo confrontare questi valori con l’energia che serve a un essere umano per imparare quello che sa.
L’energia che serve a un essere umano per imparare ciò che sa
Semplificando al massimo (ci servono gli ordini di grandezza), il nostro essere umano – preso ad esempio – che ingerisce 2000 kcal al giorno, in 14 anni di vita, diciamo al termine delle scuole medie, avrà consumato circa 12 MWh e a 25 anni, al termine dell’università, circa 22 MWh. Per sapere quanta energia sia dedicata all’apprendimento, dipende dalle nostre assunzioni.
Ma propenderei per un’interpretazione estensiva: tutta la nostra esperienza contribuisce a costruire quello che sappiamo, non solo le ore passate sui libri. Potremmo però togliere le ore di sonno, considerandole pari a circa un terzo delle totali, per arrivare a dire che alla fine della scuola media uno studente ha speso al massimo 8 MWh di energia per sapere quello che sa e alla fine dell’università circa
15 MWh. Si tratta di un limite superiore, perché abbiamo trascurato molti dettagli, come per esempio la variazione del fabbisogno energetico durante la crescita e il fatto che non tutta l’energia consumata dal nostro corpo serve per alimentare il cervello. Ma d’altra parte anche il consumo energetico di un centro di calcolo non è dovuto unicamente alla computazione.
Apprendimento IA in termini di consumi energetici
Dunque, i maggiori modelli di IA oggi esistenti hanno richiesto da dieci a cento volte
tanto. Questo ci dice quanto più efficiente è il nostro cervello nell’apprendere, considerando che un adolescente di 14 anni è comunque in grado di fare ragionamenti non ancora alla portata di un modello di IA.
D’altra parte, i modelli di IA più avanzati danno punti a molti studenti in diverse applicazioni. Ma, alla fin fine, che sia dieci o cento o anche mille volte più energivoro di un essere umano, stiamo parlando di poca cosa, considerando che una volta
addestrato un singolo modello è in grado di soddisfare potenzialmente centinaia di milioni di utenti. Il problema non sta nell’addestramento, ma in quello che viene dopo: l’utilizzo su grande scala.
Il costo energetico dell’applicazione della conoscenza
Le reti neurali profonde (deep neural network) sono sempre più diffuse in ogni ambito: dagli smartphone alle automobili fino ai modelli di grandi dimensioni dei centri di calcolo.
Secondo una recente indagine di McKinsey, oltre il 50% delle imprese in Europa e Stati
Uniti utilizza modelli di IA e per una volta i mercati emergenti di Cina, India e Asia-Pacifico riportano percentuali ancora più elevate.
Per sapere qual è il consumo energetico di questi sistemi in esercizio, scarseggiano i dati, anche se diverse fonti dell’industria Big tech suggeriscono che potrebbe essere almeno dieci volte superiore rispetto alla fase di addestramento.
Una recentissima analisi dell’Università di Valencia sui modelli di IA in esercizio evidenzia, per i modelli di punta, la tendenza a una crescita negli anni del consumo energetico per singola “inferenza”. Tuttavia, il tasso di crescita è inferiore a quanto ci si potrebbe attendere grazie ai continui progressi dell’hardware e alle ottimizzazioni algoritmiche. Modelli più semplici mostrano un consumo energetico quasi costante pur migliorando le prestazioni (Desislavov et al., 2023).
Interessante è il raffronto fra il consumo energetico per singola inferenza, per esempio il riconoscimento di un’immagine da parte di un modello di visione artificiale (computer vision) con l’energia consumata in un secondo da un essere umano che svolge lo stesso compito, pari a circa 100 Joule.
In questo caso, persino i modelli di punta più complessi mostrano un consumo leggermente inferiore. I modelli linguistici di grandi dimensioni invece possono avere un consumo per singola inferenza anche dieci o cento volte maggiore, ma qui è più difficile trovare un compito umano corrispondente con cui fare il confronto.
Conclusioni
Come osservano correttamente i ricercatori spagnoli, il consumo energetico dell’IA non sarà dominato dall’energia richiesta dall’addestramento o dalla singola inferenza, ma dall’effetto moltiplicativo dovuto alla scala di applicazione di questi sistemi nella società moderna, che rischia di superare di gran lunga i progressi in termini di efficienza energetica dell’hardware e degli algoritmi. Questo è un punto essenziale. Troppo spesso ci siamo cullati nell’illusione che bastasse rendere le cose più efficienti per mitigarne l’impatto ambientale. La storia dello sviluppo economico e sociale dall’inizio della Rivoluzione Industriale per ora registra una crescita continua del consumo totale di energia, nonostante i continui miglioramenti tecnologici in tutti i campi. E proprio le tecnologie digitali sono un esempio macroscopico di questa tendenza. Nessun altro settore ha registrato progressi tanto straordinari in termini di
miniaturizzazione, prestazioni ed efficienza energetica. Eppure, proprio grazie a questi progressi, il consumo energetico globale dell’ICT non ha fatto che crescere.
Per elaborare scenari di impatto dell’IA sul consumo energetico, quindi, non bastano le
competenze degli esperti in tecnologie digitali. Occorre la collaborazione di economisti, sociologi e altri esperti. C’è ancora molto da fare in questo campo, gli studi sono solo all’inizio.
