L’analisi dei bias di MidJourney nel light design è diventata il punto di partenza per una riflessione più ampia sul ruolo dell’IA nella società contemporanea, su ocome le limitazioni tecniche dell’intelligenza artificiale si intreccino con questioni di percezione ed estetica e sulla necessità di un nuovo approccio educativo che privilegi il pensiero critico e la speculazione creativa.
IA e light design
Lo spunto per la stesura di questo articolo deriva da un evento a cui ho partecipato come relatrice il 26 settembre a Grottaferrata (RM). L’evento, dal titolo: “Intelligenza Artificiale: nuove sfide per la progettazione della luce e altre discipline dell’Architettura e Ingegneria”, ha visto il confronto fra teorici e professionisti del settore, per interrogarsi sullo stato di avanzamento delle piattaforme di intelligenza generativa in merito alla creatività applicata al progetto e in particolare al light design. L’evento, tenutosi all’interno di “Progettare il Progettista 2024”, organizzato da Apil, ha fatto emergere, nell’ambito del light design, diverse limitazioni delle AI generativa, con un focus specifico su MidJourney. Quello più importante, e invece centrale nella progettazione del settore dell’illuminotecnica, nella gestione delle temperature di colore della luce, in particolare tra luce calda e fredda. Ad evidenziare questo difetto, un workshop tenuto dall’architetto Giacomo Sanna.
Il bias di Midjourney verso la luce calda
L’esperimento dell’architetto ha evidenziato un evidente bias di MidJourney verso la luce calda, che viene spesso trattata come predefinita. La piattaforma tende, cioè, a rappresentare con difficoltà le differenze tra warm light e cool light, mostrando una mancanza di controllo accurato sulla temperatura della luce, misurata in gradi Kelvin.
In particolare, per la rappresentazione della luce calda MidJourney ha mostrato una buona resa, sebbene con una tendenza a saturare eccessivamente i toni dorati, compromettendo l’equilibrio cromatico. Relativamente alla luce fredda, invece, la difficoltà dell’AI nella riproduzione è risultata evidente, essendo tutte le rappresentazioni proposte influenzate da sfumature calde.
Questo esperimento, nella sua apparente semplicità, mette in evidenza non solo limiti tecnici, ma anche questioni più profonde riguardanti l’interazione tra intelligenza artificiale, estetica e percezione umana allo stato attuale.
L’IA non è un sistema neutrale
L’intelligenza artificiale non è un sistema neutrale, ma riflette una prospettiva implicita su come rappresentare il mondo, prospettiva che è profondamente influenzata dagli archivi di dati da cui apprende. La tendenza di piattaforme come MidJourney a preferire la luce calda è indicativa di come le macchine tendano a riprodurre un’estetica “piacevole” o “convenzionale”, in linea con una sensibilità visiva antropocentrica che risulta prevalente. In questo senso, le IA generative possono essere interpretate come agenti semiotici: mediando la nostra esperienza visiva, esse influenzano la nostra stessa comprensione della realtà. Se queste tecnologie vengono accettate in maniera acritica, rischiano di perpetuare un’estetica omogenea e rassicurante, limitando la diversità percettiva e creativa.
L’IA e le preferenze estetiche culturalmente codificate
La preferenza dell’intelligenza artificiale per le sfumature calde non è solo un limite tecnico, ma riflette preferenze estetiche culturalmente codificate. Nella cultura visiva contemporanea, la luce calda è spesso associata a sensazioni di intimità, comfort e accoglienza, mentre la luce fredda richiama immagini di distacco, sterilità e modernità. La difficoltà che MidJourney mostra nel distinguere accuratamente tra luce calda e luce fredda rivela una limitazione nella capacità dell’IA di riprodurre segni complessi e di gestire efficacemente la varietà semiotica che la realtà richiede. Questo solleva questioni importanti riguardo al ruolo dell’intelligenza artificiale nel plasmare non solo le estetiche visive, ma anche la nostra comprensione della realtà attraverso la rappresentazione digitale.
L’importanza di educazione e formazione per lo sviluppo di un pensiero critico
L’esperimento dell’architetto Sanna dimostra, da un lato quanto sia cruciale il contributo attivo dei professionisti del settore per allenare l’IA generativa a nuove rappresentazioni del reale meno stereotipate e più utili a sostegno della progettazione, dall’altro, riporta al centro della discussione l’importanza dell’educazione e della formazione per lo sviluppo di un pensiero critico disobbediente nei confronti dell’immaginario proposto dalla macchina. Argomento che abbiamo affrontato, ormai, più volte in questa rivista.
L’era dell’Educene
Proprio in merito all’importanza dell’educazione, sono d’accordo con la visione di Francesco Monico, che in un articolo apparso su Che fare il 29 ottobre* parla di avvento di una nuova era, quella dell’Educene. L’articolo delinea molto bene il nuovo contesto culturale e cognitivo caratterizzato dalla centralità dell’intelligenza artificiale (IA) e dalla ridefinizione dell’educazione e del sapere. Questo passaggio modifica le fondamenta della nostra società, obbligandoci a ripensare i paradigmi educativi, sociali e tecnologici.
L’IA non solo supporta l’educazione, ma ne ridefinisce il significato e le modalità, obbligandoci a pensare in termini aporetici (contraddizioni e paradossi). L’apprendimento diventa un processo critico e speculativo in cui l’IA rappresenta un paradosso irrisolvibile: promette soluzioni a problemi ambientali ed energetici, ma il suo funzionamento richiede risorse immense, rendendola al contempo parte del problema. L’educazione in questo senso diventa uno spazio di interazione uomo-macchina, dove l’IA facilita il pensiero critico e la creazione di nuove narrazioni. Nell’Educene, il sapere non è più monolitico ma plurale, un “pluriverso di verità” che richiede un approccio nomadico alla conoscenza.
L’educazione come costruzione critica e creativa di nuove narrazioni
L’educazione diventa anarchica e sistemica, basata sull’immaginazione e la critica. Docenti e studenti collaborano come “custodi delle rovine” e creatori di nuove prospettive. L’interazione con l’intelligenza artificiale trasforma l’apparente passività dello studente in un processo dialettico. L’output dell’IA diventa un catalizzatore per la riflessione critica. Questo perché la velocità esponenziale del progresso tecnologico impone la necessità di bilanciare innovazione e responsabilità, senza perdere il controllo della “curva” del cambiamento.
D’accordo con queste riflessioni ritengo che la contemporaneità richieda una riconsiderazione del ruolo educativo: non più trasmissione di conoscenza, ma costruzione critica e creativa di nuove narrazioni. L’intelligenza artificiale diventa il fulcro di un’educazione speculativa, che non cerca certezze, ma abbraccia l’incertezza come chiave per navigare nella complessità del sapere contemporaneo.
Fonti e approfondimenti
Alvarez, J.M., Colmenarejo, A.B., Elobaid, A. et al. Policy advice and best practices on bias and fairness in AI. Ethics Inf Technol 26, 31 (2024). https://doi.org/10.1007/s10676-024-09746-w
Romele, A. Images of Artificial Intelligence: a Blind Spot in AI Ethics. Philos. Technol. 35, 4 (2022). https://doi.org/10.1007/s13347-022-00498-3
