Da qualche decennio l’intelligenza artificiale, un’entità quanto mai sfuggente, perché curvata continuamente allo specifico fine – al punto che sarebbe più opportuno declinarla al plurale: “intelligenze artificiali” – sta mietendo successi sempre più numerosi e rilevanti in settori di natura molto diversa tra loro e, inevitabilmente, ha generato interesse, speranze e interrogativi anche in ambito educativo.
Come già visto in un recente articolo gli automi, le “intelligenze artificiali”, sono figlie di un “pensiero computazionale” stimolato dalle esigenze del “pensiero sperimentale” di sviluppare soluzioni a problemi ben definiti ma troppo complessi per essere affrontati da mente umana; esigenze che hanno prodotto ponti tecnologici verso innumerevoli ambiti delle arti meccaniche e la messa a punto di tantissime applicazioni in grado di risolvere problemi ben definiti.
Intelligenza artificiale, educazione ed etica: gli aspetti da affrontare
Il passaggio all’educazione, come ad altri settori per i quali si prospetta l’utilizzo massiccio delle intelligenze artificiali ci fa varcare il confine tra problemi ben definiti e problemi mal definiti e ci conduce in un territorio in cui gli automi, al pari degli umani, non potranno risolvere problemi ma, al massimo, aiutare i loro creatori a migliorare la qualità delle soluzioni proposte e comunque, come ci renderemo conto a breve, entro certi limiti.
Quando si ha a che fare con lo sviluppo di individui – a questo mira l’apprendimento più o meno formale – le problematiche da affrontare non sono solo di carattere tecnico, ed è necessario prendere in considerazione anche altri aspetti che tendono a sconfinare nell’etica, quantunque quest’ultima, essendo nel tempo soggetta a continua ridefinizione, tende a presentare confini sfuggenti.
Il perimetro operativo
Il primo degli aspetti da affrontare – forse il più importante sin tanto che non si produrranno evoluzioni al momento non immaginabili delle “intelligenze artificiali” – è il perimetro operativo di queste ultime. Come noto le “intelligenze artificiali” si suddividono in due grandi categorie che rispecchiano altrettanti paradigmi, semplificando in maniera estrema (e spero che non me ne vorranno gli esperti del settore):
- quelle che si basano sulle rappresentazioni di conoscenza (knowledge representation) e sulla riproduzione delle modalità e strutture decisionali che hanno dato vita ai cosiddetti sistemi esperti;
- quelle che utilizzano immense basi di dati (data driven) a partire dalle quali apprendono a selezionano informazioni rilevanti e a prendere decisioni utilizzando reti neurali (“deep learning”) il cui scopo è simulare il comportamento dei nostri neuroni.
In campo educativo e non solo, a partire dagli anni ’80, per almeno un paio di decadi, si è assistito al dominio del primo di questi paradigmi e al tentativo di sviluppare i cosiddetti “Intelligent Tutoring Systems” (ITS) – ovvero sistemi basati su modelli/rappresentazioni dello studente e delle conoscenze da acquisire, integrati a “modelli pedagogici” (spesso molto vicini al comportamentismo) – il cui scopo è guidare lo studente verso obiettivi di apprendimento prefissati. Gli esiti di questa linea di ricerca, perseguita ancora da alcuni, non sono stati particolarmente esaltanti. Oggi, rinnovate speranze sono riposte nei sistemi “data driven” e nel “deep learning” grazie anche alle abilità sviluppate della macchina nel riconoscimento, visivo e linguistico e nella capacità di sostenere un’interlocuzione in una forma credibile (capace di superare il famoso test di Turing). Tra le possibili applicazioni non solo istruttori sintetici, ma anche (quale evoluzione degli ITS) profilatura studenti e personalizzazione dei percorsi didattici con predizione comportamenti e valutazione nonché, a livello istituzionale, programmazione e ottimizzazione amministrativa.
Intelligenza artificiale e scuola: tutte le opportunità di una visione “human-centric”
Cosa può fare un “automa” in pratica
Un automa può apprendere da una base di dati (tanto di più quanto più è ampia è la base di dati) e strutturare delle risposte effettuando delle scelte che ricadono e sono confinate all’interno del perimetro disegnato dal contenuto della base di dati. La macchina ha e avrà la possibilità di accedere a basi di dati le cui dimensioni aumenteranno sempre di più con il tempo (salvo limiti di carattere ecologico a cui accenneremo più oltre) e che sono già sufficientemente ampie da rendere impossibile un loro pieno utilizzo da parte di qualsiasi essere umano. La macchina, dunque, è e diventerà sempre più efficiente rispetto all’uomo in questa tipologia di compiti, ovvero ogni qualvolta si tratta di esplorare uno spazio delle possibilità di grandi dimensioni (seppure non illimitato) e di identificare una scelta ottimale.
La competenza umana che manca alla macchina
Basandoci su questo assunto si potrebbe immaginare che la macchina, prima o poi, possa diventare più performante di qualsiasi insegnante. Ovviamente si tratta di una visione prospettica, non basata sullo stato attuale della macchina ma sulle potenzialità espresse oggi dai sistemi “data driven” a “deep learning”. Essere più performanti di un umano nell’analizzare il contenuto di un base di dati e nel definire una sequenza ottimale di “risposte” può essere sufficiente? La risposta è no, perché come già scritto più sopra, in ogni caso la macchina si muoverà, per quanto in maniera ottimale, all’interno del perimetro definito dal contenuto della sua base di dati di riferimento. Un essere umano fonda il suo sviluppo su capacità – probabilmente in gran parte innate o determinate dai nostri “primi passi”- sulle quali nel tempo si innesterà una crescente base di conoscenza (un sottoinsieme di quella “universale” disponibile alla macchina) e a partire dalla quale si svilupperanno tutte le sue abilità procedurali (molto inferiori di quelle che potrebbe sviluppare una macchina). Ad un certo punto, però, messo di fronte a situazioni e stimoli non noti, a differenza della macchina, egli sarà in grado di elaborare nuove strategie non previste dalla base di conoscenza in suo possesso né, a volte, dalla base di conoscenza universale. In altri termini sarà in grado di produrre nuovi “oggetti culturali”, e così facendo si dimostrerà entità competente, oltre ad allargare la base di conoscenza della macchina (ovvero il suo spazio di sviluppo prossimale). Ciò non è consentito alla macchina che potrà mettere in campo solo il più alto livello di abilità compatibile con la base di conoscenza di riferimento, mai una competenza.
Allenare i giovani in formazione al pensiero progettuale
Si potrebbe affermare, con l’uso di tutte le dovute “pinze”, che la competenza possa essere messa in stretta correlazione con la coscienza e forse, che ne potrebbe essere una manifestazione, unitamente alla capacità di descrivere e spiegare le motivazioni di un agire non previsto. Continuando su questa linea si potrebbe affermare che è anche giunto il momento di aggiornare il test di Turing e sostituirlo con un test di competenza. È importante sottolineare, ancora una volta, che tutto questo è dovuto alla natura dei problemi mal definiti con cui ci confrontiamo. Per fare comprendere meglio questa affermazione si pensi al gioco degli scacchi: per quanto ampio sia il numero delle partite possibili tutte le mosse di cui si possono comporre rappresentano un insieme finito e il problema può essere considerato ben posto; in queste condizioni l’uomo non è in grado di battere la macchina, o meglio la macchina ha dimostrato di essere in grado di battere l’uomo.
Dal momento che l’educazione degli individui è e resterà un problema mal definito, è molto probabile che l’uomo non potrà mai essere rimpiazzato completamente da una macchina nella sua funzione docente. Sicuramente saremo in grado di produrre automi altamente efficienti, anche molto più efficienti di molti dei docenti attuali, almeno di tutti coloro che preferiscono rifugiarsi nell’universo delle abilità senza tentare di addentarsi nei terreni inesplorati della competenza. Ritengo, comunque, che la natura mal definita dei problemi – sempre che non si riescano a produrre automi coscienti – sarà ciò che impedirà alla macchina di superare l’uomo. Logica conseguenza di questo ragionamento è la necessità di allenare i giovani in formazione al pensiero progettuale – tema già discusso in un recente articolo – nonché alla meta-progettazione, ovvero al saper riflettere e ridefinire il processo “in-action” (ovvero in corso d’opera e non ad esiti manifesti).
Le conseguenze di questo limite delle macchine
- Le macchine, prima o poi, saranno in grado di guidare in maniera abile lo sviluppo di un individuo ma sarà sempre l’individuo che dovrà trovare in sé la motivazione per divenire competente perché le macchine potranno replicare l’universo descritto dalla base di dati di riferimento ma non espanderlo. Resta comunque aperto il problema delle potenziali abilità della macchina di indurre nell’uomo lo sviluppo di competenze. In linea di principio nulla osterebbe al manifestarsi nella macchina di un’abilità del genere, quantunque in forma incosciente. Infatti nulla impedirebbe alla macchina di proporre percorsi noti che si sono dimostrati utili a sviluppare competenze negli individui perché ovviamente le informazioni su tali percorsi fanno parte della base di dati di cui disporrebbe e potrebbe persino generarne di “nuovi” derivabili dall’ottimizzazione delle informazioni a disposizione (innovazione incrementale confinata all’interno di una base di dati nota) ma non in maniera “dirompente” (“disrupting innovation”), modalità che implicherebbe la generazione di una nuova prospettiva (non rintracciabile nella base di dati). Tale abilità della macchina, comunque, porrebbe un ulteriore tema di riflessione: quello del potenziale indirizzamento dell’evoluzione umana.
- Dal momento che le macchine non sono coscienti e la loro base di dati di riferimento non è filtrata (si prendano ad esempio i contenuti disponibili su internet) potrebbe accadere, con una probabilità non trascurabile che le strategie scelte dalla macchina, apparentemente ottimali, possano condurre a risultati non desiderati. Ciò inevitabilmente solleva un problema etico e richiede un indirizzamento dell’apprendimento (supervisione) della macchina che sarà necessariamente a cura dell’umano. In altri termini ecco che fa capolino il noto tema dei bias presenti sia nelle basi di dati a causa di come sono costruite che negli algoritmi progettati dall’uomo, grazie ai quali le macchine apprendono dalle basi di dati.
Notare che non sono state prese in considerazione implicazioni dovute alle modalità dell’interazione uomo-uomo e uomo-macchina a cui appartengono anche i piani emotivi e sociali. Questo perché al momento fungerebbero da distruttori rispetto al ragionamento complessivo e possono essere sempre considerati come effetti di secondo ordine da includere successivamente nel ragionamento.
Conclusioni
Altre conseguenze meno astratte e di lungo termine provocate della pervasività delle “intelligenze artificiali” nel nostro vivere quotidiano – e dunque nei nostri percorsi di apprendimento informale – sono più facilmente percepibili perché già in atto. Tra queste la modifica delle nostre abilità, a cui dedicheremo una riflessione a parte. Un esempio sicuramente presente ai più è la modifica nelle nostre abilità di orientamento: ormai una buona parte degli individui rinuncia alla memorizzazione di una mappa cittadina fidando nella funzione di navigazione offerta da Google Maps. È interessante notare come alla rinuncia a tale abilità abbiano contribuito anche funzionalità della macchina inaccessibili all’uomo come l’abilità nel valutare l’effetto del traffico e consigliare la strada che risulta più veloce. Per certi versi nulla di nuovo e nulla di strano. Senza tornare troppo indietro nel tempo si pensi alla perdita di “sicurezza” nella scrittura manuale indotta dall’uso dei dispositivi personali quali il laptop o il cellulare.
Al quadro sin qui delineato, come già accennato, dobbiamo necessariamente aggiungere problematiche di carattere ambientale che si stanno già palesando a causa della sempre crescente potenza di calcolo necessaria all’analisi di basi di dati sempre più ampie. Di certo trattasi di problematiche di carattere molto più generale, che fanno riferimento alla sostenibilità ambientale del digitale, tema purtroppo molto spesso trascurato anche quando si affronta l’utilizzo della macchina quale supporto al raggiungimento dei SDGs definiti dall’Unesco per il 2030. Sicuramente varrà la pena ritornare più avanti su questa e altre tematiche collegate alle “intelligenze artificiali”.
AI e scuola, i punti chiave da conoscere
- Dal momento che lo sviluppo del processo di apprendimento è da considerarsi un problema mal posto le basi di dati che si potranno costruire sul tema saranno comunque limitate, per quanto molto vaste;
- la macchina avrà la possibilità di accedere a e analizzare basi di dati sempre molto più vaste di quelle accessibili e analizzabili da un umano e, quindi, di divenire più efficace ed efficiente dell’umano in tutte le attività in cui sarà necessario individuare percorsi ottimali “interni” ai contenuti di tali basi di dati;
- la macchina si potrà muovere solo all’interno di ciò che le è consentito dai contenuti delle basi di dati; quindi, non potrà produrre nuovi “oggetti culturali” in risposta a situazioni non note; ne segue che la macchina potrà risultare abilissima ma non competente;
- l’uomo è in grado di produrre nuovi “oggetti culturali”, contribuendo ad ampliare anche la base di dati a disposizione della macchina.
Da tutto questo si deduce che
• il test di Turing non è probante perché valuta solo l’abilità nell’individuare una risposta ottimizzata; ad esempio, sarà possibile realizzare macchine sempre più performanti nell’interloquire ma esse resteranno pur sempre macchine che utilizzeranno esclusivamente risposte ottimizzate derivate dalla vasta base di dati a loro disposizione;
• il test sulla capacità di produrre nuovi “oggetti culturali” ovvero sull’essere competente diventa così più probante per la distinzione tra macchina e uomo;
• ne segue come corollario che la dimostrazione di competenza è una dimostrazione di coscienza: un’entità cosciente è un’entità in grado di produrre nuovi “oggetti culturali” unitamente alla spiegazione del loro significato e di come siano stati prodotti.
