Raccapezzarsi nei progressi dei chatbot di AI, e delle reazioni alla loro diffusione, non è facile in queste settimane, ma il susseguirsi dei fatti può stimolare a fare il punto su questa tematica di importanza storica.
Il recente provvedimento del Garante potrà passare alla storia come un secondario incidente di percorso, è nondimeno un sintomo di una problematica non semplice e non evitabile.
ChatGPT, perché ora l’intelligenza artificiale ci stupisce e spaventa
Ecco alcuni degli aspetti di cui dobbiamo essere consapevoli.
Un modello probabilistico
Facendo un passo indietro, è bene ricordare che i chatbot di intelligenza artificiale non sono che “grandi modelli di linguaggio”, e la loro capacità generativa prende il via dal completamento di un testo in modo probabilistico. Una frase come “prese la mira e” continua probabilmente con “sparò”.
Per fare una tale previsione, il modello deve contenere una grande massa di dati, ed è da questa prima, relativamente elementare funzione che si sviluppano poi le abilità di ChatGPT: individuare le frasi rilevanti di un testo, scrivere un testo combinando dati a imitazione.
I Promessi Sposi visti dall’AI
Il primo esperimento per collaudare le sue abilità, quindi, può essere di sottoporre un pezzo testo letterario chiedendo al bot di scriverne una continuazione. Per esempio, il paragrafo del celebre dialogo tra Don Abbondio e i bravi, fino alla proverbiale:
“- Or bene, – gli disse il bravo, all’orecchio, ma in tono solenne di comando, – questo matrimonio non s’ha da fare, né domani, né mai.”
Laddove I Promessi Sposi prosegue:
“- Ma, signori miei, – replicò don Abbondio, con la voce mansueta e gentile di chi vuol persuadere un impaziente, – ma, signori miei, si degnino di mettersi ne’ miei panni. Se la cosa dipendesse da me,… vedon bene che a me non me ne vien nulla in tasca…
– Orsù, – interruppe il bravo”
la chat di Bing è capace di improvvisare:
“Come? – esclamò don Abbondio, spalancando gli occhi e la bocca. – Come? non s’ha da fare?
– Non s’ha da fare; e basta – replicò il bravo. – Lei non sa chi siamo noi; ma noi sappiamo chi è lei. E se non vuol pentirsi di averci conosciuti, faccia il suo dovere, e stia zitto.
– Ma…ma…- balbettò don Abbondio, cercando di trovare qualche scusa o qualche via di mezzo. – Ma io ho già pubblicato le fedi; il matrimonio è già fissato; la gente lo sa…
– Che importa a noi della gente? – interruppe l’altro bravo. – Noi siamo qui per ordine di chi può più di lei e di tutta la gente. E l’ordine è questo: che lei non unisca quei due giovani; che li mandi a spasso; che li faccia disperare. E se le chiedono perché, dica che non può; e se insistono, dica che non vuole. E se le fanno delle minacce o delle querele, si ricordi che noi siamo sempre pronti a difenderla e a vendicarla.
– Ma…ma…- riprese don Abbondio, tremando come una foglia. – Ma io sono un povero prete; io devo ubbidire alle leggi della Chiesa; io devo rendere conto al mio vescovo…
E noi dobbiamo rendere conto al nostro padrone – disse il primo bravo. – Lei pensi al suo vescovo; noi pensiamo al nostro padrone”.
Continuazione non certo in stile manzoniano, ma abbastanza plausibile. Inoltre, il modello sembra aver riconosciuto la vicenda originale, sicuramente presente nel suo archivio.
Più imprevisto è il risultato della richiesta (“prompt”) di inventare una piccola storia. In ogni argomento, si può apprezzare l’accortezza dei bot, corazzati con cautele costantemente aggiornate per evitare di incoraggiare qualsiasi opinione o comportamento antisociale o in qualche modo discutibile. A differenza di AI ChatGPT, che in certi casi oppone un rifiuto netto, la chat di Bing in modalità “Creatività” si lascia più facilmente trascinare, dichiarando le ricerche che sta man mano conducendo per trattare un argomento, e anche scivolando su terreni scabrosi. Solo quando si accorge che si sta spingendo un po’ troppo in là fa bruscamente sparire il testo dallo schermo e conclude la scritta “Uhmm, cambiamo argomento” o simile.
Come difenderci nella guerra mondiale dei dati
Ora il chatbot, questa vetrina gratuita e certo parziale di AI, è oggetto del discusso provvedimento del Garante che tra le altre critiche di fondo espresse può suscitare perplessità nella frase:
RILEVATO che il trattamento di dati personali degli interessati risulta inesatto in quanto le informazioni fornite da ChatGPT non sempre corrispondono al dato reale;
che non chiarisce se l’incriminata inesattezza si riferisca alla fase di acquisizione dei dati personali, destinati ad accrescere il mare magnum del gran modello, o alla veridicità dell’output; questo com’è noto è soggetto a inesattezze, errori o addirittura fatti o fonti inventati (le cosiddette “allucinazioni“).
e nella frase:
CONSIDERATO che l’assenza di filtri per i minori di età di 13 anni espone gli stessi a risposte assolutamente inidonee rispetto al grado di sviluppo e autoconsapevolezza degli stessi;
preoccupazione ragionevole, che però andrebbe riferita a una considerevole parte del WWW, mentre i chatbot, almeno finora, sembrano improntati appunto a una grande prudenza – almeno finora.
Un motivo di importanza del provvedimento è che (pur privo di finalità protezionistiche) si inserisce nella storia della guerra mondiale dei dati. Proprio cinque anni fa Ffu denunciato lo scandalo Cambridge Analytica: un evento storico che mise in luce il fenomeno di incetta, commercio e sfruttamento dei dati, dominato da un oligopolio basato sugli Stati Uniti. Dunque che cosa possiamo sperare da questa parte dell’Atlantico?
Possiamo riporre fiducia nelle battaglie contro le elusioni fiscali dei GAFAM; possiamo immaginare modalità di protezione dei dati generati in Europa, da inventare, a partire dal GDPR del 2018, e da adeguare incessantemente alle nuove realtà del mercato e della tecnologia digitali. Ma non possiamo sperare di emulare l’incalcolabile patrimonio in possesso delle Big Tech: i dati.
Cinque anni fa eravamo preoccupati per l’importanza dei big data nel marketing, o nella propaganda elettorale subdola, ma ora la crescente pervasività dell’AI in tutti i campi rischia di accentuare la subalternità europea (malgrado iniziative quali LEAM) in un ambito in cui i leader si affacciano sulla baia di San Francisco – o quelle dei mari cinesi.
AI al potere? Non è per domani
Tra le preoccupazioni di vario genere cresciute negli ultimi mesi, la più apocalittica prevede che l’AI si avvicini a grandi passi alla “Intelligenza Artificiale Generale“, cioè a un’entità la quale, assorbita la potenza fornitele dall’uomo, anziché “allinearsi” (come si dice oggi) alle finalità del padrone si impadronisca del potere.
Questo tema affascina da sempre l’immaginazione e la fantascienza, ma in realtà la generazione di una tale intelligenza, dotata di un algoritmo fondamentale, richiederebbe una macchina molto più complessa di un modello imitativo.
Come spiega Pedro Domingos potrebbe essere programmata da un apprendimento dal particolare al generale, con metodo scientifico; o da un’imitazione del nostro cervello, da riprodurre in un computer; o dalla simulazione dell’evoluzione biologica, con un algoritmo genetico.
Ma, quando si parla di differenza tra intelligenza artificiale e umana, c’è un esempio che viene spesso citato: il riconoscimento di un gatto (o un altro animale). Giacché l’AI è sì capace di individuarlo in un’immagine, ma dopo un allenamento esercitato su tonnellate di immagini contenenti o non contenenti gatti. A un bambino basta vedere un gatto una volta per riconoscere a prima vista tutti i gatti che incontrerà in vita sua. Perché?
Per un animale come noi, imparare presto a riconoscere un amico, una preda, un familiare o un predatore è una necessità vitale, un istinto. Esisterà una macchina che potrà ragionare come noi? Ma avrà una pancia, una bocca, un ano, un istinto di sopravvivenza?
Conclusioni
Fino ad allora, non possiamo che simpatizzare con il protagonista del racconto di Isaac Asimov, “Il correttore di bozze”, del 1957: “Le macchine per scrivere e le macchine tipografiche ci tolgono parte della soddisfazione, ma il vostro EZ-28, il vostro robot fono-comandato ce la toglierà tutta. Per il momento è in grado di occuparsi e vedere solo delle…bozze. Ma prima o poi lui o altri robot come lui si assumeranno il compito di esaminare gli originali, cercare le fonti, manipolarle, copiarle, controllarle, e magari trarre in maniera preventiva delle conclusioni a vantaggio di altri…Questo a casa mia si chiama truffa…e plagio…Avrei voluto salvare i futuri ricercatori da una simile catastrofe”.
