La fiducia è un affare complesso. Di norma ci possiamo fidare di altri esseri umani o di noi stessi, e in questo caso si collega all’autostima personale. Per quanto riguarda gli artefatti, la fiducia può avere diverse sfaccettature a seconda che l’oggetto venga percepito come più o meno animato. In questo articolo, rifacendomi al paper di Mark Coeckelbergh indago il tema della fiducia ma nella robotica.
Quasi uomo, quasi robot: quella perfezione incerta che vogliamo ma pure temiamo
La differenza tra fiducia e affidamento
Qual è la differenza tra trust e reliace, tra fiducia e affidamento? In questo caso il senso è legato alla mera funzione, all’aspettarsi che un robot funzioni e porti a termine il suo compito. Per una macchina progettata per le pulizie domestiche diventa fidarsi che effettivamente il robot giri per la casa e raccolga la polvere da ogni angolo. In questo caso è facile fidarsi. In effetti cosa accade se il robot non porta a termine il suo lavoro che gli abbiamo delegato? Cosa accade se si incaglia o scontra qualcosa? Poco. I rischi sono davvero bassi. Se non riconosce un ostacolo tramite i suoi sensori di distanza, beh, poco male: il danno, essendo poco veloce e poco pesante, non sarà mai carico di conseguenze. Ecco perché, secondo quasi tutti gli studi sulle preferenze individuali e culturali in merito all’ambito di applicazione dei robot[1], quello che fa le pulizie non trova resistenza alcuna, prova ne è il successo mainstream di questo oggetto. Ben diverso è il discorso per i robot di assistenza, da quelli umanoidi a quelli il cui design è più legato alla loro funzione. Faticano a trovare l’accoglimento nelle case, negli ospedali, nelle scuole, benché i robotici abbiano dimostrato che si tratta di strumenti sicuri, utili, efficaci. Evidentemente le resistenze dovute a sfiducia, costi, terrori di qualche sorta hanno la meglio sulla consapevolezza teorica.
Robot e categorie interpretative pronte all’uso
Per il robot che pulisce non si riescono a immaginare abusi. Se un drone con videocamera ricorda che è utilizzato in guerra o che può essere impiegato per ledere la privacy e trasportare sostanze pericolose; se l’umanoide può crearci resistenze anche luddistiche, il disco che circola e raccoglie in modo automatico la polvere ci sembra subito chiaro e non cooptabile per altro. Insomma, ci fidiamo o meno a seconda che si riescano a immaginare potenzialità altre rispetto all’uso primigenio.
Per il robot, essendo un oggetto materiale, riusciamo a immaginare bene le sue applicazioni da science fiction. Al contrario dell’IA, delle piattaforme online, delle varie tecnologie digitali che hanno fatto irruzione nelle PA, nelle scuole, negli ospedali, per cui la nostra aspettativa è messa a tacere dall’immaterialità con cui si presentano. I dati, la privacy, gli abusi diventano difficili da leggere. Il robot è lì, con il suo hardware concreto; pertanto, è un oggetto che si presta a diventare parte dei nostri “e se?” Il robot, essendo un oggetto ontologico simile a quelli su cui ci siamo abituati a riflettere nello sviluppo umano, ci porta a interrogarci concretamente sui possibili abusi. Insomma, abbiamo categorie interpretative già pronte all’uso, quelle che abbiamo utilizzato durante lo sviluppo dell’umanità nei suoi rapporti con gli strumenti.
Se i social network non sollevano allarmi perché, per come si presentano, sono quasi invisibili e soprattutto nascondono il fatto che dietro ci siano delle persone in carne ed ossa che manipolano dati, allora la questione della fiducia nella tecnologia si riduce a fidarsi delle persone? Il robot ci fa storcere più facilmente il naso perché ci ricorda una quasi-persona?
Nel paper si afferma che trust non è reliace; trust ha a che fare con le relazioni umane e perciò possiede legami inscindibili con l’etica. Anzi con le etiche che ogni cultura ha sviluppato.
Lavoreremo con i robot: rischi e vantaggi di un futuro inevitabile
Fiducia e vantaggio individuale
La filosofa Taddeo, come fa notare Coeckelbergh, tratta la questione dell’e-trust da un punto di vista occidentale, individualista, e questo è un po’ il limite di ogni dibattito attorno alla fiducia. Insomma, ciò che conta è sempre la stima del vantaggio individuale e il raggiungimento dell’obiettivo sulla base di calcoli razionali rispetto allo scopo o al valore. Per entrare nella relazione di fiducia viene effettuata una stima utilitaristica razionale. Ma è così?
Sembra il discorso pascaliano della fede. Non è possibile in realtà basare una decisione metafisica (fiducia negli altri come fede in Dio) su una scelta economica, una scommessa di perdite e vantaggi. Kierkegaard lo dimostrò bene quanto la scelta costruita sull’imperativo categorico sia fallimentare. L’aut-aut si gioca, che sia nella morale o nella spiritualità, su altri piani, paradossali, inevitabilmente sconcertanti. Per il teologo e filosofo danese è una scelta che si compie da soli, contro il mondo, quindi di nuovo rimaniamo nell’ambito dell’individualismo, ma privo di valutazioni di causa-effetto, di norme razionali desunte da una prospettiva che pretende di essere super partes, ma che non lo sarà mai.
Nel paper si fa cenno alla visione fenomenologica di Myskja (2008), la quale si basa su uno sviluppo della dimensione pragmatica, embodied, della fiducia kantiana piuttosto che su una razionale, asociale.
Esistono alcune precondizioni alla fiducia, perché questa possa darsi. La capacità di usare un linguaggio morale e quindi di essere già un agente inserito nelle maglie sociali, in cui solo può avere senso il linguaggio. Parlare di fiducia e quindi di assunzione di responsabilità indicano che c’è un background di azioni, di pratiche eticamente connotate aventi effetti tracciati nella memoria collettiva. Senza esse lo stesso concetto di affidabilità sarebbe vuoto. Il ragionamento astratto, compiuto dietro al velo di ignoranza di Rowls, non può esistere: prima dobbiamo vivere, esperire pratiche di fiducia, poi può avvenire la parola, che si fissa solo quando gli esseri umani, animali sociali, si fidano che un certo suono indica un mondo comune a cui insieme si reagisce. Il ragionamento astratto, l’epoché sono contrari alla vita: o si vive o si concettualizza, o si dà fiducia o si ragiona intorno a essa.
Fiducia e libertà
Altro prerequisito è la libertà (e quindi l’incertezza). È come la logica del dono, per cui quando si fa omaggio di qualcosa non si è certi che si otterrà in cambio qualcosa. Ecco, dunque, che non ha senso basare la fiducia sulla razionalità, sul calcolo del beneficio, giacché questo è sempre un punto di domanda. Anzi, la fiducia ha il suo valore proprio nella libertà dell’oggetto su cui si fa affidamento di non garantirci alcunché. Questa è la fede, il salto nel vuoto privo di rete di salvataggio, una rete che sarebbe stata intessuta con le maglie razionali della logica e della geometria a quadrati perfetti, perciò inesistenti nella realtà. Non è un caso forse che il paradosso del mentitore sia ciò che sconvolga la completezza della matematica (e dell’algoritmo). C’è qualcosa che resta non incluso, proprio grazie alla bugia, alla sua forma linguistica che crea un loop indecidibile tra il dare fiducia e il suo smacco. Insomma, a differenza del punto di vista kantiano, qui l’incertezza non riguarda l’obiettivo, la conseguenza, ma la relazione, ed è questo che ci fa tornare umani, incarnati e non teste d’angelo alate.
Le tecnologie come oggetti filosofici
Riguardo ai robot il discorso si complica proprio poiché non sono meri oggetti. In virtù del loro essere macchine programmabili, capaci di decidere autonomamente sulla base di sensori e attuatori, anche per essi si può parlare di “quasi-libertà” e “quasi-linguaggio”. Non sono solo artefatti, per cui si applicherebbe l’unico criterio funzionale per il quale ci si fida se la macchina fa quello per cui è nata.
I robot “fanno” più di quanto previsto dagli esseri umani: “co-plasmano il modo in cui comprendiamo e agiamo nel mondo”. Insomma sono agenti parte delle relazioni. In particolare questo è vero quando gli ingegneri sfruttano la caratteristica dei robot di calarsi nelle maglie sociali e modellano la loro apparenza per ingannare (perché di questo si tratta) gli esseri umani e incentivare così l’ingresso nella società. Se l’apparenza emerge, quindi viene mostrato l’inganno con cui si intendeva stimolare la fiducia nell’interazione robot-uomo, non c’è più possibilità alcuna. Se l’imitazione dell’aspetto, dei comportamenti umani risultano contraddittori, la menzogna riemersa annulla ogni ulteriore possibilità di dare fiducia al robot. “Ci fidiamo dei robot se sembrano affidabili e sembrano affidabili se sono buoni giocatori nel gioco sociale”.
I robot, secondo l’autore della ricerca, non funzionano solo nell’imitare l’aspetto, o portare a termine goal. Contribuiscono alla consapevolezza dell’essere umano con cui si relazionano. Su questo punto non posso che essere d’accordo. Più volte ho esplicitato questa mia convinzione, che le tecnologie sono oggetti filosofici, nel senso che sospese dall’attività che portano avanti, interrogate in una epoché, chiariscono caratteristiche, bisogni, desideri dell’agente che li usa. Un po’ come le trappole rivelano abitudini e forme dell’animale per cui sono pensate, altrimenti non funzionerebbero, così qualunque oggetto con cui interagiamo diventa un testo da cui leggere di noi stessi. Pertanto, nel paper si afferma che “valutare se possiamo o meno fidarci dei robot significa valutare il sociale e noi stessi come esseri sociali”.
Conclusioni
Si conclude lo studio puntualizzando sul fatto che il modo in cui pensiamo alla fiducia dipende anche dalla cultura in cui viviamo. Il contesto culturale può essere sia abilitante che limitante. Ad esempio, se una cultura dà più valore alla libertà individuale, sarà più difficile per un robot produrre l’apparenza della libertà e quindi soddisfare questa condizione, come se una popolazione non ha termini per riferirsi ad “agente” può essere difficoltoso pensare al robot come a un decisore razionale. Infine, le culture differiscono nell’estensione e nel modo in cui i robot si inseriscono nel tessuto sociale. Se i robot sono già percepiti e vissuti come parte della società e della cultura, ci si può aspettare un più alto grado di fiducia nei robot. Il ruolo della cultura nella percezione e nell’accettabilità delle tecnologie è un ambito in divenire, che potrebbe chiarire in che modo funzioniamo, giacché come si diceva sopra, fidarsi è fidarsi di noi stessi come animali sociali. Riflettere sugli artefatti è chiarire meglio i bias dell’essere umano ed eventualmente migliorarsi.
- Samani, H., Saadatian, E., Pang, N., Polydorou, D., Fernando, O.N.N., Nakatsu, R., Koh, J.T.K.V. Cultural robotics: The culture of robotics and robotics in culture (2013) ↑
