In tutto il mondo le università stanno introducendo l’etica nei corsi di informatica con l’obiettivo di formare la prossima generazione di computer professionals come persone esperte anche sulle questioni sociali ed etiche. Finalmente, quindi, si inizia a parlare della responsabilità sociale dei computer professionals, della loro deontologia professionale, della necessità di includere gli aspetti sociali ed etici nei percorsi di formazione tecnologica.
Le tecnologie digitali sono diventate parte integrante delle infrastrutture portanti della società. Purtroppo, negli ultimi decenni la governance dei complessi sistemi digitali è stata sempre più delegata al mercato e alle tecnologie stesse (più precisamente alle Big Tech). Solo recentemente le altre due dimensioni, le norme e l’educazione, sono state rivalutate: “mercato e tecnologie vanno bene ma senza norme e educazione i rischi per la democrazia sono troppo alti, finalmente si introducono, con l’EU Digital Services Act, delle norme in uno spazio dove finora c’era solo la legge del più forte” (Patrignani, 2021; EU, 2021). Se sul fronte delle norme per il digitale almeno l’Europa si sta muovendo, sul fronte dell’educazione siamo ancora ai primi passi.
Il ruolo dei valori nella Scienza: il caso dell’intelligenza artificiale
Gli informatici sono tutti “guns-for-hire”?
Di fronte a “incidenti” informatici anche molto gravi la domanda che molte persone si pongono è comprensibile: ma gli informatici sono tutti “guns-for-hire”?
Letteralmente i guns-for-hire, sfruttando la loro esperienza e talento solo per il loro guadagno personale, fanno quello che vogliono i loro “clienti”. Il “cliente” che paga decide lo scopo, il fine, i guns-for-hire sono solo il mezzo (Johnson, 2021). Portato all’estremo si potrebbero includere in questa categoria anche killer professionisti, sicari, mercenari.
Qual è allora la differenza guns-for-hire e computer professional?
I guns-for-hire vedono come loro unica caratteristica la conoscenza approfondita di una tecnologia, indipendentemente dal contesto di applicazione. In fondo considerano la scienza e la tecnologia come “neutre”.
Invece i computer professional considerano la conoscenza e l’esperienza solo come una delle loro caratteristiche, si considerano non semplici individui ma membri di una comunità professionale, con una responsabilità sociale, consapevoli del contesto applicativo dei loro progetti, con un impegno a proteggere l’interesse pubblico e l’ambiente. Sono consapevoli che scienza e della tecnologia non sono neutre ma il risultato di una complessa interazione con la società.
I casi più eclatanti
Tra i molteplici e più recenti esempi negativi di “guns-for-hire” si pensi allo scandalo “dieselgate” della Volkswagen: nel mese di settembre 2015 l’EPA (US Environmental Protection Agency) ha comunicato che la casa automobilistica aveva installato un software per manipolare i dati sulle emissioni delle auto con conseguenze pericolose sulla salute umana e sull’ambiente (Rogerson, 2018). Cambridge Analytica è un altro esempio ben noto di sviluppatori software coinvolti in una storia molto controversa: nel marzo 2018 i media di tutto il mondo rivelano che la app facebook “This is Your Digital Life” distribuita sugli smartphone di 270.000 utenti del social network è stata usata per raccogliere i dati personali di circa 87 milioni di persone inconsapevoli. Questi dati hanno poi svolto un ruolo molto controverso in diverse elezioni politiche (Rosenberg e al., 2018).
Altro esempio famoso: nell’ottobre 2018 e nel marzo 2019 in due incidenti aerei muoiono 346 persone. Le indagini hanno scoperto che i due aerei, entrambi Boeing 747 MAX, avevano un malfunzionamento nel MCAS (Maneuvering Features Augmentation System), un software per il controllo automatizzato del volo attivato da un’indicazione errata proveniente da un sensore. Sfortunatamente il sistema ha impedito ai piloti di riprendere il controllo (Laris, 2019).
Fino ai più recenti attacchi alla cybersecurity di grandi infrastrutture e organizzazioni nazionali come l’attacco alla rete dell’energia nel Nord Est degli USA a maggio 2021 (Herman, 2021) o quello ai server della Regione Lazio ad Agosto 2021 (Longo e Mangia, 2021).
Che fare?
Questo tipo di azioni richiedono spesso un livello di conoscenza specialistica molto alto e stanno mettendo a rischio la reputazione dell’intera comunità di computer professional.
In molti casi i problemi sono dovuti anche agli scarsi investimenti in sicurezza informatica ma, di fronte a certi comportamenti, l’importanza del contesto applicativo reale, degli aspetti sociali ed etici diventa evidente: i professionisti dell’informatica devono essere consapevoli sui rischi delle pratiche non-etiche.
Diventa di fondamentale importanza far conoscere anche esempi positivi di computer professional consapevoli del contesto come pure introdurre gli aspetti etici (es. computer ethics) nei percorsi di formazione di informatica.
Esempi positivi
Un primo esempio: un personaggio chiave della storia dell’informatica, Norbert Wiener (1894-1964), fondatore della cibernetica, scrisse: “Non pubblicherò più nessun lavoro che possa arrecare danno nelle mani di militaristi irresponsabili…” (Wiener, 1947). All’opposto, la visione della tecnologia come ‘neutra’ era presente nell’approccio di un altro dei ‘fondatori’, John Von Neumann (1903-1957): “… ho evitato ogni partecipazione ad attività pubbliche, che non sono di natura puramente tecnica” (Von Neumann, 1946). Leggere le lettere di questi due giganti della storia del computer chiarisce molto bene la distanza tra i due approcci (Heims, 1980).
Forse il primo ethical hacker in assoluto nella storia dell’informatica è René Carmille (1886-1945), infatti usa la sua competenza per il bene comune: durante la Seconda guerra mondiale lavorava ai servizi demografici del governo francese dove era una delle poche persone a conoscere la programmazione dei lettori di schede perforate. Usò il suo ingegno per riprogrammare le macchine in modo che esse non scrivessero la “colonna 11”, quella che indicava la religione di appartenenza salvando migliaia di ebrei dai campi di concentramento nazisti. Venne arrestato nel 1944, interrogato e torturato per due giorni, non parlò mai. Venne mandato a Dachau, dove morì nel 1945 (Davis, 2015).
Altro esempio: Severo Ornstein, uno dei principali scienziati informatici che ha lavorato al Lincoln Laboratory del MIT nel 1955, pioniere di Internet presso la Bolt Beranek & Newman nel 1969 e fondatore dell’associazione Computer Professionals for Social Responsibility nel 1983. È sicuramente stato un professionista informatico con una profonda consapevolezza del contesto e dei limiti di molti colleghi: “… mi preoccupavo che molti colleghi avevano la testa bassa e… non prestavano molta attenzione alle conseguenze sociali di ciò che stavano facendo” (Bruemmer, 1994, p.5).
David Parnas è uno dei più grandi scienziati dei computer nel mondo della programmazione “a oggetti”. Nel 1987 l’associazione internazionale Computer Professionals for Social Responsibility (CPSR) istituisce il Premio Norbert Wiener assegnato a persone che hanno dato un contributo all’uso responsabile dei computer. Il primo venne assegnato proprio al prof. David Parnas per la sua posizione contro l’uso dei computer nel progetto SDI (Strategic Defense Initiative) dove il software doveva controllare missili intercontinentali (Parnas, 1985). Nella motivazione, il presidente della CPSR Terry Winograd dichiarò: “… per il suo esempio di responsabilità sociale, etica e professionale nel rifiutarsi di collaborare al progetto SDI … e per il suo impegno nella educazione del pubblico sui rischi e opportunità dei computer per l’interesse della società” (Winograd, 1987).
Edward Snowden divenne famoso nel 2013 quando, dall’interno della National Security Agency (NSA), la massima organizzazione statunitense dedicata alla sicurezza nazionale, rivelò pubblicamente l’esistenza di programmi segreti di sorveglianza di massa basati su tecnologie digitali. Dopo aver inutilmente sollevato internamente le questioni etiche decise di lasciare il lavoro e diventò un caso internazionale quando il 7 giugno 2013, giornali come il New York Times e Der Spiegel pubblicarono le sue rivelazioni. Un esempio di uso delle competenze per l’interesse pubblico. Nel dicembre 2013 è stato nominato personaggio dell’anno dal quotidiano inglese The Guardian.
Vi anche sono molti esempi di computer professional che si sentono in conflitto, mentre applicano le proprie competenze e abilità per lo sviluppo di applicazioni moralmente controverse. Pongono domande che vanno oltre l’aspetto puramente tecnico. Fanno domande sui fini, sugli scopi del loro lavoro alle imprese dove collaborano (Conger e Metz, 2018). Questo spesso genera conflitti: Timnit Gebru, ricercatrice del Ethical Artificial Intelligence Team di Google, è stata licenziata nel dicembre 2020. Stava sollevando preoccupazioni etiche su alcuni usi dell’Intelligenza Artificiale in applicazioni di elaborazione del linguaggio naturale (Criddle, 2020).
Computer ethics
Alcuni esempi dalle grandi università statunitensi che stanno introducendo l’etica nei corsi di informatica : il MIT con il corso Ethics for Engineers; Stanford con il corso Computers, Ethics, and Public Policy; Harvard con Intelligent Systems: Design and Ethical Challenges e con l’iniziativa Embedding ethics in computer science curriculum.
Anche in Italia vanno ricordati alcuni esempi: il Politecnico di Torino con i corsi Etica, Etica delle tecniche e Computer Ethics; il Politecnico di Milano con i corsi Etica digitale, Computer Ethics, Ethics for Technology. In Europa molti corsi di Computer Science prevedono queste competenze etiche, basti ricordare il Center for Computing and Social Responsibility della De Montfort University.
Un importante segnale positivo è l’adozione nel 2020 da parte dell’IFIP (International Federation for Information Processing) del Code of Ethics and Professional Conduct.
Formalizzando così la necessità di andare oltre le competenze tecniche, per aiutare a minimizzare i rischi e gli errori non intenzionali e per guidare i progetti verso un contributo positivo alla società e al pianeta (Patrignani, 2020). Nel preambolo del Codice Etico è scritto: “le attivita delle persone definite ‘computer professional’ cambiano il mondo. Per agire responsabilmente, esse devono riflettere sugli impatti più ampi del loro lavoro, supportando sempre il bene pubblico” (IFIP, 2021).
L’AICA (Associazione italiana per l’informatica ed il calcolo automatico), come membro ufficiale dell’IFIP, segue da tempo questi temi e nei prossimi mesi intende sviluppare il dibattito sugli aspetti sociali ed etici del digitale che ormai devono far parte integrante delle competenze e conoscenze informatiche.
Bibliografia
– Bruemmer, B.H. (1994). An Interview with Severo Ornstein and Laura Gould. Charles Babbage
Institute, Center for the History of Information Processing, University of Minnesota.
– Conger, K., Metz, C. (2018, October 7). Tech workers now want to know: what are we building this
for? The New York Times.
– Criddle, C. (2020, December 8). Thousands more back Dr Timnit Gebru over Google ‘sacking’. BBC
News. Retrieved from https://www.bbc.com/news/technology-55164324
– Davis A. (2015, 1 March). A History of Hacking. The Institute – IEEE. Special Report Cyber
Security. Theinstitute.ieee.org.
– EU (2021). Europe fit for the Digital Age: new online rules for platforms.
– Heims, S.J. (1980), John Von Neumann and Norbert Wiener, from mathematics to the technologies of
life and death. MIT Press.
– Herman, C. (2021, 8 May). Cyber attack shuts down vital fuel pipeline to Norteast US. Forbes.
– IFIP (2021). IFIP Code of Ethics and Professional conduct. https://www.ifip.org/Reports/IFIP-Code-of-Ethics.pdf
– Johnson, D.G. (2021). Engineering Ethics. Yale University Press.
– Laris, M. (2019, June 20). Changes to flawed Boeing 737 Max were kept from pilots, DeFazio says.
The Washington Post.
– Longo, A., Mangia, M. (2021). Ransomware alla Regione Lazio: perché la Sanità è tanto a rischio e 7 punti per rimediare. Agendadigitale.eu.
– Parnas D.L. (1985). Software aspects of strategic defense systems. Communications of
the ACM. 28 (12): 1326-35.
– Patrignani, N. (2020). Verso un Codice Etico globale per l’informatica. Mondo Digitale, N.88, Settembre 2020.
– Patrignani, N. (2021, 2 Agosto). L’innovazione “immorale” della Silicon Valley: superiamo un mantra dannoso. Agendadigitale.eu.
– Rosenberg, M, Confessore, N., Cadwalladr, C. (2018, 17 March). How Trump Consultants Exploited
the Facebook Data of Millions. The New York Times.
– Rogerson, S. (2018). Ethics omission increases gases emission: A look in the rearview mirror at
Volkswagen software engineering. Communications of the ACM, Vol. 61 No 3, March, pp30-32.
– Wiener, N. (1947, January). A Scientist Rebels. Atlantic Monthly.
– Winograd, T. (1987). CPSR President, Presents “1987-Norbert Wiener Award” to David
Parnas. www.cpsr.org.
