Le sfide etiche poste dalle interfacce cervello-computer (in inglese, brain-computer interfaces o BCI) e da altre neurotecnologie ci spingono ad affrontare una questione sociale fondamentale: determinare se, o a quali condizioni, è legittimo avere accesso o interferire con l’attività neurale di un’altra persona o della propria.
Questa domanda deve essere posta a vari livelli di giurisdizione, compresa l’etica della ricerca scientifica, la governance tecnologica, l’innovazione responsabile e la protezione dei dati personali. Ma soprattutto, dato che l’attività neurale è largamente considerata come il substrato fondamentale della mente umana, ho proposto di affrontare questa domanda anche a livello dei diritti umani fondamentali [5].
Il cervello, infatti, non è un organo come un altro ma il centro di coordinamento delle funzioni vitali dell’organismo e il presupposto neurobiologico della mente e delle facoltà ad essa afferenti come la coscienza, la memoria, la percezione e il linguaggio, ovvero tutto ciò che ci costituisce come esseri senzienti dotati di una propria identità, dunque definibili come persone.
Cosa sono i neurodiritti
Il termine ‘neurodiritti’ è stato coniato dal giurista argentino Roberto Andorno e dal sottoscritto in una serie di articoli pubblicati tra il 2015 e il 2017 per descrivere la categoria emergente di quei diritti umani fondamentali relativi alla sfera mentale e neurocognitiva.
Una nostra analisi comparativa su questo argomento ha concluso che le garanzie e le protezioni esistenti nei trattati internazionali e altri strumenti per i diritti umani potrebbero essere insufficienti per affrontare adeguatamente le specifiche sfide etiche e legali sollevate dai progressi dell’interfaccia cervello-macchina [5]. Questo perché molti di questi trattati furono concepiti e adottati molto prima che le neurotecnologie diventassero realtà concreta. Ad esempio, la dichiarazione universale dei diritti umani fu adottata dall’Assemblea generale delle Nazioni Unite nel 1948, dunque oltre due decenni prima dei primi prototipi interfacce cervello macchina e mezzo secolo prima delle loro prime applicazioni in soggetti umani.
I quattro nuovi neurodiritti necessari
In questo scenario tecnologico in rapida evoluzione, sosteniamo che è fondamentale determinare quali diritti gli individui siano autorizzati a esercitare in relazione alla loro dimensione mentale. In particolare, sosteniamo la riconcettualizzazione evolutiva dei diritti fondamentali esistenti ed eventualmente la creazione di quattro nuovi neurodiritti: il diritto alla libertà cognitiva, il diritto alla privacy mentale, il diritto all’integrità mentale e il diritto alla continuità psicologica.
Privacy mentale
In primo luogo, il diritto alla privacy mentale dovrebbe proteggere gli individui dai tre tipi di rischio per la privacy delineati in precedenza. Nella sua connotazione positiva, questo diritto dovrebbe permettere agli individui di mettere al sicuro le informazioni neurali da accessi e controlli non voluti, specialmente dalle informazioni elaborate sotto la soglia della percezione cosciente. È plausibile che le persone siano più vulnerabili alle violazioni della privacy mentale rispetto ad altri domini di privacy informazionale a causa del loro limitato grado di controllo volontario dei segnali cerebrali [5]. Nel prossimo futuro, con la crescente disponibilità di archivi di dati neurali condivisi privatamente o pubblicamente e i progressi paralleli nella scoperta dei correlati neurali del comportamento, è plausibile aspettarsi una corsa alle armi degli algoritmi in grado di elaborare dati neurali per creare modelli predittivi delle preferenze dei consumatori e del loro comportamento. Inoltre, vi è un concreto rischio di microtargetizzazione e profilazione basati su caratteristiche neurocognitive di individui o gruppi.
Continuità psicologica
In secondo luogo, il diritto alla continuità psicologica intende preservare l’identità personale delle persone e la continuità della loro vita mentale da alterazioni esterne non volute da terzi. A differenza del diritto all’integrità mentale, questo diritto si applica anche agli interventi non autorizzati di modifica della personalità che non comportano un danno fisico o psicologico diretto alla vittima, ad esempio neurointerventi per scopi militari finalizzati a modulare al rialzo l’aggressività o la soglia di tolleranza del dolore dei soldati. Il diritto alla continuità psicologica è particolarmente rilevante anche in relazione alle strategie di marketing invasive come quelle in cui la pubblicità è appositamente progettata per aggirare le difese razionali di una persona e alterare le sue preferenze o il suo comportamento.
Gli utenti di BCI dovrebbero sempre mantenere il diritto di avere controllo sul proprio comportamento, senza sperimentare “sentimenti di perdita di controllo” o addirittura una “rottura” dell’identità personale recentemente rilevati da studi qualitativi con pazienti [7]. Allo stesso tempo, il diritto alla continuità psicologica è adatto a proteggere da interventi non consenzienti da parte di terzi, come la neuromodulazione non autorizzata. Questo principio potrebbe diventare particolarmente importante nel contesto della sicurezza nazionale e della ricerca militare, dove le neuroapplicazioni che alterano la personalità sono attualmente in fase di test per scopi strategici [9].
Integrità mentale
Il diritto all’integrità mentale, che è già riconosciuto dal diritto internazionale (articolo 3 della Carta dei diritti fondamentali dell’UE) per quanto riguarda la promozione della salute mentale, dovrebbe essere ampliato per proteggere anche dalle manipolazioni illecite e dannose dell’attività mentale delle persone abilitate dalle neurotecnologie. Le nuove forme di minacce per l’integrità mentale, rese possibili dalle neurotecnologie, possono includere la neurostimolazione indesiderata, il neurohacking malevolo e la manipolazione potenzialmente dannosa della memoria. Questo diritto è particolarmente rilevante nel contesto della sicurezza nazionale, dove interventi potenzialmente dannosi nella neurocomputazione di una persona potrebbero essere giustificati alla luce di maggiori obiettivi strategici. Pertanto, una riconcettualizzazione di questo diritto fondamentale dovrebbe mirare non solo a proteggere dalla malattia mentale, ma anche a delimitare il dominio della manipolazione legittima dell’elaborazione neurale.
Libertà cognitiva
Infine, un diritto alla libertà cognitiva dovrebbe proteggere la libertà fondamentale degli individui di prendere decisioni libere e competenti sull’uso degli BCI e di altre neurotecnologie. Sulla base di questo principio, gli individui adulti competenti dovrebbero essere liberi di usare le BCI sia per scopi clinici che di potenziamento cognitivo, purché non violino le libertà di altre persone. Allo stesso tempo, essi dovrebbero avere il diritto di rifiutare applicazioni coercitive, comprese quelle implicitamente coercitive [10]. Crediamo che questa considerazione sia particolarmente importante per prevenire scenari futuri in cui lo Stato, le grandi aziende o attori malevoli potrebbero manipolare con la forza gli stati mentali dei singoli cittadini.
Dalla teoria alla pratica
Questa nostra proposta di creare diritti neuro-specifici è stata recentemente promossa e rilanciata da esperti di technology assessment [11] e dai neuroscienziati del Morningside Group [1], un network di esperti coordinato dal celebre neuroscienziato Rafael Yuste.
Dalla nostra prima concettualizzazione ad oggi, dunque in poco più di un lustro, i neurodiritti sono passati dall’essere una semplice ipotesi teorica a diventare strumenti concreti di governance tecnologica e dibattito legislativo a livello internazionale. Lo scorso dicembre, il senato della Repubblica del Cile ha approvato una legge di riforma costituzionale che definisce l’integrità mentale come un diritto umano fondamentale, e una legge sulla “neuroprotezione” (in spagnolo, neuroprotecion) che protegge i neurodiritti e applica l’etica medica esistente, codificata dall’attuale codice medico cileno, all’uso delle neurotecnologie per l’intera popolazione.
Anche il governo della Spagna sta facendo il punto della situazione: il Segretario di Stato per l’Intelligenza Artificiale ha recentemente pubblicato una Carta dei diritti digitali che incorpora i neurodiritti come parte dei diritti dei cittadini per la nuova era digitale. In Italia, l’autorità garante per la protezione dei dati personali ha dedicato al tema dei neurodiritti l’ultima Giornata europea della protezione dei dati personali dello scorso 28 gennaio.
I neurodiritti si stanno affermando come nuovi strumenti di governance anche a livello sovranazionale, tramite l’attività normativa di organizzazioni intergovernative. Tra gli altri, l’Organizzazione per la cooperazione e lo sviluppo economico (OCSE) ha istituito un Comitato Direttivo sulle Neurotecnologie e approvato, nel Dicembre 2019, la Raccomandazione sull’Innovazione Responsabile nelle Neurotecnologie, la quale segna il primo standard internazionale in questo campo. La Raccomandazione include i neurodiritti alla privacy mentale e alla libertà cognitiva. Il Consiglio d’Europa, nel frattempo, ha lanciato un piano d’azione strategico quinquennale per esplorare le implicazioni delle neurotecnologie sui diritti umani. Il piano d’azione è finalizzato ad esplorare la possibilità di integrare i neurodiritti all’interno delle altre convenzioni sui diritti umani del Consiglio. Infine, una proposta di “Dichiarazione Universale sulle Neuroscienze e i Diritti Umani” è stata avanzata presso l’UNESCO [12], il cui comitato internazionale di bioetica ne sta valutando la stesura.
Una tabella di marcia per una neuroingegneria responsabile
Nonostante questi rapidissimi sviluppi in ambito normativo, molte domande devono ancora essere affrontate. In primo luogo, rimane una questione aperta se i neurodiritti debbano essere visti come disposizioni legali nuove di zecca o piuttosto come interpretazioni evolutive dei diritti umani esistenti.
Allo stesso modo, non è chiaro chi dovrebbe essere l’attore a cui vengono attribuiti i neurodiritti, se il cervello stesso, come è stato recentemente proposto [11], o l’intera persona. Infine, le zone grigie della disposizione legale ed etica dovrebbero essere ulteriormente esplorate. Per esempio, mentre un diritto alla libertà cognitiva potrebbe proteggere le libere scelte degli adulti competenti, è discutibile se i genitori dovrebbero avere il diritto di neuroingegnerizzare i loro figli o se i rappresentanti della famiglia dovrebbero avere il diritto di rifiutare neurointerventi clinicamente benefici a pazienti cognitivamente disabili. Affrontare questo tipo di dilemmi morali richiederà un dibattito aperto e pubblico che coinvolga non solo scienziati, giuristi ed eticisti ma anche i cittadini in generale. Inoltre, le valutazioni d’impatto etico e legale dovrebbero essere basate su prove scientifiche e tempi realistici, evitando narrazioni di paura che potrebbero ritardare l’innovazione scientifica e cancellare i benefici dell’BCI per la popolazione che ne ha bisogno.
Nell’affrontare queste domande fondamentali, le valutazioni etiche non dovrebbero essere reattive ma proattive. Invece di reagire semplicemente ai conflitti etici sollevati da nuovi prodotti, gli esperti di etica e diritto digitale hanno il dovere di lavorare insieme a neuroscienziati, neuroingegneri e clinici per anticipare le sfide etiche e sviluppare prontamente soluzioni proattive. Un framework per la progettazione etica proattiva nella neuroingegneria è stato recentemente proposto [13] e potrebbe essere applicato a varie aree di ricerca sulle neurotecnologie.
Inoltre, risposte politiche calibrate sono necessarie a far fronte a questioni relative all’equità e all’uguaglianza. Le BCI dovrebbero essere distribuite equamente e non dovrebbero mai esacerbare le disuguaglianze socioeconomiche preesistenti. Mentre l’accesso agli usi biomedici delle BCI dovrebbe essere il più diffuso possibile, dovrebbero essere incentivate le iniziative di sviluppo aperto tra cui hackathon, piattaforme open-source (ad esempio Open BCI) e iniziative di condivisione dei dati guidate dai cittadini. In parallelo, il crescente coinvolgimento di compagnie a scopo di lucro nello sviluppo dell’BCI ci spinge a valutare la responsabilità democratica dello sviluppo tecnologico guidato dalle aziende. In un futuro non troppo lontano in cui l’interfaccia cervello-macchina sarà sempre più diffusa, ci sarà un crescente bisogno di mantenere la fiducia nella condivisione dei dati tra i cittadini. Questo può essere ottenuto attraverso regole chiare per la raccolta dei dati e il loro uso secondario, nuove infrastrutture digitali per la protezione dei dati, una maggiore consapevolezza collettiva e l’applicazione ponderata dei neurodiritti.
Conclusioni
In sintesi, proteggere la dimensione mentale dell’essere umano da nuove forme di sfruttamento è una grande sfida sociale che deve essere affrontata a vari livelli, in primis a livello di diritti fondamentali. Emendamenti coordinati al quadro dei diritti umani esistenti sono in cantiere in molte aree del globo al fine di massimizzare i benefici delle neurotecnologie per la società e l’individuo, proteggendo al contempo i diritti e le libertà fondamentali.
Neurotecnologie, governi e big tech al lavoro: evoluzione e sfide etiche
______________________________________________________________________________
Bibliografia
Yuste, R., Goering, S., Bi, G., Carmena, J.M., Carter, A., Fins, J.J., Friesen, P., Gallant, J., Huggins, J.E., and Illes, J.: ‘Four ethical priorities for neurotechnologies and AI’, Nature News, 2017, 551, (7679), pp. 159
Clausen, J., Fetz, E., Donoghue, J., Ushiba, J., Spörhase, U., Chandler, J., Birbaumer, N., and Soekadar, S.R.: ‘Help, hope, and hype: Dimensioni etiche delle neuroprotesi’, Scienza, 2017, 356, (6345), pp. 1338-1339
Ienca, M.: ‘Neuroprivacy, neurosecurity e brain-hacking: Emerging issues in neural engineering’, in Editor (Ed.)^(Eds.): ‘Book Neuroprivacy, neurosecurity and brain-hacking: Emerging issues in neural engineering’ (Schwabe, 2015, edn.), pp. 51-53
Ienca, M., e Haselager, P.: ‘Hacking the brain: brain-computer interfacing technology and the ethics of neurosecurity’, Ethics and Information Technology, 2016, 18, (2), pp. 117-129
Ienca, M., and Andorno, R.: ‘Verso nuovi diritti umani nell’era delle neuroscienze e delle neurotecnologie’, Life Sciences, Society and Policy, 2017, 13, (1), pp. 5
Haselager, P.: ‘Ho fatto questo? Brain-Computer Interfacing and the Sense of Agency’, Minds and Machines, 2013, 23, (3), pp. 405-418
Gilbert, F., Cook, M., O’Brien, T., and Illes, J.: ‘Embodiment and Estrangement: Results from a First-in-Human “Intelligent BCI” Trial’, Science and Engineering Ethics, 2017
Ienca, M.: ‘Il diritto alla libertà cognitiva’, Sci. Am., 2017, 317, (2), pp. 10-10
Tennison, M.N., e Moreno, J.D.: ‘Neuroscienze, etica e sicurezza nazionale: The State of the Art’, PLoS Biol., 2012, 10, (3), pp. e1001289
Hyman, S.E.: ‘Potenziamento cognitivo: promesse e pericoli’, Neuron, 2011, 69, (4), pp. 595-598
Cascio, J.: ‘I cervelli hanno bisogno di diritti?’, New Scientist, 2017, 234, (3130), pp. 24-25
Pizzetti, F.: ‘Una proposta per una: “Dichiarazione universale sulle neuroscienze e i diritti umani”‘, Voci Bioetiche (Newsletter della cattedra di bioetica dell’Unesco), 2017, 6, (10), pp. 3-6
Ienca, M., Kressig, R.W., Jotterand, F., and Elger, B.: ‘Proactive Ethical Design for Neuroengineering, Assistive and Rehabilitation Technologies: the Cybathlon Lesson’, J. Neuroeng. Rehabil., 2017, 14, pp. 115
- Bioeticista presso il Department of Health Sciences and Technology del Politicnico Federale di Zurigo e membro del Comitato Direttivo dell’OCSE sulle neurotecnologie. ↑
