Le piattaforme tecnologiche – le cosiddette Big Tech – sono sempre più temute e guardate con sospetto dal mondo politico statunitense, visto che ormai queste centralizzano in poche, ricchissime, mani, il cosiddetto “sesto potere” (che ha di fatto cannibalizzato il “quarto”, ovvero la stampa, ed il “quinto” ovvero la televisione).
La Casa Bianca sembra ormai decisa a proseguire sulla strada di una loro maggiore responsabilizzazione e la scorsa settimana ha diffuso i risultati di una “listening session” di esperti e professionisti che hanno individuato sei aree chiave in cui intervenire per calmierare i rischi generati dall’attuale situazione di strapotere delle grandi piattaforme tech e una serie di possibili misure da attuare in questi ambiti.
Queste le sei aree in cui intervenire:
- concorrenza;
- privacy;
- minori;
- lotta alla disinformazione;
- lotta al crimine e agli abusi online;
- discriminazione algoritmica e trasparenza.
I problemi sollevati dagli esperti
Non a caso il primo “settore” sollevato dagli esperti è quello della concorrenza, tema con riguardo al quale l’amministrazione statunitense è sempre molto attenta e attiva (sebbene con alterne fortune nei risultati pratici).
Cannibalizzazione delle pmi
Tra i rischi evidenziati dagli esperti in questo primo settore c’è quello della capacità delle piattaforme tech di “cannibalizzare” il mercato delle piccole e medie imprese americane.
Questo sviluppo perverso del mercato è da tempo noto e dipende da una molteplicità di fattori, primo su tutti il fatto le grandi aziende tech fanno da tramite fra le imprese e i consumatori, ottenendo sostanziose rendite da posizione e imponendo condizioni “calate dall’alto” ai loro clienti, a questo elemento si è recentemente aggiunto il fatto che ai grandi capitali in possesso delle big tech ora, grazie ai big data, si aggiunge una pervasiva conoscenza del mercato locale che spesso supera quello delle piccole e medie imprese declinate sul territorio, depauperando così queste ultime dell’unico punto di forza che era rimasto finora saldamente in mano loro ovvero il rapporto “personale” con il cliente.
Profilazione degli utenti
Il problema dei big data comporta anche il rischio di una profilazione degli utenti al fine di sottoporre agli stessi notizie sempre più polarizzate, creando così una c.d. filter bubble che si autoalimenta con l’utente che al tempo giustifica e conferma la propria visione del mondo sempre più manichea.
Questa attività di profilazione non disciplinata da regole precise comporta anche il rischio di sfruttamento delle vulnerabilità di un soggetto o di un gruppo di soggetti a fini promozionali (pensiamo a campagne pubblicitarie basate su dati sanitari ottenuti o inferiti probabilisticamente).
Big tech, fine della corsa? Come crisi e nuove regole pesano sul futuro
Accesso a servizi/opportunità critiche
Il comunicato della Casa Bianca si concentra poi sul fatto che le piattaforme online giocano un ruolo fondamentale nell’accesso a servizi/opportunità critiche, come ad esempio nel mondo del lavoro.
E l’esempio è sicuramente attuale se solo proviamo a pensare all’impatto negativo che potrebbe avere la sospensione dell’account Linkedin di un soggetto, eppure secondo le regole ordinarie Linkedin è un’azienda come un’altra e potrebbe liberamente scegliere con chi contrarre e con chi no, e con chi sospendere unilateralmente il rapporto contrattuale altrimenti a tempo indeterminato.
Negli Stati Uniti queste problematiche assumono una dimensione più complessa nei molti casi in cui un algoritmo è al servizio del datore di lavoro per selezionare i candidati o valutare le prestazioni lavorative. In questi casi, sottolineano gli esperti sentiti dalla Casa Bianca, la mancanza di trasparenza dell’algoritmo è utilizzata spesso come scudo dalle aziende e piattaforme per evitare di incorrere in responsabilità.
Gli effetti dei social sui minori
Quanto invece ai minori, gli esperti hanno sottolineato gli effetti clinici avversi derivanti dall’uso prolungato dei social media sulla mente di molti bambini e adolescenti.
Oltre a ciò, a preoccupare non poco sono i dati raccolti dalle piattaforme online su questi soggetti particolarmente vulnerabili, con la necessità di intervenire per un utilizzo meno “imprenditoriale” delle piattaforme dedicate ai minori e più concentrato invece sulla loro tutela, ad esempio prevenendo un loro utilizzo eccessivo.
Infine, gli esperti hanno portato l’attenzione alla grande mole di contenuti illeciti presenti online (contenuti potenzialmente dannosi per i minori in contesti come lo sfruttamento sessuale, il cyberbullismo, il cyberstalking e il loro accesso involontario a contenuti per adulti, specie quando avviene all’interno di piattaforme che in teoria dovrebbero essere adatte alla loro fruizione).
Le sei misure
All’individuazione di sei ambiti di rischio, condivisi dai funzionari della Casa Bianca, consegue la proposta, fatta propria dall’amministrazione Biden, di intervenire con una serie di misure, che il comunicato riassume in questi punti:
Concorrenza
In quest’ambito gli esperti propongono di promuovere la concorrenza nel settore tecnologico per ravvivarne il portato innovativo, garantendo la sopravvivenza e la competitività delle piccole e medie imprese. Le misure (auspicabilmente bipartisan) dovrebbero incidere sulla normativa antitrust per prendere in considerazione le specificità del settore tecnologico e delle difficoltà che incontrano le PMI ad approcciarsi a questo mercato.
Privacy
Anche in questo caso si ribadisce la necessità di una normativa federale in tema privacy, che imponga limiti chiari alla capacità di raccogliere, utilizzare, trasferire e conservare i dati personali, includendo limiti precisi alle attività di pubblicità mirata. Le “prescrizioni” del gruppo di esperti sono sostanzialmente in linea con il contenuto delle bozze di American Data Privacy and Protection Act recentemente circolate, che puntano alla minimizzazione dei dati personali raccolti dalle aziende. Gli esperti chiedono però uno sforzo ulteriore per quanto riguarda lo “spostamento” delle responsabilità circa la raccolta dei dati dagli utenti (oggi obbligati a “scandagliare” privacy policy complesse per comprendere il destino dei loro dati e l’estensione di quanto concedono al servizio cui stanno aderendo) ai fornitori dei servizi online, che dovrebbero essere tenuti a raccogliere la minor quantità possibile di dati in relazione allo scopo perseguito per norma e per default.
Minori
Quanto alla protezione di minori gli esperti spingono per una implementazione della stessa fin dalla progettazione delle piattaforme, garantendo loro impostazioni privacy e di tutela rafforzate. Di nuovo viene proposta una limitazione della profilazione dei minori (anche se qualche voce più rigorosa negli Stati Uniti si è levata, proponendo un divieto senza eccezioni di profilare minori, come sta accadendo in UE con la Direttiva UE/2018/1808 sui servizi media audiovisivi e il Digital Services Act di prossima emanazione).
Rimozione delle tutele speciali
Il Governo USA si propone di rimuovere le protezioni normative introdotte ai sensi della Sezione 230 del Communications Decency Act (CDA) che proteggono le piattaforme online quando ospitano o diffondono contenuti illegali. In una direzione simile si sta muovendo anche il legislatore europeo con il Digital Services Act.
Trasparenza dell’algoritmo
Al fine di aumentare la trasparenza degli algoritmi il gruppo di esperti propone di introdurre norme che prescrivano chiarezza sul perché a un utente è presentato un dato contenuto o è presa una data decisione sul suo conto.
Sul punto è significativo l’inciso relativo alla rimozione dei contenuti degli utenti, anch’essa spesso gestita in maniera opaca dalle piattaforme
Tra le righe, sembra di poter intuire che la Casa Bianca progetti una riforma della contestata “clausola del Buon Samaritano”, una disposizione sempre contenuta nella sezione 230 del Communications Decency Act che dà in sostanza “carta bianca” ai gestori delle piattaforme online nel momento in cui gli stessi rimuovono contenuti osceni o violenti, anche se potrebbero costituire oggetto di tutela costituzionale (libertà di espressione). Questa normativa è spesso al centro di critiche perché in sostanza trasforma le grandi piattaforme online in nuovi “censori” del comportamento e delle espressioni dei cittadini USA.
Discriminazione algoritmica
Sul punto il comunicato della Casa Bianca si limita a vaghe indicazioni di massima, proponendo misure a tutela di gruppi deboli e tutele più incisive quando le decisioni algoritmiche condizionano l’accesso ad opportunità chiave. Sul punto della discriminazione algoritmica gli Stati Uniti hanno sempre avuto un approccio estremamente cauto, consentendo l’utilizzo di sistemi proprietari e non trasparenti anche in settori molto delicati come quello dell’amministrazione della giustizia (è celebre il caso dell’impiego dell’algoritmo COMPAS nella valutazione del grado di propensione alla recidiva di un imputato). Un deciso passo indietro e ripensamento delle garanzie da adottare in questi casi sembra doveroso (seguendo magari l’approccio basato sul rischio che già fa da cardine della proposta di Regolamento sull’IA in sede comunitaria), ma è difficile pensare che gli Stati Uniti possano garantire trasparenza (elemento essenziale per scongiurare discriminazioni) quando il settore privato vede questi algoritmi come asset proprietari spesso tutelati da segreto industriale.
Le prospettive
Molti paesi si stanno muovendo nella direzione di calmierare con strumenti normativi lo strapotere delle Big Tech. Il fatto che il governo di Washington, che nella maggioranza dei casi ospita queste piattaforme, si allinei ai principi del legislatore comunitario è senz’altro un segnale importante da un lato dell’urgenza del problema e dall’altro del fatto che la spinta regolatoria in sede europea non deriva da un interesse “sanzionatorio” nei confronti di imprese straniere ma piuttosto da una reale esigenza di tutela di fronte ad un fenomeno nuovo e di difficile regolamentazione.
Raccogliere questa sfida normativa è però un’impresa non da poco, sia per le sfaccettature del fenomeno dell’intelligenza artificiale, che spesso per come è progettata non consente di comprendere il “ragionamento” che porta ad una decisione, sia per i tempi dell’evoluzione tecnologica, che rischiano di rendere già del tutto desuete le normative faticosamente confezionate dal legislatore una volta che queste saranno finalmente approvate.
Conclusioni
In ogni caso il rapporto diffuso dalla Casa Bianca è anche una espressione del conflittuale rapporto del governo di Washington con le grandi piattaforme tecnologiche, rapporto che da sempre è stato ambivalente, ondeggiando fra il fermo sostegno e l’aperto ostracismo.
Non bisogna infatti dimenticare che le Big Tech fanno attività di lobbying come molti altri settori dell’economia USA e finanziano generosamente le campagne elettorali (di solito con contributi a favore di candidati di entrambi gli schieramenti e in maniera abbastanza equilibrata), quindi è inverosimile immaginare un intervento legislativo che non tenga conto della verosimile perdita di supporto (anche economico) che si otterrebbe con una normativa particolarmente penalizzante per le Big Tech.
All’interesse politico si aggiunge infine l’interesse dei cittadini, che domandano una trasparenza effettiva e “agile” dei sistemi online, senza discriminazioni e senza appesantimenti.
L’intervento dell’amministrazione Biden quindi si giocherà in un delicato equilibrio fra questi tre interessi, spesso in contrapposizione fra loro, ed è probabile che la complessità del compito assunto non ci consentirà di vederne i frutti nel breve periodo, fatta eccezione per la disciplina privacy federale, per la quale i tempi sembrano ormai davvero vicini alla maturazione.
