Vi è mai capitato di acquistare un prodotto o servizio online e notare dei costi inattesi solo al momento di completare l’acquisto? Oppure di trovarvi automaticamente iscritti a una newsletter per la quale non ricordate di aver fatto richiesta di iscrizione? O ancora, di voler cancellare la vostra iscrizione ad un determinato servizio, come l’abbonamento a un giornale, ma di scoprire che il procedimento è incredibilmente macchinoso e richiede tempo e sforzo da parte vostra?
Se avete avuto simili esperienze non sentitevi soli o inadeguati a utilizzare i servizi Internet: piuttosto, è probabile che chi vi ha fornito quel prodotto o servizio abbia inserito nella struttura del sito o nell’interfaccia grafica delle caratteristiche particolari, che vi hanno spinto, spesso inconsapevolmente, a fare scelte più convenienti per sé che per voi.
Trasparenza web, attenti ai “dark pattern”: il ruolo del “legal design” per la tutela degli utenti
Ciò su cui ci focalizziamo di seguito sono quindi le opportunità per reagire a simili disegni, che in alcuni casi possono risultare in veri e propri soprusi, senza dover necessariamente contare sulle protezioni garantite dal legislatore.
Il trabocchetto dei dark pattern e la controffensiva delle SAPETs
Gli esperti chiamano simili trabocchetti “dark patterns,” o “schemi oscuri” (ce ne sono molte tipologie diverse; per una descrizione esaustiva si rimanda a Mathur et al. 2019). Cosa possiamo fare, concretamente, per restituire direttamente il favore ad un venditore da cui ci sentiamo manipolati tramite un dark pattern?
Un gruppo crescente di accademici si sta recentemente interessando a questo problema, che chi scrive chiama “Strategic Adversarial Privacy Enhancing Technologies,” SAPETs in breve, o strategie tecnologiche antagonistiche per la protezione della privacy.
Spieghiamo anzitutto i singoli termini. Molti lettori avranno già sentito parlare di PETs, simpatico acronimo anglosassone che indica qualsiasi tecnologia che possa essere usata per la protezione della propria privacy e che rimanda alla parola “pets,” che significa animali domestici, e fa quindi pensare a un amico, un alleato.
Alcuni esempi di PETs sono gli strumenti di comunicazione crittografata come le app di messaggistica con criptaggio end-to-end (ad esempio Signal), i fornitori di email criptate (ad esempio Tutanota), i programmi per navigare su Internet in modo anonimo e sicuro (come Tor), o i servizi di doppia autenticazione (come la chiave elettronica fornita da alcune banche che genera dei codici di sicurezza di brevissima durata ogni volta si voglia eseguire una transazione finanziaria).
Il termine “strategie” è preso a prestito dal gergo economico e più specificatamente dalla branca di teoria dei giochi, che ci indica come rispondere a determinate scelte di un agente economico con cui ci rapportiamo massimizzando il nostro rendiconto personale.
Nel nostro caso, il termine si riferisce al fatto che l’utente deve scegliere come rispondere ad un dark pattern che ha incontrato e ritenuto illegittimo, potenzialmente coordinandosi con altri utenti rimasti insoddisfatti, così da aumentare l’impatto della propria azione. Il termine “antagonistiche” si riferisce alla natura ritorsiva di tale azione, che è mirata a danneggiare in qualche modo chi ci ha sottoposto a manipolazione tramite un dark pattern. Infine, l’acronimo include la protezione della privacy in quanto, anche se non tutti i dark patterns hanno direttamente a che fare con la raccolta o l’utilizzo di dati personali, tutti influenzano la nostra autonomia di scelta (riducendola), la nostra capacità di decidere per noi stessi senza manipolazioni esterne, più o meno eclatanti – e il concetto di privacy in senso lato include anche la libertà di scelta.
In cosa consistono le SAPETs
Spiegato l’acronimo, cerchiamo quindi di illustrare in cosa consistano le SAPETs. Anzitutto, ci teniamo a precisare che si tratta esclusivamente di strategie benigne e assolutamente legittime, la cui diffusione ha il solo scopo di disincentivare l’utilizzo di dark patterns intrusivi. Una prima tipologia consiste nel pubblicizzare la cattiva fama di un’azienda che utilizza dei dark patterns semplicemente denunciandone l’esistenza.
A tal proposito sono state create diverse iniziative che consentono ai consumatori di contribuire, con le loro esperienze personali, alla creazione di liste contenenti i nomi di aziende dalle pratiche commerciali poco trasparenti. Un esempio è la Dark Pattern Tip Line , che invita chiunque abbia incontrato un dark pattern a condividere dettagli sulla propria esperienza. I contributi individuali sono fondamentali, in quanto, sebbene alcuni dark patterns possano essere individuati in maniera automatizzata attraverso dei bots (programmi che, sito dopo sito, esaminano una parte considerevole della rete e registrano i loro incontri con specifiche tipologie di dark pattern), altri sono troppo complessi e richiedono un intervento umano.
Inoltre, molti siti moderni sono in grado di bloccare immediatamente un visitatore automatizzato come un bot, il quale quindi non sarà in grado di verificare la presenza o meno di un dark pattern. Piattaforme come la Dark Pattern Tip Line funzionano quindi solo con la collaborazione del pubblico e possiedono le classiche caratteristiche di un network: il loro valore è tanto maggiore quanto maggiore è l’adesione degli utenti. Non è utile a nessuno una piattaforma sconosciuta che nessuno visita e a cui nessuno contribuisce. È necessaria quindi una certa coordinazione affinché il pubblico sia inizialmente incentivato a contribuire, finché la piattaforma non sia in grado di autoalimentarsi grazie alla sua intrinseca crescente utilità.
L’offuscamento
Una seconda tipologia di SAPETs consiste in una serie di tattiche che alcuni hanno definito di “obfuscation” o offuscamento (Brunton & Nissenbaum 2015). L’idea generale alla base dell’offuscamento è la presa di coscienza da parte dei consumatori della loro fondamentale importanza nella redditività del mercato dei dati e delle informazioni personali (Vincent et al. 2021): senza un volontario contributo di dati, quella redditività sparisce.
Aziende grandi e piccole possono estrarre profitti considerevoli dalla loro capacità di raccogliere dati sui propri utenti e di crearne profili dettagliati e accurati. È dunque forse poco sorprendente che alcune di esse utilizzino dark patterns per raccogliere la maggior quantità possibile di informazioni sui propri clienti. I profitti associati al mercato dei dati derivano in gran parte da raccomandazioni e pubblicità personalizzate, che possono essere più o meno chiaramente manipolative delle nostre scelte. Non per tutti le raccomandazioni o pubblicità personalizzate costituiscono un problema: in effetti, alcune sono utili a scoprire prodotti o servizi di cui non eravamo a conoscenza, o ci consentono di ottenere sconti e promozioni.
La raccolta di dati a scopi pubblicitari, tuttavia, può contribuire a causare seri problemi, sia a livello individuale, come nel caso della discriminazione di prezzo (si veda ad esempio questo studio sui diversi prezzi per camere d’albergo ed automobili a noleggio negli Stati Uniti) o nel mondo del lavoro (Acquisti & Fong 2020), sia a livello sociale, come la potenziale manipolazione di elezioni democratiche (Aral & Eckles 2019; Epstein & Robertson 2015). Se personalmente preferiamo evitare l’effetto persuasivo di tali tecniche di vendita, che possiamo ritenere più o meno subdole, la strategia forse più efficace è proprio l’offuscamento, che si tradurrà in minor manipolazione per noi e minori profitti per l’azienda che le propone, con il risultato finale di ridurre l’incentivo ad utilizzarle.
Ci sono diverse modalità di offuscamento. Il più intuitivo e quello che richiede meno sofisticazione tecnologica è probabilmente il semplice rifiuto a fornire dati personali. In molti casi, tuttavia, questa soluzione non è implementabile, in quanto implica la rinuncia all’utilizzo di un servizio o prodotto – forse uno dei più diffusi ed anche peggiori dark patterns, in quanto esclude potenzialmente dal mercato tutti coloro che non siano disposti ad accettare i termini di utilizzo che impongono la condivisione di dati personali. Se poi il servizio o prodotto è necessario e non è offerto da altre aziende più sensibili verso le preoccupazioni relative alla privacy, si obbliga di fatto il consumatore ad accettare ingiuste intrusioni.
Un’alternativa in taluni casi possibile consiste nel fornire dati incorretti o solo parzialmente corretti o non identificativi: ad esempio, se per acquistare un servizio o prodotto viene richiesto di creare un profilo personale sul sito del venditore, si può fornire un indirizzo email che non contiene il nostro nome, creato appositamente per simili occasioni. In maniera simile, si può evitare la creazione di dossier accurati sui nostri gusti e le nostre preferenze fingendo interesse per argomenti, prodotti o servizi che in realtà non attirano la nostra attenzione. Un’interessante soluzione automatizzata è AdNauseam, un’estensione sviluppata per i browser Firefox, Chrome e Opera che clicca automaticamente su ogni pubblicità che appare nei siti che visitiamo: minimo sforzo (la sola installazione del programma), molta efficacia nell’impedire ad aziende di marketing di conoscere i nostri veri interessi.
The Citizen Browser Project
Un’ultima tipologia di SAPETs su cui ci soffermiamo impone, invece, maggiori costi all’utente e consiste nella collaborazione con enti che cerchino di rendere trasparenti gli algoritmi che determinano quali contenuti, quali raccomandazioni e quali pubblicità ci vengono proposti. Se siamo più consapevoli delle informazioni che vengono utilizzate per la personalizzazione dei contenuti che vediamo, possiamo essere più selettivi e attenti nello scegliere cosa condividere e con chi, magari utilizzando a nostro vantaggio quegli stessi dark patterns che alcuni fornitori potrebbero aver messo a punto per influenzare le nostre scelte. Una notevole iniziativa della testata giornalistica no profit The Markup sta tentando di ricostruire come Facebook e Youtube scelgono i contenuti da mostrarci. L’indagine, denominata The Citizen Browser Project, richiede la collaborazione di un piccolo campione rappresentativo della popolazione statunitense: 1200 utenti hanno accettato, dietro pagamento, di installare sul proprio computer un browser (il programma che consente di navigare in Internet) creato dai tecnici di The Markup, chiamato appunto Citizen Browser, che raccoglie tutti i dati di navigazione dei partecipanti in tempo reale quando si collegano a Facebook e Youtube.
L’iniziativa ha un importante scopo sociale, che è quello di rendere intelligibile e trasparente un processo che, per i consumatori, è al momento del tutto oscuro: perché ci viene visualizzato un articolo piuttosto che un altro? perché noi vediamo una determinata pubblicità e un nostro contatto un’altra? L’intento è quindi largamente condivisibile ma, certo, richiede grande fiducia nei confronti di The Markup da parte di chi accetta di essere monitorato in tutte le proprie attività sui due social media studiati.
In questo senso, questa tipologia di SAPETs è costosa, sia in termini di tempo e sforzo (installazione ed utilizzo di un browser mai usato prima) sia in termini di rischio (la condivisione di molti dati personali sul proprio comportamento online).
Interessante (?) questa dinamica: le grandi aziende tecnologiche costruiscono algoritmi proprietari e interfacce grafiche che influenzano la realtà che vediamo e le scelte che prendiamo, senza darci dettagli sui criteri o gli input che determinano i risultati finali; ciò incuriosisce – per non dire preoccupa – altre istituzioni a difesa dei diritti dei consumatori, le quali auspicherebbero un processo più trasparente. Per ottenerlo, però, devono farsi promotrici di iniziative di raccolta e monitoraggio completo di dati personali, così da smascherare dark patterns ed altre pratiche intrusive della nostra privacy.
A quanto pare, difendere la propria privacy e la propria libertà di scelta si fa sempre più complicato…
Bibliografia
Acquisti, A., & Fong, C. (2020). An experiment in hiring discrimination via online social networks. Management Science, 66(3), 1005-1024.
Aral, S., & Eckles, D. (2019). Protecting elections from social media manipulation. Science, 365(6456), 858-861.
Brunton, F., & Nissenbaum, H. (2015). Obfuscation: A user’s guide for privacy and protest. Mit Press.
Epstein, R., & Robertson, R. E. (2015). The search engine manipulation effect (SEME) and its possible impact on the outcomes of elections. Proceedings of the National Academy of Sciences, 112(33), E4512-E4521.
Mathur, A., Acar, G., Friedman, M. J., Lucherini, E., Mayer, J., Chetty, M., & Narayanan, A. (2019). Dark patterns at scale: Findings from a crawl of 11K shopping websites. Proceedings of the ACM on Human-Computer Interaction, 3(CSCW), 1-32.
Vincent, N., Li, H., Tilly, N., Chancellor, S., & Hecht, B. (2021, March). Data Leverage: A Framework for Empowering the Public in its Relationship with Technology Companies. In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (pp. 215-227).
