Possiamo sopravvivere alla crescente complessità dell’ambiente che ci circonda? Nel mondo tecnologico e digitale odierno, è possibile definire una riduzione dei rischi e dei danni alle persone, generalizzandola con una regola semplice? È urgente definire strategie che riducano rischi e danni attraverso regole semplici ma efficaci.
Indice degli argomenti
La complessità tecnologica come causa di rischi sistemici
I grandi rischi, i futuri “Cigni Neri” della società tecnologica e digitale sono causati dalla complessità dei sistemi, in particolare dalla complessità non gestita; fatti anche molto recenti come il caso Microsoft/Crowdstrike ne hanno dato, se mai ce ne fosse stato ancora bisogno, l’ennesima e incontestabile prova.
Questo “cappello” è stato necessario per arrivare al punto centrale di questa esternazione, che è semplicemente il seguente.
La complessità non necessaria, particolarmente nei sistemi informativi e nei servizi che con essi vengono erogati, è pericolosa perché ingestibile nel sistema finanziario e produttivo attuale. Non per mancanza di competenza, ma per mancanza strutturale delle risorse economiche per (tentare di) gestirla.
Un esempio tra tanti.
Esempi di fallimenti nella gestione della complessità tecnologica
Le compagnie aeree esternalizzano la gestione della sicurezza informatica perché non sono in grado di gestirla.
I fornitori di sicurezza informatica non sono in grado di gestire la complessità dei sistemi su cui operano. Neppure di un normale server windows.
Moltissimi server derivano da sistemi operativi nati monoutente, e che, malgrado tutte le evoluzioni teecnologiche, o forse proprio a causa di esse, continuano a portarsi dietro questa maledizione. È noto che per gestire la loro sicurezza, bisogna inserirvi software commerciale e continuamente aggiornato, che gira a livello kernel.
Cosa mai potrebbe andare storto?
Eppure, già ai tempi dei mainframe un server era così robusto che dopo l’installazione poteva non essere mai spento fino a quando non veniva dismesso. All’epoca la progettazione di sistemi operativi la insegnavano come materia obbligatoria nelle facoltà di informatica. Qualcuno non l’ha studiata bene, evidentemente.
La sicurezza come investimento “improduttivo” nella complessità tecnologica
Ma perché questo avviene? Perché il software ed i servizi sono sviluppati ed erogati in una logica commerciale, e gli investimenti “improduttivi” secondo questa logica vengono ridotti o eliminati in ogni modo.
E, tenetevi forte, se per caso aveste vissuto su un albero mentre nel mondo avveniva la rivoluzione informatica, sappiate che la sicurezza e la qualità del software sono considerate, ovviamente e naturalmente, investimenti improduttivi dal punto di vista finanziario, nonché grandi ostacoli al profitto.
Sic stantibus rebus, vengono minimizzati o eliminati in tutti i modi possibili. A nulla vale che esistano, qua e là, leggi e regolamenti che rendono obbligatori questi investimenti. A nulla vale inventarsi vicepresidenze esecutive per la sicurezza informatica.
Il compromesso economico nella gestione della complessità tecnologica
È vero che la qualità e la sicurezza di prodotti e servizi vengono sbandierate da tutte le aziende del settore. Ma è solo facciata, non può essere altrimenti quando la logica è quella commerciale.
Mille sono i infatti modi per abbassare i costi e aumentare i margini di profitto nel ciclo di vita del software, dalla produzione all’utilizzo. E tutti questi modi, ma proprio tutti, vengono usati sotto la spinta strutturale della finanza “normale”. Quella finanza che, dovunque, guarda prima di tutto agli obbiettivi trimestrali e ai relativi risultati finanziari.
E che quindi, giusto per fare un esempio, preferisce stipulare polizze assicurative contro i rischi di danno a clienti, persone o cose derivanti dall’uso dei propri prodotti fallati, piuttosto che eliminare alla base questi rischi spendendo (di più) per aumentare la qualità del software prodotto, anche diminuendo la complessità del software e dei sistemi informativi.
L‘inadeguatezza dei metodi produttivi per gestire la complessità tecnologica
Resistere è futile. Finché i prodotti hardware e software che tengono in piedi il mondo saranno prodotti secondo logiche commerciali e obbiettivi a breve termine, la loro qualità sarà sempre infima e loro complessità sempre crescente.
I metodi di produzione e di installazione dei software sono infatti inadeguati a gestire la complessità, che viene ogni giorno riversata nei sistemi che fanno girare il mondo. Sono pensati solo per rendere meno difficile la vita ai programmatori, e ovviamente per migliorarne la produttività.
Nulla impedisce che la complessità aumenti, perché questo aumento è il “normale” modo di produrre nuovo software, e questo non è sostanzialmente cambiato dagli anni ’70 a oggi.
Le conseguenze catastrofiche della complessità tecnologica non gestita
La complessità, ovviamente non gestita, non farà altro che aumentare, fino a quando non accadrà un grosso problema. Non qualche aereo che cade dal cielo con poche centinaia di morti, qualcosa di molto, molto più grosso.
Quando un problema software o di sistema bloccherà per settimane o mesi su scala planetaria il commercio o la logistica, le transazioni elettroniche o le reti elettriche, causando conseguenze misurabili non in miliardi o migliaia di miliardi di euro, ma migliaia o milioni di morti per fame, malattie, disordini, guerre.
Allora, come nel caso Microsoft/Crowdstrike, anche sui TG di prima serata ci saranno proclami, caccia ai colpevoli e buoni propositi per un paio di settimane o mesi o anni; poi tutto continuerà come prima.
Basterà il primo Cigno Nero di questo tipo a invertire la tendenza dell’aumento di complessità per generare profitto? A ognuno la sua risposta.
Introduzione alla soluzione della minima complessità tecnologica necessaria
Ma, intanto, si potrebbe fare qualcosa, oltre che preoccuparci?
Esiste, appunto una regola molto semplice, che può essere applicata su tutte le scale, dall’individuo allo stato nazionale. Può essere applicata nei campi più svariati, protezione dei dati personali, sicurezza dei sistemi critici, utilizzo di apparecchiature informatiche o “intelligenti”, vita digitale quotidiana. Può essere impiegata in casa, negli ospedali o in un campo di battaglia.
L’enunciato è molto semplice.
Applicazioni pratiche del principio di minima complessità tecnologica
Utilizzare sempre la minima complessità necessaria.
In ogni cosa. Gestire una rete elettrica o far funzionare una contabilità, progettare un’astronave o uno smartphone, combattere una battaglia o una guerra, utilizzare un’automobile o un televisore, fare un pagamento o chattare.
La minima complessità necessaria.
Devi pagare un caffè? Niente sistemi contactless online, ma qualche moneta. Devi chattare con un amico? Non un social ma una chat semplice. Devi fare una telefonata? Un telefono fisso o un cellulare non-smart. Devi sottrarti al tecnocontrollo? Niente smartphone ma un computer con solo software libero. Devi risolvere un problema di calcolo? Usa algoritmi, e non modelli linguistici. Devi avere la corrente in casa? Un contratto chiaro, con tariffa fissa e senza aggiornamenti od obblighi di acquisto di altre cose. Hai bisogno di telefonare? Una ricaricabile senza domiciliazione e tutto incluso. Devi scrivere un testo? Rispolvera grammatica e sintassi, scrivi quello che vuoi e usa un correttore ortografico e sintattico. Devi scrivere in un altra lingua che conosci poco? Scrivi bene nella tua, usa un traduttore e verifica e aggiusta il risultato.
Devi scrivere qualcosa senza sapere cosa, senza fare fatica, senza curarti della correttezza del risultato? In parole povere devi usare un LLM?
Ecco un ottimo cattivo esempio; al di là della qualità del risultato, usare un LLM significa impiegare dei datacenter che contengono un sistema grande, complesso, costoso, energivoro, proprietario, centralizzato e notoriamente poco affidabile, invece di utilizzare un metodo deterministico, magari un algoritmo da sviluppare e condividere, facendolo girare su un laptop.
La complessità tecnologica e il cambiamento necessario
È però necessario pensare, volere, cambiare abitudini, essere di esempio e perseverare. E non è detto che ci si riesca. E non è detto che basti.
Ma, prendendo a prestito il motto mandaloriano, la profezia di oggi si riassume semplicemente in “Questa è la Via”.
Cassandra e la riduzione del danno
Cassandra da parecchi anni è passata dal teorizzare un attivismo digitale fatto prevalentemente di resistenza tecnologica attiva al tecnocontrollo di massa, sia in termini tecnologici che facendo lobby a Roma o a Bruxelles, al predicare solo iniziative a livello individuale volte alla riduzione del danno, sia riguardo alla privacy che al tecnocontrollo.
Quasi contemporaneamente ha iniziato a occuparsi delle questioni legate alla fragilità della società tecnologica, esternando più volte che, insieme al cambiamento climatico, agli asteroidi e ai brillamenti solari, l’umanità è a rischio di estinzione massiva anche per come è strutturata la società tecnologica. E ne ha scritto più volte in questa serie di esternazioni in tema.
Parafrasando il riuscitissimo titolo italiano di un famoso racconto di Clifford D. Simak, potremmo battezzare questo ipotetico e cassandresco evento “Strage nell’Antropocene”.
È doveroso sottolineare che non si tratta di un problema di sicurezza, neppure di qualità del software o dei sistemi informatici, e nemmeno della presenza di attori malevoli od ostili.
Scrivere a Cassandra — Twitter — Mastodon
Videorubrica “Quattro chiacchiere con Cassandra”
Lo Slog (Static Blog) di Cassandra
L’archivio di Cassandra: scuola, formazione e pensiero
Licenza d’utilizzo: i contenuti di questo articolo, sono sotto licenza Creative Commons Attribuzione — Condividi allo stesso modo 4.0 Internazionale (CC BY-SA 4.0), tutte le informazioni di utilizzo del materiale sono disponibili a questo link.
