La città di New York ha adottato una legge che impone alle aziende che utilizzano software di intelligenza artificiale finalizzati alle assunzioni, di informare i candidati circa l’utilizzo di un sistema automatizzato. Inoltre, le aziende sono tenute a far controllare annualmente la tecnologia da revisori indipendenti (pena consistenti sanzioni) per verificare l’assenza dei sempre presenti pregiudizi che “infestano” i sistemi alimentati dall’Intelligenza Artificiale. I candidati, dal canto loro, possono chiedere e ottenere informazioni sui dati raccolti e analizzati mediante tale tecnologia.
L’approccio mirato della città di New York rappresenta un fronte importante nella regolamentazione dell’Intelligenza Artificiale negli USA. A un certo punto, secondo gli esperti, i principi di massima sviluppati dai governi e dalle organizzazioni internazionali dovranno essere “calati nel dettaglio”, ossia nel caso concreto.
La sfida verso la regolamentare dell’intelligenza artificiale
La sfida verso la regolamentare dell’Intelligenza Artificiale a livello globale, che sta avanzando a un ritmo incalzante con conseguenze sconosciute, suscita entusiasmo e ansia. Soprattutto se si pensa che i compromessi, in questo settore, sono inevitabili. La legge della Grande Mela, ad esempio, potrebbe presentare delle lacune che potrebbero, in futuro, indebolirla. Tuttavia, meglio avere una legge che non averla affatto (almeno si prova a porre dei paletti). La legge newyorkese in esame si applica alle aziende della metropoli; tuttavia, gli esperti si aspettano che possa fare da impulso verso lo sviluppo di una regolamentazione a livello federale. Infatti, a livello statale, almeno quattro stati USA (California, New Jersey, New York e Vermont) e il District of Columbia (che “ospita” la capitale statunitense Washington D.C.) stanno lavorando a leggi per regolamentare l’Intelligenza Artificiale nel campo delle risorse umane. L’Illinois e il Maryland, invece, hanno emanato leggi che limitano l’uso di specifiche tecnologie alimentate dall’Intelligenza Artificiale, principalmente per la sorveglianza del dipendente sul luogo di lavoro e per le analisi dei candidati.
La legge di New York sull’uso dell’Intelligenza Artificiale in materia di assunzione e promozione venne alla luce da uno scontro politico che si consumò negli ultimi giorni dell’amministrazione del sindaco Bill de Blasio, a fine 2021. In seguito, furono organizzate una serie di audizioni e di commenti pubblici che produssero un risultato, secondo alcuni critici, eccessivamente favorevole agli interessi delle imprese. Questo perché la legge della Grande Mela definisce lo strumento automatizzato di decisione sull’impiego come una tecnologia utilizzata per assistere o sostituire in modo sostanziale il processo decisionale discrezionale “umano”. Le regole adottate sembrano interpretare questa formulazione in modo restrittivo, con il software alimentato dall’Intelligenza Artificiale che richiede una verifica solo se è il fattore principale (o unico) di una decisione di assunzione o se viene utilizzato per sostituire un essere umano. Quindi tali regole “lasciano fuori” il modo principale in cui il software viene utilizzato, non prevendendo la presenza di un responsabile o di un addetto HR che compia la scelta finale (ossia, che decida). Il potenziale di discriminazione guidato dall’Intelligenza Artificiale si verifica, in genere, quando si selezionano centinaia o migliaia di candidati o quando si effettua un reclutamento online mirato alla selezione di un gruppo di candidati.
L’obiettivo è sempre il compromesso
La legge newyorkese affronta e tutela i possibili pregiudizi di sesso, razza ed etnia, lasciando fuori le tutele per i lavoratori anziani o diversamente abili. E il rischio che queste limitazioni si estendano a livello nazionale è concreto. Certo, l’obiettivo è sempre il compromesso: soppesare l’innovazione tecnologica con i potenziali danni non è affatto facile. La città di New York sta cercando di affrontare le nuove tecnologie nel contesto delle leggi federali sul posto di lavoro con linee guida sulle assunzioni che risalgono a decenni addietro. Certo è che nessuna pratica o metodo di selezione utilizzato dai datori di lavoro dovrà avere un impatto negativo su gruppi protetti come le donne o le minoranze etniche.
Le critiche delle aziende
Le aziende, dal canto loro, hanno criticato la legge in esame. Le critiche riguardano soprattutto il requisito di verifiche indipendenti che possono essere fatte, a detta loro prive di standard e di organismi adatti allo scopo. Tuttavia, quello della regolamentazione dell’Intelligenza Artificiale è un settore in espansione nonché una vera e propria un’opportunità di mercato (che sta già attirando l’attenzione di studi legali, consulenti e start-up). Le aziende che vendono software di Intelligenza Artificiale per assistere nelle decisioni di assunzione e promozione hanno già – generalmente – abbracciato le diverse regolamentazioni statali USA. Alcune si sono già sottoposte a verifiche esterne di conformità. Esse, infatti, considerano la regolamentazione come un potenziale vantaggio competitivo, fornendo la prova che la loro tecnologia amplia il bacino di candidati per le aziende e aumenta le opportunità per i lavoratori.
L’indice di impatto
Come accennato, la legge di New York in esame adotta un approccio alla regolamentazione dell’Intelligenza Artificiale che potrebbe diventare la norma a livello federale. La misura chiave della legge è un “indice di impatto”, ovvero un calcolo dell’effetto dell’uso del software su un gruppo protetto di candidati per un determinato lavoro. Essa non approfondisce il modo in cui un algoritmo prende le decisioni (la cosiddetta “spiegabilità”, ossia quell’Intelligenza Artificiale in cui gli esseri umani possono comprendere il ragionamento alla base delle decisioni o delle previsioni fatte da tale tecnologia).
Conclusioni
Secondo i critici, nelle applicazioni che influenzano la vita di un lavoratore, come la fase assuntiva, le persone hanno diritto a una spiegazione di come è stata presa una determinata decisione. Tuttavia, l’Intelligenza Artificiale (si pensi a ChatGPT), sta diventando sempre più complessa e, forse, l’obiettivo di una sua spiegabilità sarà sempre più fuori portata.
