AI e selezione del personale: i rischi per la protezione dei dati

La profonda trasformazione dell’industria dovuta alla digitalizzazione dei processi e dei sistemi, porta con sé importanti riflessioni di carattere giuridico, soprattutto per quanto concerne il trattamento dei dati personali e la loro corretta e adeguata protezione.

Se da un lato all’evoluzione tecnologica si affianca una corrispondente normazione, dall’altro lato l’impiego di alcuni sistemi, per esempio quelli di intelligenza artificiale, pone degli interrogativi di carattere giuridico non sempre di immediata e facile soluzione.

Rappresenta un esempio emblematico di questa difficoltà l’utilizzo di sistemi automatizzati per la valutazione dei curriculum vitae di potenziali candidati per una posizione lavorativa.

AI e selezione del personale: implicazioni giuridiche

I processi di selezione del personale che sono connessi all’analisi dei curricula richiedono una particolare attenzione per i dati personali contenuti negli stessi, dati che possono rivestire non solo la qualifica di dati comuni, ma anche di dati personali particolari, appartenenti alle categorie indicate dall’art. 9 del GDPR.

Diventano centrali, quindi, le valutazioni relative alla corretta base giuridica per il trattamento degli stessi, nonché le modalità di trattamento dei dati stessi oltre alle scelte relative alle misure idonee per la protezione di tali dati.

A ben vedere queste valutazioni non si discostano dalle valutazioni che devono essere fatte con riferimento all’analisi dei curricula e al trattamento dei dati contenuti negli stessi, nel caso in cui il trattamento non sia affidato ad un sistema di intelligenza artificiale, ma sia effettuato da un soggetto umano.

Basi giuridiche per il trattamento dei dati personali

Si deve infatti sottolineare che la normativa di riferimento impone particolari obblighi di tutela con riferimento ai dati personali, lasciando al titolare del trattamento l’individuazione delle misure da adottare, in concreto, per trattare i dati in maniera lecita, nonché per proteggerli in maniera adeguata, valutazioni queste che cambieranno a seconda delle modalità concrete, e degli strumenti, che verranno impiegati.

In altre parole l’inserimento nel processo decisionale di un sistema di intelligenza artificiale comporterà una modifica di queste valutazioni in relazione alle caratteristiche specifiche dello strumento impiegato.

Laddove lo strumento di intelligenza artificiale non si limitasse ad una automazione del processo, ma comportasse, come nel caso indicato, la valutazione dei curricula, le analisi che dovrebbe effettuare il titolare del trattamento riguardano diversi elementi, come la liceità dell’impiego di questi strumenti, delle informazioni che devono essere fornite agli interessati, nonché la base giuridica sulla quale fondare questo trattamento.

Per quanto concerne la liceità dell’impiego di strumenti di intelligenza artificiale al fine della automazione e della ottimizzazione dei processi non esiste un divieto o una norma che nei limiti o che ne impedisca l’utilizzo, pertanto l’impiego di tali sistemi deve considerarsi possibile, ammesso e lecito.

Si dovrà, certo, individuare la corretta base giuridica al fine di poter processare i dati contenuti nei curricula e dovranno essere fornite le idonee informazioni ex articolo 13 GDPR agli interessati.

Quest’ultimo punto rappresenta senza dubbio l’elemento che presenta maggiori criticità con riferimento all’impiego dei sistemi di intelligenza artificiale. Se da un lato, infatti, l’interessato deve essere messo nelle condizioni di conoscere quali siano i trattamenti ai quali vengono sottoposti i suoi dati e tale informazione deve essere fornita prima che inizi qualsiasi forma di trattamento, dall’altro lato è necessario inserire all’interno di tali informazioni anche le specifiche relative all’impiego di sistemi di intelligenza artificiale.

Bias e discriminazione nei processi automatizzati

A questo punto si inserisce un diverso e ulteriore punto di riflessione con riferimento alle attività che il titolare del trattamento deve svolgere in relazione al sistema di intelligenza artificiale, non solo al fine di poter garantire la liceità del trattamento e la protezione dei dati, ma anche la eliminazione di eventuali bias o di possibili discriminazioni derivanti dall’impiego di tali sistemi.

L’analisi approfondita del funzionamento tecnico dello strumento risulta quindi elemento indispensabile e il punto di partenza dal quale iniziare l’analisi per la raccolta delle informazioni da fornire agli interessati.

La necessità di un controllo costante e la trasparenza dei processi decisionali

L’impiego di strumenti di intelligenza artificiale, anche nell’ambito della selezione del personale, rappresenta senza alcun dubbio un vantaggio in termini di miglioramento dell’efficienza del processo di selezione, ma al contempo solleva problemi e criticità legate alla modalità di raccolta e di analisi delle informazioni con particolare riferimento alla trasparenza dei criteri utilizzati dall’algoritmo per fornire l’output, alla possibilità di errori sistemici e alla potenziale presenza di bias che potrebbero portare, anche in via indiretta, atti e decisioni discriminatorie nei confronti dei soggetti coinvolti. Proprio a fronte di tali criticità i sistemi che devono essere adottati devono garantire misure idonee a contrastare e ad escludere tali rischi, garantendo non solo la correttezza e l’affidabilità del trattamento, ma una eventuale ed effettiva possibilità di intervento umano nel processo decisionale, laddove si palesassero criticità di questo genere.

Si tratta in particolare di valutazioni che devono essere effettuate in via preventiva, ossia nel momento della individuazione e della scelta del sistema da inserire nel processo aziendale, proprio al fine, come già rilevato, di poter individuare gli eventuali correttivi per garantire la tutela dei dati processati dal sistema.

Appare quindi evidente la necessità, in questo contesto, di un controllo costante al fine di verificare la conformità del sistema alla normativa di riferimento, individuando, a livello aziendale, criteri chiari e misurabili in tema di trasparenza e responsabilità aspetti, questi, in grado di fornire una tutela oggettiva dei soggetti che partecipano alla selezione.

Non bisogna infatti dimenticare che sistemi che possano migliorare l’efficienza organizzativa aziendale non possono in alcun modo comportare un indebolimento dei diritti dei soggetti interessati.