La ISO/IEC 42001 e altre pubblicazioni elencano alcune figure professionali da prevedere per una buona gestione dei sistemi basati su intelligenza artificiale. Proviamo a fornire una breve guida su queste figure.
Data Scientist: il ruolo chiave nell’Intelligenza Artificiale
Il data scientist è la figura più nota e citata. È anche chiamato data architect o data specialist. In poche parole, sa raccogliere e analizzare i dati, trarne informazioni utili e sa elaborare report per la direzione.
Utilizza software per la raccolta e l’analisi dei dati, oltre che metodi statistici e query. Deve stabilire quali dati raccogliere, in modo da evitare quelli non significativi, strutturarli e correlarli in modo utile per identificare relazioni causa-effetto, scenari e previsioni.
La EN 16234-1:2019 sottolinea soprattutto l’attività di analytics, ma prevede anche competenze in merito all’identificazione, estrazione e integrazione di fonti di dati eterogenee.
Importante anche la conoscenza degli aspetti etici e di privacy.
Il titolo è più altisonante del “data analyst” perché questo deve trovare una soluzione a problemi dati, mentre il data scientist deve trovare anche opportunità e criticità nascoste e inaspettate.
Numerose università, incluse quelle più titolate, offrono corsi di laurea in Data science. Sono disponibili ulteriori corsi offerti da strutture non universitarie.
Nel suo lavoro, il Data scientist deve essere affiancato da persone competenti nel settore di riferimento e con significativa esperienza: solo in questo modo si può assicurare la capacità di interpretare i risultati del sistema di IA e valutarne la correttezza dell’addestramento.
La supervisione umana nei sistemi di intelligenza artificiale
Alla “human oversight” è dedicato l’articolo 14 dell’AI Act europeo[1]. Il supervisore umano deve controllare i processi decisionali automatizzati.
La supervisione umana fa parte dei principi che costituiscono la “intelligenza artificiale centrata sulle persone umane”.
Sono forniti alcuni esempi[2]:
- i risultati di un sistema di IA, prima di essere usati, devono essere validati da una persona umana (per esempio, i risultati di esami medici devono essere validati da un medico);
- i risultati di un sistema di IA possono essere usati, ma deve essere previsto un intervento umano successivo (per esempio, se viene bloccata una carta di credito, l’utente deve poter contattare una persona umana per sbloccarla);
- una persona umana deve monitorare il sistema di IA e poter intervenire immediatamente per disattivarlo (per esempio, la guida autonoma di un’automobile);
- il sistema di IA si blocca in certe condizioni per richiedere l’intervento umano (p.e. la guida autonoma di un’automobile si blocca in caso di scarsa visibilità).
La supervisione può quindi essere svolta da persone con competenze ed esperienze diverse (professionisti, utenti generici, eccetera), a seconda dell’uso dei sistemi di IA.
E’ quindi necessario che le persone coinvolte nella supervisione capiscano come funziona il sistema di IA e i metodi di supervisione e di intervento.
Esperto di affidabilità dei sistemi di IA: una figura emergente
Figura prevista dalla ISO/IEC 42001, richiama i principi di affidabilità previsti per un sistema di IA[3]:
- azioni e supervisione di persone umane;
- robustezza tecnica e sicurezza per le persone;
- privacy e governo dei dati;
- trasparenza;
- diversità, non discriminazione e imparzialità;
- benessere sociale e ambientale;
- responsabilizzazione (accountability).
Oggi la conoscenza di questi argomenti è richiesta anche ai Data scientist. Purtroppo però i programmi dei corsi non sottolineano questa parte.
Per queste competenze è anche usato il termine di “specialista in etica dell’intelligenza artificiale”.
Machine learning engineer: il programmatore specializzato in IA
Questa è una figura di programmatore, specializzato in linguaggi quali Python, Lisp, Prolog.
Le competenze sono ridotte rispetto a un data scientist, che ha invece il compito di seguire un progetto complessivo di sistema di IA, scegliendo anche i dati.
Data engineer: il garante della qualità dei dati per l’IA
Il Data engineer deve raccogliere i dati dalle fonti più opportune, prepararli per essere utilizzati dal software di destinazione, garantendone la qualità.
Deve evitare che il sistema venga addestrato con pregiudizi (bias), che i dati siano incompleti o non significativi e che il formato sia normalizzato nel modo migliore per il software di destinazione.
L’elevato numero di dati da trattare per addestrare i sistemi di IA rende il compito difficile.
In molti casi, il titolo è assimilato a quello di Data scientist.
Le competenze, nel caso del Data engineer, sono quasi esclusivamente di tipo informatico (mentre il Data scientist dovrebbe avere anche competenze in materia di etica e privacy). Ci sono alcuni corsi universitari di laurea magistrale dedicati all’intelligenza artificiale e al data engineering. Ci sono anche corsi professionali, più orientati alla conoscenza di linguaggi di programmazione e di software per l’analisi dei dati.
Note
[1] https://artificialintelligenceact.eu/the-act/.
[2] Commissione europea. White Paper on Artificial Intelligence: a European approach to excellence and trust. 2020. https://commission.europa.eu/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en.
[3] Independent high-level expert group on artificial intelligence set up by the European Commission. The assessment list for trustworthy artificial intelligence (ALTAI) for self assessment. 2020. https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment.
