In parallelo alla proposta di Regolamento sull’Intelligenza Artificiale[1], la Commissione Europea ha presentato anche una proposta per il nuovo Regolamento Macchine 2021[2] che sostituirà la Direttiva Macchine oggi vigente (Direttiva 2006/42/CE)[3].
Affrontiamo i principali punti di intersezione tra la normativa in materia di sicurezza delle macchine e l’evoluzione delle tecnologie digitali, tra Intelligenza Artificiale, IoT, sicurezza informatica e rapporto uomo-macchina.
Regolamento Macchine 2021 dell’UE: ecco gli impatti sulle aziende
Nuovo Regolamento Macchine, il contesto
Come già accennato nella prima parte di questo articolo, nel 2018[4] la Commissione ha confermato la generale pertinenza e flessibilità della Direttiva Macchine (Direttiva 2006/42/CE, d’ora in poi la “Direttiva”) al perseguimento dei propri obiettivi, anche rispetto all’innovazione incalzante. Al contempo, tuttavia, la Commissione ha evidenziato alcune criticità inerenti alla effettiva capacità della Direttiva di far fronte alle reali sfide poste dalle tecnologie digitali emergenti, tra cui l’Intelligenza Artificiale (IA) e l’Internet of Things (IoT).
La trasformazione tecnologica e la digitalizzazione spingono oggi l’industria europea della meccanica a crescere costantemente, così mantenendo competitività anche a livello globale. Tra le tecnologie di maggior rilievo vi sono l’advanced manufacturing (ad esempio l’applicazione dell’IoT su scala industriale e le stampanti 3D) e i materiali avanzati (inclusi i c.d. nanomateriali), che costituiscono una tappa essenziale verso l’affermazione dell’Industria 4.0 o Smart Industry. In particolare, l’IoT sta avendo uno sviluppo rapido e dinamico, ed il suo utilizzo è destinato ad aumentare sempre di più nell’organizzazione e progettazione dei siti industriali, così come nella realizzazione di attrezzature e macchine[5]. Sono sempre di più le imprese nazionali ed estere del settore industriale che si affidano all’IoT per gestire e controllare i propri spazi, incrementare la potenzialità e l’efficienza dei propri macchinari (ad esempio tramite un monitoraggio coordinato delle performance e la cosiddetta “manutenzione predittiva”), e rafforzare i propri presidi di sicurezza.
La robotica
Anche l’uso della robotica nei macchinari è in forte crescita: robot, bot, androidi e altre manifestazioni dell’IA sembrano oggi sul punto di dare impulso a una nuova rivoluzione industriale, rendendo imprescindibile che la normativa di riferimento ne consideri le implicazioni legali ed etiche, senza che ciò costituisca un ostacolo allo sviluppo tecnologico. Secondo il Parlamento Europeo, il progresso nell’ambito della robotica e dell’IA è potenzialmente in grado di trasformare le condizioni e le abitudini di vita e lavorative, innalzare i livelli di efficienza, risparmio economico e sicurezza, e migliorare il livello dei servizi nel breve e medio termine[6].
Nel settore della meccanica, l’attenzione si rivolge in particolar modo ai robot guidati da sistemi di IA che, pur continuando ad essere classificati come prodotti/macchine, sono in un certa misura dotati di capacità di autonomia ed “autoapprendimento”: elaborano informazioni in tempo reale, “imparano” dall’esperienza, interpretano l’ambiente, interagiscono con gli esseri umani, adottano nuovi comportamenti in base alle “esperienze” maturate, sono capaci di funzionare in ambienti non strutturati (come i cantieri) e si muovono nello spazio fisico in autonomia, senza l’intervento (ed il controllo) umano. In questo contesto le macchine “intelligenti” restano uno strumento a disposizione dell’uomo e siamo ben lontani dallo scenario distopico prefigurato dal filosofo svedese Nick Bostrom, in cui una intelligenza artificiale generale alla quale fosse affidato il compito di produrre graffette arriverebbe a sacrificare tutte le risorse del pianeta pur di raggiungere il proprio obiettivo[7]. In particolare, l’elemento della mobilità potrebbe far emergere maggiori rischi per la salute e la sicurezza rispetto a quelli derivanti da meri software di IA, principalmente per la concreta possibilità che il robot, muovendosi, provochi danni fisici all’uomo[8].
Sfide del Regolamento Macchine
La spinta verso questo tipo di innovazione nel settore delle macchine è oggi evidente e tangibile, ma è anche necessariamente accompagnata da criticità e sfide, tra le quali spiccano:
- la necessità di garantire la non discriminazione, il giusto processo, la trasparenza e la comprensibilità dei processi decisionali;
- le conseguenze per l’occupazione derivanti dalla robotica e dall’apprendimento automatico;
- l’esigenza che i soggetti coinvolti nello sviluppo e nella commercializzazione di applicazioni dell’IA integrino gli aspetti relativi alla sicurezza ed all’etica fin dal principio, accettando di divenire legalmente responsabili della qualità della tecnologia prodotta;
- l’importanza di preservare la dignità, l’autonomia e l’autodeterminazione degli individui, anche in termini di attaccamento emotivo uomo-robot e in relazione al tema dell’ergonomia; e
- in materia di privacy e cybersecurity, con riferimento rispettivamente alle applicazioni ed apparecchi che comunicano tra di loro e con le banche dati senza l’intervento umano e all’esposizione a possibili attacchi cyber dovuti principalmente al fatto che molti processi industriali sono oggi guidati da sistemi informatici/applicazioni.
Come anticipato nella prima parte del nostro contributo, le proposte legislative sull’IA e sulla sicurezza delle macchine sono complementari tra loro. Il Regolamento IA delega la valutazione della conformità al Regolamento Macchine affinché la valutazione dei rischi per la macchina completa di sistemi di IA sia effettuata una volta soltanto attraverso il Regolamento Macchine. In particolare, se la proposta di Regolamento IA affronta i rischi sulla sicurezza dei sistemi IA, la proposta di Regolamento Macchine si concentra sull’integrazione sicura di tali sistemi nelle macchine.
Da ciò deriva che anche robot guidati da sistemi di IA rientranti nella definizione di “macchina” debbano soddisfare i requisiti essenziali di salute e sicurezza previsti dalla normativa in materia di sicurezza delle macchine, così come debbano essere sottoposti alle relative procedure di valutazione della conformità.
Al riguardo, è piuttosto immediato chiedersi fino a che punto tali requisiti siano in grado di mitigare, per esempio, i rischi potenzialmente derivanti da sistemi di comando in ecosistemi IoT, oppure fino a che punto le attuali misure di protezione per il contenimento dei rischi (ad esempio, dispositivi di protezione) si adattino alla interazione uomo-macchina in spazi di lavoro condivisi. E ancora, è sufficiente trattare di danni fisici, dovuti a possibili movimenti meccanici non previsti del robot, o è opportuno considerare anche la salute mentale, con riferimento allo stress ed alla pressione derivanti dal confronto dell’uomo con la macchina quale entità in grado di superare la capacità intellettuale umana sotto determinati aspetti?
Di seguito, alcune delle principali novità introdotte dalla proposta di Regolamento Macchine con riferimento ai temi appena discussi.
Sistemi di IA: prodotti “high-risk” o “potenzialmente ad alto rischio”
Rispetto alla lista di prodotti “high-risk“, sino ad oggi basata sull’analisi del rischio derivante dall’uso previsto o dall’uso scorretto ragionevolmente prevedibile della macchina, il Regolamento Macchine propone una visione più ampia andando a considerare, tra i prodotti a rischio elevato[9], i software che svolgono funzioni di sicurezza (inclusi i sistemi di IA) immessi singolarmente sul mercato e le macchine incorporanti sistemi di IA che svolgono funzioni di sicurezza.
La valutazione dei rischi dovrà tenere conto dell’evoluzione del comportamento delle macchine progettate per funzionare secondo diversi livelli di autonomia. Le funzioni di sicurezza, così come le impostazioni o le regole di funzionamento, non potranno essere modificate, in modo da non superare i limiti definiti dal fabbricante nell’ambito della valutazione dei rischi iniziale. Anche con riguardo alla fase di apprendimento, il comportamento della macchina dovrà essere limitato mediante adeguati circuiti di sicurezza.
Inoltre, nel contesto dei requisiti essenziali di salute e sicurezza applicabili alle macchine mobili, sono stati inseriti riferimenti specifici alle “macchine mobili autonome” e, in particolare, ai “Veicoli a Guida Automatizzata” (AGV).
Tra i vari emendamenti in tema di IA avanzati nel corso dell’iter legislativo del Regolamento Macchine, risaltano soprattutto quattro proposte di modifica:
- sostituzione del riferimento a prodotti macchina che presentano “rischi elevati” con il riferimento a “potenzialmente rischi elevati”, mentre il Regolamento IA prevede che i sistemi di IA siano considerati “ad alto rischio” qualora siano soddisfatte determinate condizioni o essi figurino in uno specifico elenco allegato al Regolamento[10];
- adozione degli atti delegati da parte della Commissione per la modifica dell’Allegato I a partire da 36 mesi dalla loro entrata in vigore;
- applicazione del Regolamento Macchine ai soli sistemi di IA con comportamenti autodeterminanti e in grado di evolvere durante il normale funzionamento, escludendo così sistemi statici/deterministici dotati di un codice programmato per l’esecuzione di alcune funzioni automatizzate della macchina; e
- elaborazione di orientamenti appropriati (un documento più dinamico rispetto al regolamento) che tengano conto delle evoluzioni dell’IA e delle applicazioni relative alle macchine, al fine di valutare correttamente i possibili ulteriori rischi che possono manifestarsi durante il ciclo di vita del prodotto macchina.
- Cybersecurity e corruzione dei sistemi
Gli aspetti di cyber security
Tra i nuovi rischi, il Regolamento Macchine rivolge l’attenzione verso attacchi informatici e malware, andando a disciplinare, oltre ai casi di pericolo derivanti da guasti, anche le circostanze in cui la sicurezza delle macchine possa risultare pregiudicata da attacchi esterni intenzionali. In questo senso, i costruttori dovranno adottare misure adeguate atte ad assicurare che i circuiti di comando che svolgono funzioni di sicurezza siano progettati al fine di evitare che attacchi malevoli possano ingenerare nelle macchine comportamenti pericolosi.
Per quanto concerne, invece, la protezione dei sistemi informatici contro la corruzione dei sistemi, è previsto che la macchina sia progettata e realizzata in modo che la sua connessione con un device non causi una situazione di pericolo e che componenti hardware associati alla connettività delle macchine e/o all’accesso software delle stesse, che risultino critici dal punto di vista della sicurezza, siano adeguatamente protetti contro eventuali ipotesi di corruzione dei sistemi, accidentali o intenzionali.
La proposta risulta coerente con la politica dell’UE in materia di cibersicurezza, dal momento che crea un legame con i futuri sistemi di cybersecurity ai sensi del Regolamento (UE) 2019/881[11] al fine di dimostrare la conformità con il futuro regolamento sui prodotti macchina.
La proposta di Regolamento Macchine afferma, in particolare, che le macchine che siano state certificate o per le quali sia stata emessa una dichiarazione di conformità nel quadro di un sistema di certificazione di cibersicurezza adottato conformemente al Regolamento (UE) 2019/881 siano considerate conformi ai requisiti essenziali di salute e sicurezza di cui all’Allegato III, sezioni 1.1.9 e 1.2.1, per quanto concerne la protezione contro la corruzione e la sicurezza e l’affidabilità dei sistemi di controllo, nella misura in cui tali requisiti siano contemplati dal certificato di cibersicurezza o dalla dichiarazione di conformità o loro parti.
Lavoratori e cobot: sicurezza e salute mentale
Il Regolamento Macchine affronta, infine, il delicato argomento della condivisione dello spazio di lavoro tra uomini e macchine e, nello specifico, tra uomini e robot collaborativi o “co-bots” e dell’influenza che tali tecnologie potrebbero avere sul benessere del lavoratore in termini psicologici e di stress.
A questo riguardo, la proposta ritiene necessario che le macchine in grado di imparare ed evolvere nel proprio comportamento vengano predisposte per rapportarsi con l’uomo in modo adeguato e comprensibile (oralmente, pronunciando delle parole oppure attraverso dei gesti, espressioni facciali o movimenti del corpo), comunicando ai lavoratori le azioni che hanno in programma di compiere ed il relativo motivo. La proposta è lungimirante, poiché anziché soffermarsi sul solo danno fisico e visibile che le macchine basate su AI potrebbero causare all’uomo, si spinge a regolare anche l’aspetto inerente alla salute mentale ed alle tensioni psichiche che potrebbero sorgere nel confronto con un’entità che può arrivare ad essere infallibile e instancabile.
La responsabilità
L’obiettivo generale dei quadri giuridici in materia di sicurezza e di responsabilità è garantire che tutti i prodotti, compresi quelli che integrano le tecnologie digitali emergenti, funzionino in modo sicuro, affidabile e costante e che vi siano rimedi efficaci in caso di danni. Ciò in un’ottica di tutela del consumatore e di fiducia in queste tecnologie, quale presupposto per la loro adozione da parte di imprese ed utilizzatori e quindi sviluppo della competitività[12].
Questo contesto di riferimento ci pone inevitabilmente di fronte ad un nuovo scenario in termini di eventuale responsabilità in capo agli operatori economici (i.e. fabbricante, mandatario, importatore e distributore) in caso di danni derivanti da robot e macchine che integrino sistemi di IA.
Cruciale in questo senso risulta il coordinamento tra il Regolamento Macchine e la normativa applicabile in materia di IA, che individua oggi l’applicabilità in parallelo della responsabilità per danno da prodotti difettosi (Direttiva 85/374/CEE e Codice del Consumo) e dei regimi nazionali non armonizzati in tema di responsabilità civile. Abbiamo affrontato il tema in due precedenti contributi su questa testata, con riferimento a un sistema di trading basato su IA qui, e alle recenti prospettive di evoluzione del quadro legislativo europeo in materia, qui.
In base all’attuale quadro legislativo europeo in materia di sicurezza delle macchine, la responsabilità della sicurezza del prodotto rimane oggi a carico del fabbricante che immette il prodotto sul mercato (ovvero del soggetto che vi apporta modifiche sostanziali, secondo la proposta di Regolamento Macchine), essendo colui che possiede le conoscenze dettagliate relative al processo di progettazione e produzione e, quindi, che si trova nella posizione migliore per eseguire la procedura di valutazione della conformità.
Cosa dicono le norme
Alcuni atti normativi dell’UE in materia di sicurezza contengono già disposizioni che fanno esplicito riferimento a situazioni in cui vari operatori economici intervengono su un determinato prodotto prima dell’immissione sul mercato (ad esempio, la Direttiva impone ai fabbricanti di apparecchiature di fornire all’operatore informazioni su come montare l’apparecchiatura con un’altra macchina[13]), tuttavia, disposizioni esplicite che impongano un certo livello di coordinamento e cooperazione tra gli operatori economici nella catena di approvvigionamento e gli utilizzatori potrebbero creare maggiore certezza giuridica soprattutto con riferimento a catene di valore complesse.
In quest’ottica, la proposta di Regolamento Macchine prevede che tutti gli operatori economici che intervengono nella catena di approvvigionamento e distribuzione dovrebbero adottare misure atte a garantire che sul mercato siano messi a disposizione soltanto prodotti macchina conformi, ritenendo necessaria una ripartizione chiara e proporzionata degli obblighi, corrispondenti al ruolo di ciascun operatore.
Documenti e tracciabilità
Inoltre, al fine di assicurare la salute e la sicurezza degli utilizzatori del prodotto macchina, gli operatori economici dovrebbero garantire che tutta la documentazione pertinente (quali le istruzioni d’uso) contenga informazioni precise e comprensibili, tenga conto degli sviluppi tecnologici e delle variazioni del comportamento dell’utilizzatore finale e sia il più possibile aggiornata. Nel caso in cui i prodotti macchina siano messi a disposizione sul mercato in confezioni contenenti varie unità, le istruzioni e le informazioni dovrebbero accompagnare l’unità minima disponibile in commercio.
Nondimeno, a fini di tracciabilità dei prodotti macchina lungo l’intera catena di approvvigionamento, gli operatori dovrebbero essere tenuti a conservare per un certo periodo di tempo le informazioni sulle operazioni da loro effettuate aventi per oggetto prodotti macchina, proporzionalmente al proprio ruolo. Infine, distributori e importatori dovrebbero essere coinvolti nei compiti di vigilanza del mercato svolti dalle autorità nazionali competenti e dovrebbero essere pronti a parteciparvi attivamente, fornendo a tali autorità tutte le informazioni necessarie sui prodotti macchina in questione.
_
Note
- Proposta di Regolamento del Parlamento Europeo e del Consiglio che stabilisce regole armonizzate sull’Intelligenza Artificiale (legge sull’Intelligenza Artificiale) e modifica alcuni atti legislativi dell’Unione. ↑
- Proposta di Regolamento del Parlamento Europeo e del Consiglio sui prodotti macchina. ↑
- Attuata in Italia con D.lgs. 17/2010. ↑
- Evaluation of the Machinery Directive. ↑
- Advanced Technologies for Industry – Sectoral Watch, April 2021↑
- Norme di diritto civile sulla robotica. Risoluzione del Parlamento europeo del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica. ↑
- L’ “apocalisse delle graffette”, in Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press. 2014. ↑
- Revision of the Machinery Directive (REFIT)/After 2021-4. ↑
- Allegato I, ex Allegato IV alla Direttiva. ↑
- Art. 6 “Regole di classificazione per i sistemi di IA ad alto rischio”. ↑
- Regolamento (UE) 2019/881 del Parlamento europeo e del Consiglio del 17 aprile 2019 relativo all’ENISA, l’Agenzia dell’Unione europea per la cibersicurezza, e alla certificazione della cibersicurezza per le tecnologie dell’informazione e della comunicazione, e che abroga il regolamento (UE) 2013/526 (“regolamento sulla cibersicurezza”). ↑
- Relazione della Commissione al Parlamento europeo, al Consiglio e al Comitato economico e sociale europeo sulle implicazioni dell’intelligenza artificiale, dell’Internet delle cose e della robotica in materia di sicurezza e di responsabilità del 19 febbraio 2020. ↑
- Direttiva, Allegato I, punto 1.7.4.2: “Ciascun manuale di istruzioni deve contenere, se del caso, almeno le informazioni seguenti […] i) le istruzioni per il montaggio, l’installazione e il collegamento, inclusi i disegni e i diagrammi e i sistemi di fissaggio e la designazione del telaio o dell’installazione su cui la macchina deve essere montata“. ↑
