RMO_241

26 rmo gennaio/febbraio 2022 sorveglianza umana dei sistemi, con cui la Commissione vuole garantire che l’uomo possa sempre intervenire sulla logica della macchina per correggerne il comportamento e man- tenerne la sicurezza intrinseca, mettendo l’essere umano al centralità della AI. Vi sono infine prodotti a rischio limitato, con solo obbligo di trasparenza affinché l’utente sia consape- vole di interagire con sistemi di AI, e prodotti con rischi minimi permessi senza restrizioni. Comportamento evolutivo delle macchine. Per quanto concerne le macchine, il nuovo Regolamento prende in consi- derazione la capacità dei sistemi di AI di influenzare in senso evolutivo i comportamenti della macchina stessa, valutando quindi anche i rischi che possono insorgere in funzione dell’ap- prendimento e dell’esperienza che l’algoritmo fa nel tempo. In tale direzione sarà anche richiesto che questi rischi siano man- tenuti entro livelli accettabili, per cui le modifiche alle funzioni di sicurezza fatte dagli operatori o generate in autonomia dal macchinario non devono superare i limiti definiti dal fabbri- cante. Interessante anche come, data la crescente diffusione dei robot collaborativi, un nuovo requisito imponga di considerare la coesistenza uomo macchina in spazi condivisi, pensando non solo alle potenziali lesioni fisiche ma anche al possibile stress psicologico degli addetti. Il Regolamento introduce poi il tema cybersecurity, con il nuovo requisito della Protezione contro la corruzione, che include quella accidentale o intenzionale, ossia gli attacchi malevoli. Questa deve essere garantita non solo per i componenti hardware critici per la conformità alla sicurezza del macchinario, ma anche per software e dati critici. È altresì fatto obbligo di raccogliere le evidenze di un intervento legit- timo o illegittimo nel componente e sul software, disponendo quindi di una storia delle revisioni. Ingresso del software. La proposta introduce anche modifi- che e chiarimenti in alcune definizioni. La definizione di com- ponente di sicurezza viene modificata dicendo che si tratta di un componente fisico o digitale, compreso quindi il software che svolge funzioni di sicurezza, includendo così nel campo di INCHIESTA