Nasce all’Università di Pisa il Good AI Lab per lo sviluppo etico dell’AIERT

E’ stato inaugurato Good AI, il laboratorio multidisciplinare dell’Università di Pisa dedicato allo studio e sviluppo di sistemi di ‘buona’ intelligenza artificiale, che soddisfino cioè non solo criteri di accuratezza ed efficienza, ma anche di trasparenza, sicurezza ed eticità.

Il laboratorio nasce dalle attività del progetto Fair, finanziato dal PNRR con l’obiettivo di sviluppare i sistemi di intelligenza artificiale del futuro, ha sede presso il Dipartimento di ingegneria dell’informazione dell’ateneo pisano e vede la partecipazione di docenti e ricercatori con diverse competenze, dalla filosofia alla linguistica computazionale fino alla giurisprudenza, all’informatica e all’ingegneria, non solo dell’Università di Pisa ma anche di Scuola Normale Superiore e CNR.

“La diffusione rapidissima di sistemi di AI sempre più potenti ha inevitabilmente un grande impatto economico, sociale e culturale – afferma Francesco Marcelloni, docente al Dipartimento di ingegneria dell’informazione dell’Università di Pisa e coordinatore del laboratorio -. Basti pensare a sistemi come ChatGPT o DALL-E, che sono in grado di generare contenuti sotto forma di testi e immagini che hanno qualità spesso indistinguibili da quelli prodotti dagli umani. La recente evoluzione dei sistemi di AI apre scenari applicativi fino a pochi anni fa impensabili, ma rende al tempo stesso urgente il tema della loro potenziale pericolosità, e diventa indispensabile poter distinguere una ‘buona IA’, a cui delegare con fiducia molti compiti anche in contesti critici, da una ‘cattiva IA’, che è invece imperativo controllare e limitare. Il laboratorio Good AI, che riunisce al suo interno competenze altamente interdisciplinari, si occuperà di valutare la conformità di sistemi di Intelligenza Artificiale, soprattutto quelli usati in contesti critici, come per esempio i sistemi di riconoscimento facciale, rispetto a criteri non solo di efficienza, ma anche di trasparenza, sicurezza ed eticità”.

La valutazione anche etica dei sistemi di AI è oggetto della prima normativa europea sull’argomento, l’AI Act, che impone che i sistemi di AI immessi sul mercato abbiano superato la procedura di valutazione di impatto prevista dalla norma secondo un sistema a ‘scala di rischio’, che prevede la soddisfazione di requisiti di conformità sempre più elevati a seconda della criticità del contesto di applicazione.

“Questa normativa – prosegue Marcelloni – avrà naturalmente un effetto importante sul mercato stesso delle tecnologie dell’informazione, in quanto il successo di un’applicazione potrà dipendere proprio dal suo grado di conformità ai valori della ‘buona IA’. Per questo, oltre a occuparsi dello sviluppo di sistemi conformi, il laboratorio Good AI si occuperà anche di fornire consulenza a imprese e Pubbliche Amministrazioni relativamente al grado di adeguatezza delle loro applicazioni rispetto ai principi stabiliti dalla normativa europea.

“Il supporto da parte del mondo della ricerca a società e imprese per l’adeguamento delle proprie tecnologie alle nuove normative – conclude Marcelloni – è sempre più strategico su sistemi, come quelli di AI, il cui sviluppo procede al momento a ritmo vertiginoso. Lo sviluppo anche industriale del nostro Paese dipende in modo critico dalla capacità del mondo imprenditoriale di adeguarsi ai nuovi paradigmi di tipo etico, sociale e normativo dell’industria 5.0, che vogliono i processi produttivi plasmati sulle esigenze di persone e ambiente”.

Fanno parte del Consiglio Scientifico del Good AI Lab:
•    Francesco Marcelloni (coordinatore) e Pietro Ducange, dipartimento ingegneria dell’informazione
•    Adriano Fabris e Veronica Neri, dipartimento di civiltà e forme del sapere
•    Alessandro Lenci e Giovanna Marotta, sipartimento di filologia, letteratura e linguistica
•    Dino Pedreschi e Anna Monreale, dipartimento di informatica
•    Marco Conti, CNR
•    Fosca Giannotti, Scuola Normale Superiore