(Regioni.it 4561 - 22/12/2023) La Conferenza delle Regioni del 20 dicembre ha espresso il proprio posizionamento in merito all'introduzione dell'Intelligenza artificiale all'iinterno del sistema pubblico elaborando proposte e indicanto alcune regole su cui discutere. Quindi il documento da inviare all'attenzione del Governo contiene diversi contributi espressi dalle singole Regioni.

POSIZIONAMENTO SULL’INTELLIGENZA ARTIFICIALE DELLE REGIONI E PROVINCE AUTONOME

In occasione dell’AI Safety summit 2023, tenutosi lo scorso Novembre nel Regno Unito, i governi di 28 paesi, tra cui l’Italia, hanno sottoscritto un documento (c.d. dichiarazione di Bletchley) in cui si evidenzia come l’intelligenza artificiale abbia “il potenziale per trasformare e migliorare il benessere umano, la pace e la prosperità”, ma perché ciò avvenga è necessario che la tecnologia sia “progettata, sviluppata, implementata e utilizzata in modo sicuro, in modo da essere centrata sull’essere umano”. Sempre nella stessa occasione il nostro Presidente del Consiglio ha dichiarato: “Serve un quadro normativo adeguato in cui innovazione e regolazione vadano di pari passo… Vogliamo una tecnologia che garantisca inclusione e uguaglianza”. Inoltre, il Governo italiano nel 2024 si appresta a svolgere un importante ruolo guida per la discussione del tema AI in ambito G7.

 

Come Conferenza delle Regioni e delle Province autonome ci siamo già espressi anche in sede di Comitato interministeriale per la transizione digitale (CITD), condividendo la necessità di rivedere la Strategia nazionale sull’intelligenza artificiale (2022-2024) per portarla al passo dei grandi investimenti che altri Paesi stanno già facendo in questa nuova opportunità tecnologica. Abbiamo quindi accolto con favore l’istituzione, lo scorso 23  ottobre,  del  Comitato di esperti sull’Intelligenza Artificiale e auspichiamo che al lavoro della relativa Segreteria tecnica sull’intelligenza artificiale possano contribuire, già nell’immediato, anche le Regioni e le Province autonome, all’interno di un percorso collaborativo per la definizione di questa nuova strategia, portando a valore anche le nascenti esperienze regionali in questo ambito.

 

In virtù di quanto premesso, gli aspetti su cui le Regioni e le Province autonome richiamano l’attenzione del Governo - aspetti sui quali la stessa commissione ITD sta ragionando, anche nell’ambito della community inter-regionale “Dati & AI” - sono i seguenti:

1. Riconoscere il ruolo delle Regioni rispetto alla definizione di  criteri  e casi  d’uso in cui l’impiego dell’intelligenza artificiale sia davvero fattore di miglioramento dei processi interni alla PA. Il gap tecnologico in materia AI del nostro Paese è evidente sia nel settore privato che nel pubblico, ma siamo consapevoli che gli algoritmi di intelligenza artificiale possono portare grandi benefici alle attività delle organizzazioni, alla loro efficienza e produttività e, di conseguenza, alla competitività e al benessere del Paese.

2. Riflettere sulla straordinaria opportunità dello sviluppo dell'intelligenza artificiale, di un'importanza cruciale da conciliarsi con l’aspetto etico dei suoi utilizzi tenendo conto, però, che questo non può bloccarne lo sviluppo anche a livello nazionale e l’impiego in ogni settore. Temi come la trasparenza e la conoscibilità della logica degli algoritmi, la non discriminazione, la responsabilità e il contributo/controllo umano nelle decisioni automatizzate (c.d. “riserva di umanità”) sono da considerarsi nel procedere con la modernizzazione e l’evoluzione della tecnologia e delle sue applicazioni al mondo della Pubblica Amministrazione e del È fondamentale garantire che

l’azione amministrativa, portata avanti anche con gli algoritmi, rispetti i principi previsti dalla Costituzione. In questo senso, le Regioni possono contribuire a definire linee guida e normative specifiche per l'implementazione dell'AI e a darne una contestuale attuazione, anche in forma sperimentale, nel rispetto dei valori e delle specifiche esigenze delle comunità territoriali. Le Regioni possono, inoltre, promuovere un approccio etico all’AI incoraggiando la collaborazione tra settore pubblico, privato e accademico per sviluppare soluzioni tecnologiche che rispettino standard e processi di digitalizzazione condivisi nei territori anche nell’ottica di abbattimento del digital divide. Le Regioni infine possono promuovere la creazione di registri pubblici relativi all'uso di algoritmi da parte delle Pubbliche Amministrazioni per garantire  la trasparenza nel loro uso nei confronti dei cittadini.

3. Attivare investimenti con fondi nazionali, che vedano Regioni e  Province autonome come soggetti attuatori, per avere "dati pubblici pronti per la AI", anche, ove possibile, come dati aperti utili per lo sviluppo di algoritmi AI nell’ambito della ricerca e del settore La gestione dei dati pubblici (metadatazione/bonifica/valorizzazione) è un fattore abilitante per costruire  degli algoritmi di addestramento davvero efficaci ed efficienti, e non è finanziato in modo specifico all’interno delle misure PNRR. Risulta di fondamentale importanza, di conseguenza, guardare anche alla qualità del dato e non solo al numero di dataset disponibili. Ad oggi, i dati delle PA sono spesso poco curati e di scarsa qualità, mancano processi strutturati di “data governance”, e di conseguenza, il rischio è quello di non farci trovare pronti per sfruttare gli algoritmi AI nelle PA. Inoltre, come già sottolineato in altri posizionamenti, molti dati pubblici sono “irraggiungibili” in quanto ancora su carta; allo stesso modo, va affrontato il tema della “dematerializzazione” degli archivi, che non vede finanziamenti specifici nelle misure PNRR. Una simile strategia permetterebbe anche di rendere sinergica l'attuazione di “data spaces” nazionali/europei, sfruttando e applicando tanto le previsioni sugli Open Data quanto nel Data Governance Act EU e nel Data Act EU. Occorre quindi supportare, attraverso investimenti con fondi nazionali, la formazione di nuclei di aggregazione territoriale su “data governance e intelligenza artificiale” affinché nessun ente pubblico rimanga indietro nel progresso tecnologico, partendo da subito nel sostenere tali processi in modo condiviso a livello territoriale, invece di rincorrere in seguito le innovazioni introdotte in modo scoordinato ed episodico. Le Regioni, utilizzando l'esperienza e le buone pratiche di enti sperimentatori e delle proprie centrali di committenza, possono redigere delle linee guida e delle clausole contrattuali standard per l’approvvigionamento di una AI etica e conforme alla normativa nazionale e comunitaria. Regioni e Province autonome possono fare da “rete neurale” del Paese rispetto a questi temi, ed anche per questo bisogna accelerare rispetto ai principi dell’Accordo Butti/Fedriga firmato a Perugia nel luglio 2023, per arrivare a definire il “cloud federato” e il “sistema nazionale per la trasformazione digitale”.

4. Valutare l’implementazione nella PDND (Piattaforma Digitale Nazionale dei Dati, sia per gli scopi di cui al CAD art.50-ter comma 2 che per gli scopi del comma 4) di funzionalità necessarie a definire le modalità e i limiti di utilizzo dei dati fruiti e/o erogati tramite interoperabilità tra PA e verso altri soggetti abilitati in ottica AI; si tratterebbe di taggare i dati, come già avviene nella compilazione delle informazioni relative alle finalità delle richieste di fruizione e di erogazione, aggiungendo un valore informativo che definisca i possibili utilizzi in ambito AI, conforme a quanto sarà disposto nel prossimo AI Act EU e per quanto attiene i “data spaces” previsti dal Data Act

5. Evitare che si arrivi a un “AI divide” in cui le PA non sono in grado di comprendere e sfruttare queste tecnologie. Quindi, è necessario, come già sottolineato in altri posizionamenti, un reclutamento d'urgenza di specialisti ICT nella PA. In un numero importante di (piccoli) enti NON c'è personale ICT, e non si tratta semplicemente della

mancanza di persone con le competenze necessarie, ci riferiamo in particolare proprio dell'assenza di personale informatico per gestire adeguatamente i propri sistemi informativi e la sicurezza… chi dovrebbe quindi presidiare l’introduzione dell’automazione attraverso l’intelligenza artificiale? Non sono ormai sufficienti  generiche iniziative per lo sviluppo delle competenze digitali, bisogna strutturare percorsi formativi specifici per gli specialisti ICT nelle PA, definire forme di reclutamento adatte, definire una precisa famiglia professionale degli specialisti ICT con una specificità a livello di CCNL, definire la carriera degli specialisti ICT all'interno delle pubbliche amministrazioni. Il gravissimo "gap" delle PA è ben rappresentato dalla Corte dei conti nella "Relazione sullo stato di attuazione del PNRR" (novembre 2023) ove si legge quanto segue: "11. Il ruolo della Pubblica amministrazione per agevolare il processo di transizione digitale è cruciale; non solo perché fornisce servizi digitali a imprese e famiglie, migliorandone l’accessibilità, ma anche perché può contribuire a diffondere buone pratiche e a stimolare processi di acquisizione di competenze. (..) La PA italiana risulta in grave ritardo, nei confronti con gli altri Paesi europei, circa la dotazione di personale specializzato in ambito digitale nei propri organici: per portare il peso nell’occupazione della PA delle figure qualificate come “scientists and engineers” agli standard medi europei occorrerebbe aumentarne il numero di ben 65mila occupati. D’altra parte, nel 2022 gli occupati laureati in ambito STEM, ovvero con lauree nel gruppo scientifico e tecnico, erano poco meno di 37mila persone. (..)" Peraltro, in tale contesto andrebbero valorizzate e coordinate le eccellenze dirette e quelle in controllo pubblico già esistenti, strutturando una rete unica e non dispersiva che permette ai centri di competenza presenti sul territorio di agire a supporto delle rispettive sfere territoriali di naturale influenza.

6. Occorre potenziare il ruolo dell’Ufficio del Responsabile per la transizione digitale (RTD), che va espressamente individuato anche come presidio immediato del tema intelligenza artificiale negli enti e il profilo professionale del RTD va qualificato con precisi Come evidenziato già nel 2017 dalla relazione della Commissione parlamentare di inchiesta sui livelli di digitalizzazione della PA: "(..) L’analisi dei curricula dei responsabili della transizione digitale [RTD] rende difficile affermare che il comma 1-ter dell’articolo 17 del CAD sia rispettato, e cioè che <> (..) Il tentativo di istituire la figura di Chief Digital Officer a costo zero è chiaramente fallito. È di tutta evidenza che le figure necessarie non sono presenti all’interno della PA, nonostante, come detto, la normativa prevedesse figure analoghe sin dal 1993 e quindi non vi è alcuna giustificazione per una mancata politica di assunzione in quasi 25 anni. “

7. Oltre a promuovere la capacità della pubblica amministrazione di adottare soluzioni innovative di intelligenza artificiale, è necessario favorire la capacità del sistema economico e dei suoi attori pubblici e privati di cogliere le opportunità offerte dall’AI in termini di maggiori livelli di innovazione e di competitività, di benessere e per il miglioramento della qualità della vita, intervenendo su temi chiave quali l’accelerazione del trasferimento tecnologico, lo sviluppo delle competenze e il sostegno alle collaborazioni interdisciplinari, valorizzando il modello dell’Open Innovation.

8. L’AI è un potente strumento trasversale abilitante per molte attività per cui le Regioni possono diventare laboratori per attività di contaminazione tra diverse discipline in particolare (team multidisciplinari) e per coinvolgere tutto il partenariato istituzionale ed economico-sociale del Ad esempio, al fine di ottenere una nuova generazione di cittadini pronti all’utilizzo corretto ed efficace della AI occorre portare la sua conoscenza nella scuola primaria e secondaria, e anche per queste attività le Regioni possono garantire la necessaria omogeneità sui territori. Le Regioni possono svolgere un ruolo chiave nel

garantire la disseminazione e la formazione sia a livello pubblico che privato, e possono fare da promotori in sinergia con gli interventi di finanziamento della programmazione EU 21-27 di collaborazioni tra industria, istituzioni accademiche e start-up. Bisogna investire anche per sostenere gli obiettivi del “Decennio digitale 2030”, tra i quali uno molto sfidante: nel 2030 il 75% delle imprese dell'UE dovrà utilizzare cloud, AI e big data, e inoltre il 90% delle PMI dovranno raggiungere almeno il “livello base di intensità digitale”. Le politiche nazionali vanno coordinate in modo sinergico con quelle a livello regionale per raggiungere questo obiettivo estremamente importante per il settore produttivo. Le Regioni possono effettuare degli assessment delle PA locali per verificare che il 90% di queste ultime raggiungano livelli base del DII così come le PMI.

9. Tenere in considerazione il ruolo che può svolgere il mondo delle Università e della Ricerca italiana, un asset strategico per la promozione di un approccio etico, sicuro e consapevole alla AI in Italia, istituzioni che possono essere partner delle Regioni per sperimentare nuove applicazioni avanzate in ambito dei servizi pubblici, e coadiuvare le Regioni stesse nella introduzione di forme di AI che perseguono gli obiettivi europei di sovranità digitale anche nell'utilizzo e promozione di questo tecnologia, ed infine svolgono un'azione essenziale nella formazione dei nuovi profili specialistici ICT, di cui c’è forte carenza, insieme al mondo della formazione scolastica e post-diploma.

10. Addestrare e mantenere nel tempo modelli di qualità nazionali sia general-purpose che specifici per settore (es. sanità, giustizia, etc.) nel caso predisponendo - tramite una infrastruttura nazionale - un sistema di comune riuso e/o fornitura di modelli in modalità as-a-service, promuovendo una cultura della “AI aperta”, anche sperimentando la possibile fusione con strategie open source, come via per la trasparenza dell’attività Questo consente di indirizzare temi critici quali l’affidabilità dei modelli e, quando si parla di AI generativa, le cosiddette allucinazioni rappresentano un tema di attenzione per l’implementazione di alcune tecniche all’interno della PA. La potenziale discriminazione di alcuni individui o fasce di popolazione può venire ereditata dai dati di addestramento (c.d. “bias”) con implicazioni etiche importanti. In secondo luogo, l’uso di fonti dati non certificate/garantite: l’assenza di consapevolezza e competenza circa la corretta selezione delle fonti, la gestione del relativo licensing e i criteri di set di dati di qualità e affidabili costituiscono in radice un “vulnus” alla possibilità di realizzare sistemi AI affidabili. L’imminente AI Act europeo, la Direttiva sulla responsabilità extracontrattuale da uso di sistemi di AI, e soprattutto le sfide che la già normativa vigente impone anche rispetto a detti sistemi (Direttiva NIS2, responsabilità da prodotto, data mining e ricerca, tutela dei dati e assistenza sanitaria, etc) richiedono di essere in grado di elaborare soluzioni già oggi adottabili, provando anche nuove soluzioni da condividere e verificare, avendo già un occhio a quello che verrà.

11. Occorre definire regole e criteri standard di accettabilità delle decisioni algoritmiche. L’utilizzo dell’AI di nuova generazione (es. machine learning, generative AI, etc ) come ruolo attivo in processi della PA può essere indirizzato solo se sono stati normati a livello strutturale e standardizzati regole e criteri di accettabilità basati su analisi rischi/benefici applicati ai singoli settori, ambiti tematici e differenziati a livelli di Il cambiamento in questo contesto è radicale. Si passa dall’implementazione della burocrazia (nell’ accezione positiva, le cui finalità sono rivolte all’efficienza, imparzialità, protezione dei diritti dei cittadini, etc) con modelli procedurali deterministici (regole codificate) a modelli statistici e probabilistici.

12. Definire indirizzi specifici per la connessa innovazione organizzativa del lavoro e personale PA: in molti contesti organizzativi non sarà sufficiente introdurre tecnologie AI, ma sarà necessario sviluppare una consapevolezza e una mentalità adeguata in modo diffuso, per sfruttare appieno e in modo sicuro le opportunità offerte dall’intelligenza artificiale. Si richiede infatti un “mindset” aperto a questi nuovi approcci mentre mancano negli organici le competenze necessarie per comunicare e interagire efficacemente e in modo critico con le tecnologie dell’AI, mettendo in evidenza anche gli aspetti etici di tali interazioni. Sono necessarie dimensioni di conoscenza, competenze tecniche e operative, nonché sensibilità giuridiche, ma anche valutazioni critiche ed etiche. Da un lato, ciò implica una comprensione delle funzioni fondamentali dell’AI e la capacità di applicarle  in contesti diversi, dall’altro, richiede un’attenzione costante alle implicazioni della AI. Se da un lato l’AI può portare efficienza e aumentare la produttività dei dipendenti pubblici, andando in parte a coprire eventuali carenze di personale amministrativo, non si possono non considerare gli impatti sull’organizzazione degli stessi Enti. Il lavoro si trasforma certamente per la presenza di assistenti virtuali, di sistemi di automazione intelligente o di decisioni supportate dai dati. Le competenze devono evolvere, in quanto determinati profili nella PA non saranno più necessari nel nuovo scenario, portando la necessità di avere un piano di gestione del cambiamento e di re-skilling / up-skilling. Può essere una opportunità per la PA, a fronte di riduzione degli organici per raggiungimento dei limiti di età, di indirizzare modelli di lavoro innovativi che contemplino l’utilizzo delle tecniche di AI e nello stesso tempo contribuiscano alla revisione di profili professionali e forme organizzative delle PA.

In conclusione, le Regioni e le Province autonome esprimono la forte volontà di svolgere il ruolo di partner attivi nel plasmare e attuare la nuova strategia nazionale sull'intelligenza artificiale, collaborando attivamente e proattivamente, sulla base di specifiche azioni condivise, con il Governo per promuovere lo sviluppo e l’utilizzo etico e consapevole dell'AI, massimizzando l'impatto sull’intero Paese in termini di innovazione, occupazione e benessere.

***

Si allegano anche le proposte normative già elaborate dalla Commissione ITD per il redigendo “Decreto PNRR” che trattano, nella maggior parte dei casi, di modifiche urgenti riferite al tema intelligenza artificiale nella PA.

 

Roma, 20 dicembre 2023

Scarica il documento