AI Act e appalti pubblici: cosa cambia per la Pubblica Amministrazione italiana

AI Act e procurement pubblico: cosa cambia per gli uffici gare

L'AI Act, il regolamento europeo sull'intelligenza artificiale, introduce obblighi che riguardano direttamente anche la Pubblica Amministrazione. Il procurement pubblico, dove l'adozione di strumenti AI sta crescendo rapidamente, è tra gli ambiti più toccati da queste nuove regole.

Perché l'AI Act riguarda anche gli strumenti usati nelle gare

Il regolamento classifica i sistemi di intelligenza artificiale in base al livello di rischio che comportano. Gli strumenti che supportano decisioni con effetti su diritti e interessi di soggetti terzi, come potrebbero essere sistemi che influenzano l'esito di una procedura di gara, rientrano potenzialmente in categorie soggette a obblighi rafforzati di trasparenza, documentazione e supervisione umana.

Cosa cambia per chi valuta uno strumento AI per l'ufficio gare

Per un ente pubblico che si appresta ad adottare uno strumento di intelligenza artificiale, l'AI Act rende ancora più importante poter rispondere ad alcune domande di base. Il sistema decide autonomamente o supporta una decisione umana? Quali dati vengono utilizzati e con quali garanzie? Esiste una documentazione tecnica sul funzionamento del sistema, disponibile per un'eventuale verifica?

Documentazione tecnica: cosa aspettarsi da un fornitore serio

Uno degli obblighi che l'AI Act rafforza è la disponibilità di documentazione tecnica sul funzionamento del sistema. Serve sapere come vengono generati gli output, quali sono i limiti noti dello strumento, quali categorie di dati vengono trattate. Un ente pubblico dovrebbe poter richiedere questa documentazione già in fase di valutazione dello strumento, non solo dopo l'adozione.

Supervisione umana: da buona pratica a requisito

Il principio di supervisione umana sugli output dell'intelligenza artificiale, già raccomandato dalle prime indicazioni ANAC sul tema, trova nell'AI Act una base normativa più solida. Per gli strumenti utilizzati nel procurement, questo significa che ogni output generato dall'AI, che sia una bozza, un suggerimento o una segnalazione di anomalia, deve restare un supporto alla decisione del RUP e mai un sostituto.

Formare il personale sull'uso corretto dello strumento

Un aspetto spesso sottovalutato è la formazione del personale che utilizza lo strumento AI. Bisogna sapere quali sono i limiti dichiarati del sistema e quando è opportuno diffidare di un output e richiedere una verifica più approfondita. È altrettanto importante saper documentare le proprie decisioni quando ci si discosta da un suggerimento dell'AI. È una competenza che diventa parte integrante del profilo professionale del RUP, non un dettaglio tecnico da delegare interamente al fornitore.

Come si posiziona AssistenteRUP rispetto a questi obblighi

AssistenteRUP è stato progettato fin dall'inizio secondo il principio di AI responsabile. Prevede supervisione umana sistematica sugli output, valutazione del rischio degli utilizzi previsti e trasparenza sui limiti dello strumento nei confronti degli enti che lo adottano. È un approccio che anticipa, più che rincorrere, la direzione tracciata dall'AI Act.

‍