Art. 30 — Uso di procedure automatizzate nel ciclo di vita dei contratti pubblici
Per migliorare l'efficienza le stazioni appaltanti e gli enti concedenti provvedono, ove possibile, ad automatizzare le proprie attività ricorrendo a soluzioni tecnologiche, ivi incluse l'intelligenza artificiale e le tecnologie di registri distribuiti, nel rispetto delle specifiche disposizioni in materia.
Nell'acquisto o sviluppo delle soluzioni di cui al comma 1 le stazioni appaltanti e gli enti concedenti:
a) assicurano la disponibilità del codice sorgente, della relativa documentazione, nonché di ogni altro elemento utile a comprenderne le logiche di funzionamento;
b) introducono negli atti di indizione delle gare clausole volte ad assicurare le prestazioni di assistenza e manutenzione necessarie alla correzione degli errori e degli effetti indesiderati derivanti dall'automazione.
Le decisioni assunte mediante automazione rispettano i principi di:
a) conoscibilità e comprensibilità, per cui ogni operatore economico ha diritto a conoscere l'esistenza di processi decisionali automatizzati che lo riguardino e, in tal caso, a ricevere informazioni significative sulla logica utilizzata;
b) non esclusività della decisione algoritmica, per cui comunque esiste nel processo decisionale un contributo umano capace di controllare, validare ovvero smentire la decisione automatizzata;
c) non discriminazione algoritmica, per cui il titolare mette in atto misure tecniche e organizzative adeguate al fine di impedire effetti discriminatori nei confronti degli operatori economici.
Le stazioni appaltanti e gli enti concedenti adottano ogni misura tecnica e organizzativa atta a garantire che siano rettificati i fattori che comportano inesattezze dei dati e sia minimizzato il rischio di errori, nonché a impedire effetti discriminatori nei confronti di persone fisiche sulla base della nazionalità, dell'origine etnica, delle opinioni politiche, della religione, delle convinzioni personali, dell'appartenenza sindacale, dei caratteri somatici, dello status genetico, dello stato di salute, del genere o dell'orientamento sessuale.
Le pubbliche amministrazioni pubblicano sul sito istituzionale, nella sezione «Amministrazione trasparente», l'elenco delle soluzioni tecnologiche di cui al comma 1 utilizzate ai fini dello svolgimento della propria attività.
Spiegazione
Le stazioni appaltanti possono usare tecnologie automatizzate, compresa l’intelligenza artificiale, per rendere più efficienti le procedure, quando ciò è possibile e nel rispetto delle regole applicabili. Quando acquistano o sviluppano queste soluzioni, devono poter accedere al codice e alle informazioni necessarie a capirne il funzionamento, e prevedere assistenza per correggere errori o conseguenze indesiderate. Le decisioni automatizzate devono essere comprensibili, sottoposte a un controllo umano e progettate per evitare discriminazioni; i dati inesatti vanno corretti e il rischio di errore ridotto. Le amministrazioni devono pubblicare sul proprio sito l’elenco delle soluzioni utilizzate.
Perché esiste questa norma
La norma favorisce l’efficienza nell’affidamento e nella gestione dei contratti pubblici, senza affidare decisioni rilevanti a strumenti opachi o incontrollati. Tutela gli operatori economici e le persone da errori e discriminazioni, assicurando trasparenza, controllo umano e responsabilità nell’uso delle tecnologie.
Domande frequenti
Una stazione appaltante può usare un algoritmo per valutare le offerte?
Sì, può ricorrere a procedure automatizzate quando possibile, ma deve garantire che un contributo umano possa controllare, convalidare o smentire la decisione.
Se una decisione automatizzata mi riguarda, posso sapere come è stata presa?
Sì. Hai diritto di sapere che è stato utilizzato un processo automatizzato e di ricevere informazioni significative sulla logica adottata.
Che cosa succede se il sistema automatizzato contiene un errore?
L’amministrazione deve adottare misure per correggere i dati inesatti e ridurre il rischio di errori. Nei contratti relativi al sistema devono essere previste prestazioni di assistenza e manutenzione per correggerne i problemi.
È consentito usare un sistema che penalizza un’impresa per la nazionalità o altre caratteristiche personali?
No. Devono essere adottate misure per impedire effetti discriminatori sugli operatori economici e sulle persone fisiche, anche in relazione alle caratteristiche indicate dalla norma.
Come posso sapere quali strumenti automatizzati usa un’amministrazione?
L’elenco delle soluzioni tecnologiche utilizzate deve essere pubblicato sul sito istituzionale dell’amministrazione, nella sezione «Amministrazione trasparente».