Mettere mano alle lungaggini. Rendere le procedure di gara più trasparenti e snelle. Con risparmio di denaro pubblico e riduzione dei tempi per realizzare opere di interesse per l’intera società. Il nuovo codice intende accompagnare amministrazioni e operatori economici, passo dopo passo, dalla fase iniziale della programmazione e progettazione fino all’aggiudicazione e all’esecuzione del contratto. La riforma, che rientra tra quelle richieste dal Piano nazionale di ripresa e resilienza, si colloca nell’azione più ampia della digitalizzazione della pubblica amministrazione. Approvato a marzo (decreto legislativo 36/2023), il codice dei contratti pubblici per la prima volta apre all’intelligenza artificiale nelle procedure di gara. UniTrentoMag ha approfondito vantaggi e rischi dell’automazione delle procedure di gara con Barbara Marchetti, professoressa di Diritto amministrativo alla Facoltà di Giurisprudenza di Trento. Inoltre, ha raccolto il commento di Roberto Margoni, responsabile della Direzione Centrale Acquisti di Ateneo.
Professoressa Marchetti, all’articolo 30 si apre all’uso di procedure automatizzate nel ciclo di vita dei contratti pubblici. A quali soluzioni tecnologiche si fa riferimento?
«L’impiego di sistemi automatici di aggiudicazione è già una realtà delle amministrazioni aggiudicatrici, che usano da tempo algoritmi deterministici per stabilire, ad esempio, quale sia la migliore offerta. Nella relazione illustrativa al codice, tuttavia, si va ben oltre l’uso di sistemi esperti e si promuovono e regolamentano sistemi di intelligenza artificiale basati su algoritmi di apprendimento automatico (machine learning). Si tratta di tecnologie più complesse il cui uso da parte dell’amministrazione pone sfide inedite, perché alcune caratteristiche di tali sistemi possono confliggere con principi e regole fondamentali dell’azione pubblica, quali la trasparenza e la motivazione delle decisioni pubbliche».
In quali fasi dei contratti potranno essere sperimentate?
«Il codice immagina l’impiego di soluzioni tecnologiche, incluse IA e blockchain, in tutta l’attività contrattuale. Si tratta di tecnologie che possono servire per misurare costi o rischi di un’opera pubblica o – nel caso della blockchain – per assicurare certezza dei dati o dei passaggi amministrativi di una procedura complessa. L’impiego di IA per finalità di aggiudicazione del contratto è poi direttamente previsto e regolato dal codice».
Quali benefici ci si attendono?
«I benefici possono essere molti. Certamente in termini di velocità ed efficienza. Poi potrebbero esserci benefici legati alla trasparenza, e di conseguenza, di lotta alla corruzione. È evidente che un sistema di IA riesce a processare i dati molto velocemente e, in genere, senza errori, e questo costituisce un evidente ulteriore vantaggio. Sistemi di IA potrebbero anche adiuvare l’amministrazione nella fase di programmazione, suggerendo, sulla base di quantità di dati molto elevate, dove collocare l’opera, come contrastare eventuali rischi di carattere ambientale e così via».
Ci sono, però, anche effetti indesiderati e controindicazioni alle decisioni assunte mediante automazione nelle procedure di gara. Quali sono i principali?
«I principali rischi sono legati alle caratteristiche degli algoritmi di apprendimento automatico. Si tratta di algoritmi che partendo da una grande mole di dati giungono a generare gli output secondo logiche di tipo statistico-probabilistiche, e non causali, logiche che il programmatore non è in grado di prefigurare compiutamente a monte, né di spiegare a valle. Si tratta della cosiddetta black box. I computer scientists stanno lavorando su questo limite, ma ad oggi non può negarsi che l’opacità confligge con l’obbligo di motivazione delle decisioni pubbliche. Inoltre la formula che spiega l’algoritmo e il suo funzionamento non è comprensibile all’operatore economico e al cittadino, e quindi occorre trovare il modo di tradurre la formula tecnica in formula giuridica, come ha correttamente osservato il Consiglio di Stato. Ancora, gli algoritmi di apprendimento automatico sono tutt’altro che perfetti e neutri: esiste ormai una nutrita casistica mondiale relativa ad algoritmi che hanno prodotto errori o esiti discriminatori a causa dei bias presenti nei dati o nella programmazione del sistema. C’è poi il problema della cyber-sicurezza e la delicata questione dei dati e del loro trattamento. Va da sé che la criticità è maggiore o minore anche a seconda dell’impiego che se ne fa: in fase istruttoria o conoscitiva è un conto, in fase decisoria è un altro conto, perché qui l’IA si sostituisce del tutto all’autorità decidente».
Quali clausole si chiede di introdurre negli atti di indizione delle gare per evitare i rischi dell’automazione?
«In generale, è anzitutto necessario che l’amministrazione renda pubblico il fatto di utilizzare sistemi di IA nella sua attività contrattuale, spiegando i tipi che utilizza, le finalità per cui li utilizza e possibilmente i dati con cui i sistemi sono stati addestrati. È poi necessario che le amministrazioni sappiano governare le applicazioni attraverso funzionari in grado di sorvegliare la macchina, di interpretarne gli output e di disconoscerne gli esiti, qualora si ritengano errati. E qui l’amministrazione ha molta strada da fare, perché le competenze necessarie per svolgere questo controllo (human in the loop) sono al momento estremamente limitate. Questi obblighi di trasparenza, conoscibilità e accessibilità devono essere garantiti dal fornitore di queste soluzioni tecnologiche al momento della gara per il loro acquisto».
Il convegno - Venerdì 17 novembre al Palazzo di Giurisprudenza dell’Università di Trento (Via Rosmini 27) dalle 9.30 alle 17.30 si terrà il convegno “La digitalizzazione dei contratti pubblici nel nuovo codice”. L’iniziativa è organizzata nell’ambito di un’iniziativa congiunta con la Trentino School of Management (TSM) e del PRIN 2018 Administrative reforms: policies, legal issues and results. Interverranno, accanto a giuristi e computer scientists, esponenti di amministrazioni e società pubbliche in prima linea nell’attuazione della nuova disciplina. Coordinamento scientifico di Barbara Marchetti (Università di Trento) e Bernardo G. Mattarella (Università Luiss Guido Carli Roma). Ingresso libero con prenotazione online entro il giorno precedente il convegno. L’evento è anche accreditato dall’Ordine degli avvocati di Trento.