***
Con l’approvazione da parte della Commissione europea del PNRR italiano, con il quale sono stati stanziati oltre sei miliardi di euro per la digitalizzazione ed innovazione della P.A., è divenuto ancora più attuale il tema dei rapporti tra amministrazione e realtà automatizzate. È evidente, in un contesto mutevole ed in continua evoluzione, che l’amministrazione pubblica, e, di conseguenza, il diritto che ne regola l’attività, siano chiamati ad uno sforzo di adeguamento non indifferente, tale da riuscire a far fronte in modo tempestivo alle nuove istanze che la tecnologia presenta. L’informatizzazione dei processi, del resto, può rivelarsi un mezzo dirompente per la realizzazione delle esigenze di neutralità, economicità, speditezza ed efficienza sottese all’agire pubblico, e peraltro dotate di copertura costituzionale. La questione più controversa, già oggetto dell’attenzione del Consiglio di Stato, attiene in particolare all’inserimento, nei procedimenti che coinvolgono enti pubblici, di strumenti di informatizzazione, soprattutto nelle ipotesi in cui questi possano incidere direttamente sulla sfera giuridica dei privati interessati.
Al fine di meglio comprendere come il diritto amministrativo si confronta con simili tematiche, appare opportuna una breve disamina di due recenti pronunce del Consiglio di Stato, con le quali il supremo consesso di giustizia si è espresso in materia di algoritmi nei procedimenti della p.a.
La prima sentenza rilevante, la n. 8472 del 2019, emessa dalla Sesta Sezione, ha affrontato il tema della legittimità del ricorso ad algoritmi finalizzati all’assunzione di decisioni da parte dell’amministrazione, nell’esercizio della propria discrezionalità tecnica. Chiariti i vantaggi che la p.a. può trarre dalla cosiddetta “rivoluzione digitale”, i giudici si sono soffermati sulla responsabilità a questa attribuibile nell’emanazione di provvedimenti sulla base di un processo decisionale affidato a software. Questo, innanzitutto, presuppone tre requisiti fondamentali:
- Conoscibilità del sistema e dei criteri utilizzati da parte degli interessati;
- Imputabilità della decisione all’organo operante, che assume il controllo sulla logicità e legittimità degli esiti del processo automatizzato;
- Non discriminazione algoritmica.
Aspetto fondamentale di qualsiasi delibera delegata ad algoritmi, dunque, è la necessità che il procedimento sia seguito, nel suo svolgimento e nella verifica degli esiti, dall’organo detentore del potere amministrativo, il quale ne assume la responsabilità. La pronuncia, citando la Carta della Robotica del 2017, emanata dal Parlamento Europeo, sottolinea che l’autonomia decisionale opera sul piano prettamente tecnologico, non invece su quello normativo; in relazione a quest’ultimo, occorre sempre l’affiancamento dell’uomo alla macchina, sì che da questi possa esigersi un ristoro per eventuali danni cagionati dal meccanismo automatizzato (c.d. principio di non esclusività della decisione algoritmica). La decisione, in definitiva, deve essere in ogni caso giustificata e adeguatamente motivata, così da risultare logica, coerente e non discriminatoria; in caso contrario, il provvedimento della p.a., seppur rispettoso delle forme di legge, si presta ad annullabilità da parte del giudice amministrativo.
La seconda pronuncia d’interesse è, invece, la n. 7891/2021 della Terza Sezione del Consiglio di Stato, che affronta il delicato tema della distinzione tra algoritmo ed intelligenza artificiale. La delibera attiene ad una differente questione, ossia della rilevanza della disponibilità di tali tecnologie, nell’ambito di una procedura di affidamento di contratti pubblici, da parte dei concorrenti. I giudici amministrativi, dunque, hanno evidenziato come l’algoritmo, inteso come “sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato”, vada distinto dal concetto di intelligenza artificiale. Quest’ultima attiene, infatti, a sistemi più complessi, che non rispondono al simile schema di input-output, ma che operano tramite un sistema di apprendimento automatico ed un linguaggio più strutturato, assimilabile a quello umano. Il machine learning, dunque, prevede che la macchina continui ad immagazzinare ed elaborare nuove informazioni e dati, che la portano ad agire in modo non deterministico, anche tramite ragionamenti di tipo induttivo. Nel caso di specie, comunque, il Collegio ha escluso che s’incorresse in ipotesi di intelligenza artificiale, rinvenendo nelle offerte dei partecipanti alla gara semplici sistemi algoritmici.
Sebbene, dunque, la giurisprudenza amministrativa non abbia ancora dovuto confrontarsi con i complicati rapporti tra p.a. ed intelligenza artificiale, la necessità di affrontare la questione appare imminente.
Se, infatti, le coordinate tracciate dal Consiglio di Stato del 2019 hanno fin ora consentito alle amministrazioni di avvalersi di algoritmi, anche complessi, in un clima di relativa certezza e stabilità, l’approdo a conclusioni analoghe in ambito di I.A. sembra ancora lontano. I profili potenzialmente problematici, in materia, sono principalmente due.
- Ci si chiede, in primo luogo, come possa l’amministrazione, agendo quale stazione appaltante, attribuire preferenza ad alcuno dei concorrenti che si avvalgano di tali tecnologie. In presenza di elementi aleatori, dettati appunto dagli impulsi che la macchina assorbirà, non è possibile verificare i risultati di un’operazione automatizzata, né, di conseguenza, valutare quale, tra i prodotti offerti, si adegui meglio alle specifiche esigenze del caso concreto.
- Dubbi analoghi attengono, poi, alla possibilità che la stessa amministrazione si avvalga di meccanismi di intelligenza artificiale nell’ambito dei suoi processi decisionali. Se, da un lato, tale eventualità può offrire vantaggi anche maggiori rispetto all’uso del semplice algoritmo, in termini di efficienza, speditezza, economicità ed imparzialità dell’azione amministrativa, dall’altro si pongono non pochi problemi in relazione all’attribuzione di responsabilità all’organo titolare del potere. Quest’ultimo, infatti, perderebbe qualsiasi controllo sul processo, potendo operare soltanto in sede di valutazione finale degli esiti decisori.
Dalle valutazioni tratteggiate, emerge in modo evidente come la giurisprudenza amministrativa arranchi per star dietro all’innovazione tecnologica, che assume un ruolo sempre più incisivo e rilevante in qualsiasi aspetto della società contemporanea. Come, dunque, nella mitologia classica il personaggio di Sisifo viene condannato a spingere in eterno un sasso sulla cima di un monte, destinato a rotolare dall’altro lato non appena raggiunta la meta, così il Consiglio di Stato appare destinato alla ricerca di un obiettivo che continua ad allontanarsi non appena sfiorato. Se, infatti, le considerazioni giurisprudenziali in materia di algoritmo hanno posto una pietra miliare nella regolazione dei rapporti tra p.a. e tecnologia, già s’intravede la nuova frontiera dell’intelligenza artificiale a porre nuove sfide per il diritto amministrativo.
Può, comunque, concludersi la trattazione parafrasando una frase di Camus, per il quale “anche la lotta verso la cima basta a riempire il cuore di un uomo” [1]; così, anche nel diritto amministrativo, la strada per la giurisprudenza amministrativa non può che essere quella di tendere, cercando per quanto possibile di avvicinarvisi, alle mete sempre più distanti che la tecnologia pone.
[1] Albert Camus, Il mito di Sisifo, 1942.
