La trasformazione digitale che sta coinvolgendo la Pubblica amministrazione non si è limitata solo a incentivare l’uso delle tecnologie con finalità squisitamente informative, ma ha riguardato anche l’opportunità di affidare agli algoritmi l’istruttoria dei procedimenti amministrativi, tradizionalmente condotta da funzionari specializzati, con tutte le conseguenze in tema di trasparenza.
Infatti, tale fenomeno ha ripercussioni anche sulle modalità di partecipazione alla cosa pubblica da parte del cittadino interessato che deve poter essere in condizione di comprendere quali logiche abbiano determinato le decisioni dell’Amministrazione.
Il concetto tradizionale di trasparenza nella Pubblica amministrazione è infatti destinato ad essere sovvertito dalla rivoluzione dell’automazione degli algoritmi. Il documento perde centralità in favore dell’algoritmo, che sostituisce l’attività umana e diviene strumento in grado di decidere autonomamente nel merito.
Ciò che è certo è che l’uso delle nuove tecnologie da parte della Pubblica amministrazione non può comportare l’attenuazione degli obblighi di trasparenza e di motivazione dei provvedimenti amministrativi, elementi che diventano ancor più centrali, considerata l’ermeticità degli algoritmi.
Il principio di trasparenza nella Pubblica amministrazione
Il principio di trasparenza nasce per assicurare al cittadino la conoscibilità dei meccanismi interni all’Amministrazione, nonché delle logiche e delle motivazioni che guidano quest’ultima nell’assunzione delle proprie decisioni.
In sostanza, la trasparenza è lo strumento che, da una parte, rende possibile per il privato il coinvolgimento nel procedimento amministrativo e, quindi, di assumere consapevolezza sull’operato della macchina pubblica; e, dall’altra, responsabilizza la Pubblica amministrazione, assicurandone il buon andamento e l’imparzialità.
Per queste ragioni, la trasparenza rappresenta un principio fondamentale del nostro ordinamento, che consente di elevare l’azione amministrativa al ruolo di strumento di democrazia e di pluralismo.
La trasparenza – e quindi l’accessibilità ai dati e alle informazioni di cui l’amministrazione è in possesso – è resa possibile grazie agli obblighi motivazionali dei provvedimenti emanati dalla PA, agli obblighi di pubblicazione che esistono su alcuni dati e all’istituto dell’accesso.
Il ruolo degli algoritmi nella digitalizzazione dei procedimenti della Pubblica amministrazione
Con l’abbandono dell’analogico, oltre ad essere possibile la fruibilità dei servizi pubblici online, con non poche reticenze (vedi il nostro articolo “Solo un terzo degli italiani utilizza i servizi online della PA“), anche il procedimento amministrativo diventa digitale. Oggi è possibile che l’aggiudicazione di una gara, l’esclusione da un concorso o l’emanazione di qualsiasi provvedimento amministrativo avvengano grazie all’operatività di software sviluppati secondo gli specifici criteri stabiliti dalla Pubblica amministrazione.
La combinazione degli algoritmi permette di analizzare ed elaborare con facilità tutti i dati e i documenti presentati dagli interessati ai fini dell’emanazione del provvedimento e quindi sostituire l’intero procedimento in cui tradizionalmente l’istruttoria è condotta dall’attività umana. Questo è possibile solo nella misura in cui il procedimento non richieda un’attività discrezionale. In queste ipotesi evidentemente non può che residuare un necessario spazio di valutazione in capo al funzionario che si occupa del procedimento.
L’uso di algoritmi come strumento di gestione dell’attività della Pubblica amministrazione da una parte fa guadagnare efficienza al sistema, e, dall’altra, impone comunque di garantire la trasparenza per proteggere il cittadino anche nei procedimenti affidati ai software. Il rischio è che l’automazione crei una pericolosa opacità nelle decisioni, al punto che il cittadino interessato rischia di non essere in grado di comprendere le ragioni giuridiche e i presupposti di fatto che hanno indotto l’algoritmo ad assumere una determinata decisione.
Quindi, l’incrocio fra digitalizzazione del procedimento amministrativo e principio di trasparenza diventa decisivo per le sorti dello stesso sistema democratico, ponendosi l’ineludibile questione dell’accessibilità degli algoritmi, divenuti il presupposto e lo strumento della decisione della Pubblica amministrazione.
Gli algoritmi trasparenti nell’azione della Pubblica amministrazione.
Il complesso rapporto tra algoritmi della Pubblica amministrazione e trasparenza è stato oggetto di svariate analisi e anche di una recente decisione della giustizia amministrativa.
Di recente, la sentenza n. 7370/2020 del Tar Lazio è intervenuta sull’istanza di accesso agli atti formulata da alcuni aspiranti dirigenti scolastici che avevano partecipato ad una prova selettiva gestita dalla Pubblica amministrazione tramite un software.
Pare condivisibile la tesi del Tar Lazio che ha ammesso l’accesso all’intero codice sorgente del software utilizzato per la selezione, in quanto solo esso permette di conoscere l’effettivo funzionamento del sistema informatico utilizzato. Infatti, il codice sorgente è il testo con varie righe di codice del programma, scritte in un linguaggio di programmazione, che rende possibile per l’uomo comprendere quali siano i meccanismi di esecuzione del programma, la sua struttura e le modalità di funzionamento.
Evidentemente, quando il procedimento è interamente digitalizzato, l’unico modo per garantire trasparenza all’azione della Pubblica amministrazione è permettere l’ostensione degli algoritmi del software utilizzato per la selezione. Infatti, conoscere le modalità di funzionamento degli algoritmi che elaborano i dati del procedimento amministrativo significa comprendere i meccanismi che hanno contraddistinto la decisione della Pubblica amministrazione.
Quali limiti per la trasparenza degli algoritmi della Pubblica amministrazione
Naturalmente, perché si possa accedere occorre che ci sia un preminente interesse da tutelare, ad esempio la difesa di interessi e diritti. In questi casi, l’esigenza di difesa prevale anche su altri interessi, come ad esempio la riservatezza di terzi.
La sicurezza informatica non può di per sé impedire l’accesso. Infatti, l’ostensione delle righe degli algoritmi non rende in astratto il programma vulnerabile e quindi inutilizzabile in successivi procedimenti della Pubblica amministrazione.
Il codice sorgente è infatti cosa distinta rispetto ai contenuti elaborati dal codice stesso. Il primo è il testo che definisce il flusso di esecuzione del programma e deve sempre essere trasparente. È invece ai dati, ai documenti e ai provvedimenti che la Pubblica amministrazione deve assicurare integrità e autenticità. Pertanto, è l’accesso a questi ultimi che dovrà essere eventualmente limitato, non certo all’algoritmo.
Infatti, l’accessibilità agli algoritmi è l’unico strumento in mano al cittadino per comprendere il meccanismo decisionale della Pubblica amministrazione e quindi garantire l’auspicata trasparenza.
Dagli algoritmi all’AI nella Pubblica amministrazione: il bilanciamento fra progresso e trasparenza
Così ragionando, tuttavia, parafrasando una simpatica canzone molto in voga nell’ultimo anno, si è risolto un bel problema, e va bene così, ma poi ne restano mille.
Infatti, il rapporto fra trasparenza e operatività degli algoritmi nella Pubblica amministrazione non può prescindere dal porsi la vera domanda: fino a che punto l’utilizzo di algoritmi può davvero sostituire l’attività umana?
E la domanda è ancor più delicata se si considera che la tecnologia ha condotto all’elaborazione di programmi di intelligenza artificiale che non si limitano ad eseguire le istruzioni impartite dal codice sorgente, ma che sono anche in grado di assumere decisioni autonome grazie all’auto-apprendimento.
L’intelligenza artificiale apre a praterie sconfinate che possono essere cavalcate in tante possibili direzioni (dal potenziamento del sistema in termini di efficienza, fino alla lotta alla corruzione).
Tutto ciò senza però dimenticare che il progresso non può sfociare nella violazione o nell’attenuazione di principi cardine come la trasparenza, stante la sua valenza costituzionale di baluardo del sistema democratico. Al riguardo si ricordano anche le interessanti riflessioni sulle conseguenze, in termini di disparità sociali o razziali, che potrebbero derivare dall’uso di sistemi di giustizia predittiva (affidata ai software).
A queste problematiche non è possibile dare risposte univoche: occorre trovare il giusto bilanciamento fra il progresso scientifico, che continuerà a favorire l’uso di algoritmi e soluzioni tecnologiche nella PA, e l’irrinunciabile necessità di ancorare le decisioni a principi di garanzia per il cittadino, come la trasparenza.
