AI e funzione giudicante: quando il controllo umano diventa solo formale
Il problema giuridicamente più interessante dell’intelligenza artificiale applicata alla giustizia non è stabilire se una macchina possa pronunciare una sentenza. Nel nostro ordinamento la risposta, almeno oggi, è relativamente semplice. Il problema più difficile è capire quando una decisione formalmente adottata dal giudice cessi di essere sostanzialmente costruita dal giudice. Un sistema può non avere alcun potere di firma, non adottare alcun provvedimento e non sostituire formalmente il magistrato, ma incidere ugualmente sulla selezione dei fatti rilevanti, sulla ricostruzione del quadro probatorio, sull’individuazione delle norme applicabili, sulla ricerca dei precedenti e persino sull’architettura della motivazione. In questo scenario l’ultima parola rimane umana; una parte significativa delle parole che l’hanno resa possibile, però, potrebbe essere stata scelta altrove.
È qui che la distinzione tradizionale tra “supporto” e “decisione” comincia a mostrare i propri limiti. Il vero parametro non dovrebbe essere soltanto chi adotta l’atto, ma chi determina cognitivamente il percorso che conduce all’atto.
La riserva al magistrato prevista dalla legge italiana non è solo una regola sulla firma
L’art. 15, comma 1, della legge 23 settembre 2025, n. 132 stabilisce che, quando sistemi di intelligenza artificiale sono utilizzati nell’attività giudiziaria, resta sempre riservata al magistrato ogni decisione sull’interpretazione e applicazione della legge, sulla valutazione dei fatti e delle prove e sull’adozione dei provvedimenti. Lo stesso articolo attribuisce al Ministero della giustizia la disciplina degli impieghi dell’IA nell’organizzazione dei servizi, nella semplificazione del lavoro giudiziario e nelle attività amministrative accessorie; nella fase transitoria, inoltre, sperimentazione e impiego negli uffici giudiziari ordinari richiedono autorizzazione ministeriale, sentite AgID e ACN.
Letta isolatamente la norma potrebbe suggerire una soluzione semplice: il sistema prepara, il giudice decide. Ma una lettura costituzionalmente orientata porta più lontano.
L’art. 101 Cost. stabilisce che i giudici sono soggetti soltanto alla legge; l’art. 111 impone che tutti i provvedimenti giurisdizionali siano motivati. La motivazione non è, tuttavia, un requisito tipografico del documento finale. È la rappresentazione controllabile dell’itinerario attraverso il quale la funzione giurisdizionale ha trasformato fatti, prove e norme in decisione. La disciplina processuale rende ancora più evidente questo dato. Nel processo civile l’art. 132 c.p.c. richiede la concisa esposizione delle ragioni di fatto e di diritto della decisione; l’art. 118 disp. att. c.p.c. impone di esporre i fatti rilevanti e le ragioni giuridiche e di indicare le norme e i principi applicati. Nel processo penale la prescrizione è persino più stringente: l’art. 192 c.p.p. impone al giudice di dare conto dei risultati acquisiti e dei criteri adottati nella valutazione della prova, mentre l’art. 546 richiede che siano indicate anche le ragioni per le quali le prove contrarie sono ritenute non attendibili.
Questo cambia il modo di porre il problema dell’IA. Non basta che il magistrato sia giuridicamente titolare del provvedimento. Occorre che possa appropriarsi criticamente delle ragioni che lo fondano. Una motivazione generata da un sistema e successivamente letta, corretta e sottoscritta dal giudice non è, per ciò solo, illegittima. Ma la questione muta se la generazione automatica determina quali fatti siano considerati rilevanti, quali precedenti siano recuperati, quali eccezioni siano trascurate e quale concatenazione argomentativa costituisca il punto di partenza della decisione. In quel momento l’IA non sta più semplicemente facilitando la redazione: sta partecipando alla costruzione del decision space.
L’AI Act non distingue tra software “che decide” e software “che non decide”
È significativo che il Regolamento (UE) 2024/1689 adotti una logica funzionale. L’Allegato III, punto 8, lett. a), qualifica come potenzialmente high-risk i sistemi destinati a essere utilizzati da un’autorità giudiziaria, o per suo conto, per assisterla nella ricerca e interpretazione dei fatti e del diritto e nell’applicazione della legge a una concreta fattispecie. Il considerando 61 chiarisce la ratio: errori, opacità e distorsioni possono incidere sullo Stato di diritto, sulle libertà individuali e sul diritto a un ricorso effettivo e a un giudice imparziale. L’IA può quindi assistere il potere decisionale, ma non sostituirlo.
La parte più interessante, tuttavia, è l’art. 6, par. 3. Non ogni sistema riconducibile astrattamente all’Allegato III è necessariamente high-risk. Possono essere esclusi, a determinate condizioni, sistemi che svolgono compiti procedurali circoscritti, migliorano il risultato di un’attività umana già completata oppure compiono attività preparatorie rispetto alla valutazione rilevante. Questa eccezione rende ancora più sottile il confine tra assistenza e delega.
Il progetto di Guidelines della Commissione sulla classificazione dei sistemi high-risk, pubblicato nel maggio 2026 e ancora non definitivo (AI Act Service Desk), offre esempi particolarmente istruttivi. Un sistema che analizzi fatti, memorie, norme e giurisprudenza e produca una bozza di sentenza o della relativa motivazione rientra nel caso d’uso giudiziario dell’Allegato III. Analogamente, un sistema che estragga fatti da cause seriali, cerchi precedenti simili e generi moduli argomentativi destinati alla decisione deve essere valutato nella sua configurazione complessiva: non è possibile frammentarlo artificialmente in attività singolarmente innocue se l’effetto combinato può influenzare materialmente il risultato. Per contro, la mera pre-classificazione di un ricorso può integrare un compito procedurale o preparatorio; se però lo stesso sistema formula una raccomandazione sull’ammissibilità, la prossimità alla valutazione giuridica modifica il quadro.
È una distinzione molto più sofisticata di quella tra “IA che decide” e “IA che assiste”: la rilevanza giuridica dipende dalla prossimità funzionale dell’output alla formazione del giudizio.
Perché tecnicamente una sintesi può essere più invasiva di quanto sembri.
Questo punto diventa ancora più evidente osservando come funzionano gli strumenti generativi oggi utilizzabili in ambito legale.
Un Large Language Model non consulta il fascicolo come farebbe un magistrato né ricostruisce necessariamente una catena logico-giuridica nel senso processuale del termine. Genera sequenze linguistiche statisticamente plausibili. Il NIST definisce confabulation il fenomeno per cui un sistema generativo produce con sicurezza contenuti falsi o erronei e sottolinea che esso deriva dalla stessa architettura probabilistica dei modelli, particolarmente problematica nei domini che richiedono competenza specialistica e forte contestualizzazione (NIST Pubblicazioni Tecniche).
Nemmeno l’impiego della Retrieval-Augmented Generation elimina il problema. In un sistema RAG il modello non interroga necessariamente l’intero corpus. Prima della generazione intervengono segmentazione dei documenti, indicizzazione, embeddings, similarity search, ranking e selezione dei chunks che saranno inseriti nel contesto del modello. Un errore nel retrieval può quindi produrre una forma molto particolare di delega: non viene suggerita direttamente la decisione, ma viene deciso quale materiale sarà reso cognitivamente disponibile al decisore.
La ricerca recente in ambito legal-NLP conferma il problema. I sistemi RAG migliorano il grounding ma continuano a soffrire di errori di recupero, inclusa la selezione di documenti sorgente sbagliati; benchmark specificamente giuridici mostrano inoltre difficoltà ancora rilevanti nel recuperare correttamente i precedenti pertinenti. Anche studi pubblicati nel 2026 rilevano che il RAG riduce ma non elimina le allucinazioni nel dominio legale (v. ACL Anthology).
Ne deriva un punto spesso trascurato dai giuristi: la selezione automatizzata delle fonti è già una forma di influenza sul ragionamento, anche quando il testo conclusivo viene interamente scritto dal magistrato. Se un sistema esamina tremila pagine di fascicolo e restituisce venti passaggi “rilevanti”, il rischio non riguarda soltanto l’eventuale falsità di quei venti passaggi. Riguarda i duemilanovecentoottanta che non sono arrivati davanti al decisore.
Il controllo umano dell’AI Act è un requisito di capacità, non di presenza
È in questo contesto che assume reale significato l’art. 14 AI Act. La disposizione non si limita a richiedere che esista un essere umano nel circuito. La persona incaricata della sorveglianza deve essere messa nelle condizioni di comprendere capacità e limiti del sistema, monitorarne anomalie e prestazioni inattese, conoscere il rischio di automation bias, interpretarne correttamente l’output e, soprattutto, decidere di non utilizzarlo, ignorarlo, sovrascriverlo o invertirlo. L’art. 26 aggiunge che chi esercita la supervisione deve possedere competenza, formazione, autorità e supporto necessari. Questa formulazione consente di superare la versione più debole dell’human in the loop.
Un giudice che possa teoricamente respingere una proposta algoritmica ma non conosca le fonti utilizzate, non possa ricostruire i passaggi di retrieval, non disponga della versione del modello impiegata o non abbia concretamente il tempo per riesaminare autonomamente migliaia di atti non esercita necessariamente un controllo effettivo. Possiede un potere formale di override; ciò non significa che possieda anche una reale capacità di disallineamento cognitivo dal sistema. La stessa legge n. 132/2025 sembra cogliere il problema quando, all’art. 15, comma 4, lega l’impiego dell’IA nell’attività giudiziaria alla formazione digitale di base e avanzata dei magistrati e alla sensibilizzazione sui benefici e sui rischi. Non è un elemento accessorio: senza competenza tecnica sufficiente non esiste supervisione sostanziale, ma soltanto affidamento fiduciario. Gazzetta Ufficiale
Dal “human in the loop” alla non-delega sostanziale
Da questo intreccio normativo e tecnico può essere ricavato un criterio più preciso. Lo definirei test di non-delega sostanziale della funzione giudicante.
Il controllo umano può dirsi effettivo quando ricorrono almeno cinque condizioni:
– autonomia epistemica: il magistrato deve poter ricostruire le ragioni decisive anche senza assumere come corretto l’output del sistema;
– tracciabilità delle fonti: devono essere verificabili documenti, norme, precedenti e dati effettivamente recuperati e utilizzati per produrre l’output;
– contestabilità tecnica: il sistema deve consentire di riconoscere limiti, omissioni ed errori e non limitarsi a presentare un testo linguisticamente persuasivo;
– reversibilità: il giudice deve poter ignorare o sovrascrivere realmente il risultato senza che workflow, metriche di produttività o architettura del sistema rendano l’override solo teorico;
– capacità organizzativa di verifica: tempo, formazione e strumenti devono rendere concretamente possibile il riesame umano.
Questo test ha una conseguenza importante: l’effettività del controllo non è proprietà del solo algoritmo. È proprietà dell’intero sistema socio-tecnico composto da modello, interfaccia, fonti, procedure, magistrato, organizzazione dell’ufficio e vincoli temporali.
Un sistema tecnicamente sofisticato può quindi produrre una supervisione debole se inserito in un ambiente nel quale il giudice è spinto ad approvare rapidamente centinaia di output; viceversa, uno strumento relativamente semplice può essere compatibile con una supervisione robusta se utilizzato entro un processo che conserva verifica indipendente e tracciabilità.
La motivazione generata non coincide con la spiegazione del sistema
C’è poi un equivoco tecnico che merita particolare attenzione. Quando un LLM genera una spiegazione passo per passo del proprio risultato, quel testo non deve essere automaticamente identificato con il processo causale attraverso il quale il modello ha prodotto la risposta. Studi sperimentali sulla chain of thought hanno dimostrato che le spiegazioni generate possono essere plausibili ma non fedeli alle reali determinanti dell’output: il modello può, in sostanza, razionalizzare ex post una risposta (v. arXiv). Per il diritto questo significa che la richiesta di spiegabilità non può essere soddisfatta domandando semplicemente alla macchina: “perché hai risposto così?”.
In ambito giudiziario appare molto più utile una explainability per evidenze: identificazione delle fonti recuperate, versione del modello, configurazione utilizzata, input rilevanti, risultati intermedi verificabili, registrazione delle interazioni, evidenza delle modifiche apportate dall’operatore umano e possibilità di riprodurre, nei limiti tecnicamente possibili, il contesto nel quale l’output è stato prodotto. Non è casuale che l’AI Act affianchi alla sorveglianza umana requisiti di trasparenza e record keeping: l’art. 12 prevede la registrazione automatica degli eventi per i sistemi high-risk e l’art. 13 richiede una trasparenza sufficiente affinché il deployer possa interpretare correttamente gli output.
La CEPEJ, nelle Guidelines del dicembre 2025 sull’uso dell’IA generativa nelle corti (Consiglio d’Europa), insiste analogamente su human oversight, trasparenza e tracciabilità e richiede forme di revisione umana delle decisioni influenzate dall’IA e strumenti di tutela contro determinazioni automatizzate o AI-influenced.
A mio avviso, però, proprio qui il diritto dovrà affinare il proprio linguaggio. Non sempre sarà tecnicamente realistico pretendere la ricostruzione dell’“inferenza interna” di un modello generativo. È invece realistico – e giuridicamente più utile – pretendere la ricostruzione delle condizioni verificabili nelle quali quell’inferenza è stata utilizzata per incidere sulla decisione umana.
Dal controllo del sistema alla possibilità di contestarne l’incidenza
La conseguenza più delicata riguarda il processo. Se un sistema viene impiegato esclusivamente per anonimizzare provvedimenti, smistare documenti o gestire agenda e comunicazioni, la sua rilevanza rispetto alle garanzie processuali è limitata. Se invece seleziona elementi probatori, suggerisce la disciplina applicabile o contribuisce alla motivazione, diventa difficile sostenere che il suo impiego costituisca sempre e comunque un fatto organizzativo interno privo di rilevanza per le parti.
L’AI Act fornisce alcuni segnali in questa direzione. Quando entreranno pienamente in applicazione gli obblighi relativi ai sistemi high-risk dell’Allegato III, i deployer pubblici saranno soggetti anche alla valutazione d’impatto sui diritti fondamentali prevista dall’art. 27; dovranno inoltre registrare determinati sistemi e, quando questi assistono decisioni riguardanti persone fisiche, l’art. 26, par. 11 prevede un obbligo informativo verso gli interessati. Da queste norme non discende automaticamente un diritto della parte a conoscere ogni prompt, parametro o componente proprietaria del modello. Sarebbe un salto interpretativo eccessivo. Discende però un principio più difficile da ignorare: quanto più l’IA incide materialmente sulla formazione della decisione, tanto meno il suo utilizzo può restare giuridicamente invisibile.
La questione diventa allora quella della contestabilità. Una parte deve poter discutere le ragioni della decisione e il giudice dell’impugnazione deve poterle sindacare. Se una componente rilevante di quelle ragioni deriva da una selezione algoritmica di informazioni non ricostruibile, il problema non è semplicemente la trasparenza tecnologica. È la tenuta della stessa controllabilità giurisdizionale.
La giurisprudenza amministrativa italiana aveva individuato un problema analogo già prima dell’avvento della generative AI. Con la sentenza n. 2270/2019 il Consiglio di Stato ha affermato, nel diverso contesto della decisione amministrativa algoritmica, che il meccanismo deve essere conoscibile nei suoi criteri, nelle priorità e nei dati selezionati, affinché sia possibile verificarne conformità e sindacabilità. Trasporre automaticamente quella giurisprudenza al processo sarebbe scorretto; il principio di fondo, però, conserva una forza particolare: un potere pubblico non diventa meno sindacabile perché una parte della sua operazione è stata incorporata nel codice.
Il rischio più serio non è il giudice artificiale, ma il giudice cognitivamente dipendente
Il dibattito continua spesso a rappresentare il rischio estremo: il robot judge che sostituisce il magistrato. Probabilmente è il caso meno interessante, perché è anche quello più facilmente riconoscibile e giuridicamente respingibile. Più difficile da individuare è la progressiva dipendenza cognitiva da sistemi che non prendono formalmente alcuna decisione. Un assistente che ogni mattina sintetizza fascicoli, ordina argomenti, ricerca giurisprudenza e propone bozze può aumentare enormemente la produttività del giudice. Ma può anche diventare l’architettura attraverso cui il giudice vede il caso. E chi controlla l’architettura dell’informazione non necessita del potere formale di decidere per influenzare profondamente la decisione.
Per questo la soglia giuridica non dovrebbe essere cercata solo nell’atto finale. Occorre guardare a monte: quale parte dell’attività cognitiva necessaria alla decisione è stata affidata al sistema e quale capacità indipendente di verifica è rimasta al magistrato?
Il controllo umano effettivo esiste quando il giudice utilizza l’IA come strumento per interrogare meglio il fascicolo. Comincia a indebolirsi quando è l’IA a stabilire quale fascicolo il giudice finirà, cognitivamente, per vedere. Il punto non è pretendere una giustizia tecnologicamente sterile. Sarebbe irrealistico e probabilmente controproducente. È impedire che l’efficienza trasformi lentamente una funzione costituzionalmente riservata in una ratifica umana di un percorso conoscitivo costruito altro.
(Avvocato Luigi Alfano, criminologo forense, cassazionista del foro di Nocera Inferiore, Ctu e perito della Procura di Napoli e del Tribunale di Torre Annunziata in qualità di criminologo, noto nel panorama investigativo nazionale e dei casi di cronaca nazionale)
