Pensiero artificiale, funzione giudiziaria e l’errore di metodo della metonimia

 

 

Pensiero artificiale, funzione giudiziaria e l’errore di metodo della metonimia[1]

 di Amalia Lamanna

Ho appena finito di leggere l’ampio contributo di Monica Palmirani L’IA nella giustizia: un bilanciamento possibile fra innovazione e democrazia clicca qui per leggere l'articolo

Il contributo è molto articolato e tocca molti punti delle applicazioni dell’AI nel settore della giustizia. Sicuramente l’articolo merita più di una lettura e di una riflessione ma l’aspetto che più mi ha toccata, o almeno per ora, il primo che più mi ha colpito è l’utilizzo della metonimia nella riflessione dell’Autrice tra algoritmo e sistemi AI, un espediente retorico, sempre più frequente, che danneggia la governance dei sistemi di AI che implementeranno sempre di più il nostro quotidiano.

Il nucleo della tesi dell’Autrice è chiaro: l’AI può aiutare la giustizia, ma se entra nel processo decisionale senza adeguati presìdi può alterare il libero convincimento, la motivazione e la qualità del contraddittorio.

L’articolo di Palmirani mostra che il problema dell’AI in giustizia non è la sostituzione del giudice, ma la trasformazione del contesto cognitivo in cui il giudice decide. In questa prospettiva, il cosiddetto “pensiero artificiale” non coincide con una mente autonoma, ma con un insieme di sistemi capaci di orientare, suggerire, selezionare e persino persuadere l’operatore umano. Il rischio non è quindi solo tecnico, ma costituzionale: quando l’AI influenza il modo in cui si formano le premesse del ragionamento, può condizionare anche l’esito della decisione.

Palmirani insiste sul fatto che strumenti generativi e agentici possono produrre opacità, variabilità degli output, allucinazioni e bias, rendendo difficile controllare la correttezza del contenuto e del percorso argomentativo. Questo è particolarmente delicato per il giudice, perché il suo potere non consiste nel produrre una soluzione qualsiasi, ma nel motivare una decisione secondo diritto, in modo controllabile e contestabile. Se l’AI fornisce una risposta solo apparentemente autorevole, la motivazione rischia di appoggiarsi su basi non verificabili, con un indebolimento del libero convincimento.

Il testo mette bene a fuoco il rischio di una forma di influenza cognitiva sottile: il giudice può essere portato ad accettare come neutra o oggettiva una risposta che invece incorpora scelte, priorità e pregiudizi del sistema. È qui che il “pensiero artificiale” diventa problematico, perché non impone una decisione dall’esterno, ma accompagna il decisore lungo un percorso argomentativo già predisposto. L’articolo richiama anche il problema della persuasività dei chatbot, della sycophancy[2] e della personalizzazione dinamica, cioè della capacità dei modelli di adattarsi all’utente e rafforzarne le inclinazioni iniziali.

Per il giudice ciò può tradursi in una progressiva erosione dell’autonomia intellettuale, soprattutto se l’uso dell’AI diventa abituale e non adeguatamente sorvegliato. Palmirani richiama per questo l’esigenza di controlli umani effettivi, spiegabilità e verificabilità, oltre a una governance istituzionale forte. La tesi è convincente: il punto non è vietare l’AI, ma impedire che essa diventi una scorciatoia cognitiva capace di sostituire il ragionamento giudiziale.

Le stesse criticità riguardano anche l’avvocato, sebbene in un piano diverso. L’uso dell’AI nella redazione degli atti richiede sempre il controllo critico del professionista, altrimenti si rischiano atti manifestamente infondati o privi di tenuta argomentativa e ovviamente il professionista è esposto in tal caso a responsabilità disciplinari e professionali. Qui il danno non sarebbe solo di accuratezza, ma di autonomia professionale: l’avvocato potrebbe affidarsi a testi generati dal sistema senza esercitare appieno la propria capacità selettiva, strategica e difensiva.

Per la difesa, infatti, l’AI può diventare un supporto prezioso nella ricerca, nel riassunto e nell’organizzazione del materiale, ma non può sostituire la valutazione giuridica, la scelta della linea difensiva e la costruzione del contraddittorio. Se l’avvocato si limita a “rifinire” un testo prodotto dal modello, la sua attività rischia di impoverirsi e di perdere quella responsabilità intellettuale che è parte integrante della funzione difensiva. In questo senso il pericolo è duplice: da un lato la dipendenza dal tool, dall’altro l’omologazione del linguaggio difensivo a schemi probabilistici e standardizzati.

Uno dei passaggi più forti dell’articolo è il richiamo alla spiegabilità come requisito essenziale per l’autonomia del giudice e, per riflesso, dell’avvocato. Se un sistema non consente di capire come è arrivato a una certa risposta, non è davvero compatibile con attività che richiedono motivazione, contestazione e responsabilità. Per questo Palmirani propone un approccio di AI ibrida, che combini modelli statistici e componenti simboliche e logiche, così da rendere il diritto computabile senza irrigidirlo.

Questa impostazione è particolarmente utile in ambito forense, perché permette di distinguere tra supporto tecnico e influenza decisionale. Un conto è usare l’AI per cercare precedenti o riassumere documenti; altro conto è usarla per selezionare la “soluzione più giusta” o la motivazione più convincente, trasformando il tool in un filtro epistemico che incide sul giudizio stesso. La linea di confine, come emerge nel testo, è sottile ma decisiva. Sul riassumere documenti come attività delegabile all’AI dal mio punto di vista ci sono da fare alcune considerazioni e valutazioni. Senza uno studio umano accurato della documentazione presente in un fascicolo, le scelte difensive come quelle decisionali appaiono a mio avviso, difficilmente percorribili e quindi si dà delega in bianco al modello di valutare l’importanza di un documento e\o di un suo contenuto a scapito di altri. Ciò che ai modelli di AI potrebbe apparire insignificante potrebbe non esserlo a livello processuale o procedurale. Spesso l’attività di studio e riassunto del contenuto del fascicolo dunque è sottovalutata. Infatti, è proprio nella fase di sintesi di ciò che di utile, interessante, dannoso a una tesi in luogo di un’altra c’è in un fascicolo che si elabora la scelta difensiva così come quella decisionale.

Il contributo di Palmirani suggerisce una tesi equilibrata ma netta: l’AI non è incompatibile con la giustizia, purché resti uno strumento e non diventi una fonte occulta di orientamento cognitivo. Il vero rischio del “pensiero artificiale” non è l’apparizione di una macchina giudicante, ma la graduale delega del ragionamento a sistemi che persuadono, semplificano e selezionano al posto dell’uomo. Per questo l’autonomia del giudice e dell’avvocato va protetta non solo sul piano formale, ma anche su quello materiale e cognitivo.

Nel testo di Palmirani tuttavia rilevo alcuni aspetti critici nell’utilizzo dell’espediente retorico della metonimia, cioè quella tendenza lessicale e concettuale a sovrapporre AI, algoritmo, AI generativa e sistemi agentici, anche se in alcuni passaggi l’Autrice prova a distinguere tra applicazioni puramente procedurali e applicazioni che incidono sulla decisione. La distinzione di base è importante: un algoritmo è una sequenza di istruzioni, mentre l’AI è una categoria più ampia di sistemi che possono includere molti algoritmi, tecniche statistiche e modelli di apprendimento. Sicuramente, sotto l’aspetto meramente lessicale, la tecnica è suggestiva, ma è erroneo e fuorviante sovrapporre il concetto di AI e algoritmo.

Nel testo “algoritmo” viene spesso usato per indicare qualsiasi sistema di AI, soprattutto quando si parla di influenza sul giudice o sull’avvocato, creando una sovrapposizione tra l’uso di “algoritmo” come sinonimo di AI.

Nel testo, inoltre,  si tende ad attribuire all’algoritmo  capacità cognitive proprie dell’AI: l’autrice parla di persuasione, sycophancy, profilazione, polarizzazione e “pensiero artificiale” come se fossero effetti dell’algoritmo in sé, mentre sono caratteristiche di specifiche architetture e modelli di AI, non dell’algoritmo in astratto. Emerge inoltre confusione tra strumento e sistema: in alcuni passaggi sembra che il problema sia “l’algoritmo” come entità unitaria, mentre in realtà il rischio dipende da dati, modello, training, interfaccia, obiettivo d’uso e contesto applicativo. L’articolo tende a far rientrare sotto la stessa etichetta sia attività semplicemente computazionali sia sistemi che incidono sul ragionamento giuridico, senza sempre mantenere netta la differenza tra automazione procedurale e AI propriamente detta, con estensione del rischio a ogni forma di automatizzazione, facendo un uso indistinto di “algoritmo” per indicare anche LLM e chatbot: quando parla di output variabili, allucinazioni e capacità persuasiva, l’Autrice descrive comportamenti tipici di modelli generativi, ma li ricondue genericamente all’“algoritmo”. Il punto critico di questo metodo  è che un algoritmo classico non “pensa”, non persuade e non profila da solo: esegue istruzioni. Le proprietà che Palmirani analizza derivano invece da sistemi di AI più complessi, spesso basati su machine learning e modelli linguistici. Dire “algoritmo” in modo troppo generico rischia quindi di oscurare le differenze tra un software deterministico, un modello predittivo e un sistema generativo. Sul piano giuridico, questa sovrapposizione può avere conseguenze rilevanti perché porta a trattare con lo stesso livello di allarme strumenti molto diversi tra loro. Così si perde precisione nella classificazione del rischio: un motore di ricerca documentale, un sistema di clustering giurisprudenziale e un chatbot generativo non incidono allo stesso modo sull’autonomia del giudice o dell’avvocato.

Quindi, vorrei stigmatizzare l’utilizzo di “algoritmo” come metonimia per indicare l’intero ecosistema AI, un uso frequente nel linguaggio giuridico e giornalistico, ma scientificamente impreciso che mette a rischio la governante dei mezzi che ci approntiamo a implementare nel nostro quotidiano.

La metonimia quindi è un errore di metodo perché ci fa scambiare una parte per il tutto. Se dici “algoritmo” per indicare indistintamente AI, modello, software, interfaccia e uso concreto, perdi la capacità di distinguere dove nasce davvero il rischio. In materia di governance questo è pericoloso perché la regolazione non deve colpire “la tecnologia” in astratto, ma il punto esatto della catena in cui si producono gli effetti (nel nostro caso, giuridici, decisionali o discriminatori).

La governance dell’AI richiede di separare almeno quattro livelli: dati, modello, applicazione e contesto d’uso. Se li comprimi tutti sotto la parola “algoritmo”, non riesci più a capire se il problema dipende dal training, dal design, dall’uso professionale, dal prompt, oppure dal set di dati. Questo indebolisce l’analisi del rischio e porta a soluzioni troppo generiche o, al contrario, troppo punitive verso strumenti molto diversi tra loro.

Una governance efficace deve poter assegnare responsabilità, fissare controlli e scegliere misure proporzionate. La metonimia rende difficile fare proprio questo, perché cancella le differenze tra chi sviluppa, chi integra, chi usa e chi decide in concreto. In pratica, se tutto è “algoritmo”, diventa più difficile stabilire chi deve spiegare, correggere, documentare o monitorare.

Sul piano normativo, l’effetto più grave è la perdita di proporzionalità. Un motore di ricerca giuridica, un sistema di classificazione documentale e un chatbot generativo non pongono lo stesso tipo di rischio, ma la metonimia tende ad appiattirli in un’unica categoria. Così si rischia di adottare regole troppo larghe per strumenti innocui o troppo deboli per sistemi che incidono davvero su autonomia professionale, bias e decisioni.

Quindi la metonimia è un errore di metodo perché sostituisce l’analisi concreta del sistema con un’etichetta generica, e la governance dell’AI vive invece di distinzioni precise, responsabilità distribuite e controlli mirati. È proprio la precisione concettuale che permette di governare il rischio, non la semplificazione lessicale. E purtroppo a rischio di apparire noiosi dobbiamo assumerci la responsabilità di imparare a distinguere di cosa stiamo parlando

---

[1] La metonimia è una figura retorica di significato che consiste nel sostituire una parola con un'altra legata alla prima da un rapporto logico o di contiguità. A differenza della metafora, i due termini sono strettamente connessi nella realtà (es. causa/effetto, contenente/contenuto)

[2] l’atteggiamento confermativo (sycophancy), che viene adottato specie nell’uso dei chatbot conversazionali, segue il flusso linguistico dell’utente, tendendo ad assumere un atteggiamento assertivo o in taluni casi anche seduttivo (e.g., Grok) oscurando i punti di debolezza o di fallacie logiche nelle ipotesi formulate dall’utente cfr Myra Cheng et al., Sycophantic AI decreases prosocial intentions and promotes dependence. Science 391, no. 6792 (2026). DOI:10.1126/science.aec8352 ; e S. Vagnoni; M. Palmirani, Fostering Deliberative Democracy in the Digital Age: An Ai-Powered Platform for Enhanced Citizen Engagement in Legislative Processes, in: Proceedings of the 2025 Eleventh International Conference on eDemocracy & eGovernment (ICEDEG), 2025, pp. 339 - 341 (atti di: 2025 Eleventh International Conference on eDemocracy & eGovernment (ICEDEG), Bern, Switzerland, 18-20 June 2025)