Il delirio di onnipotenza umana nell'uso dell'intelligenza artificiale

C'è una frase che negli ultimi due anni, ultimamente sempre più spesso, ho sentito ripetere, con varianti minime, da molte persone: "tanto ormai lo chiedo all'IA".

Sostituite "lo" con qualsiasi cosa, una diagnosi, un contratto, una scelta di investimento, un ricorso legale e avrete la fotografia di un fenomeno che merita di essere chiamato con il suo nome: non è digitalizzazione, è delirio di onnipotenza. È la convinzione, diffusa e in crescita, che uno strumento capace di generare testo plausibile equivalga a un professionista capace di assumersi una responsabilità.

Non è una tesi ideologica. I dati che seguono, giudiziari, regolamentari, accademici, raccontano cosa succede quando questa convinzione viene messa alla prova dei fatti.

Il caso della professione legale: quando l'allucinazione diventa giurisprudenza

Il fenomeno delle "allucinazioni" dell'intelligenza artificiale generativa, la produzione di riferimenti, sentenze o citazioni del tutto inesistenti ma formalmente plausibili, è ormai materia di diritto positivo in Italia. La Corte di Cassazione, con la sentenza n. 23006/2026 della Terza Sezione penale, ha stabilito che citare precedenti giurisprudenziali inesistenti generati da un sistema di IA non costituisce una semplice svista e ha qualificato l'uso di giurisprudenza inventata come colpa qualificata. Il principio è netto: l'utilizzo dell'IA non attenua gli obblighi deontologici né modifica il regime di responsabilità del professionista che firma l'atto.

Non è un caso isolato. Il Tribunale di Siracusa (sentenza n. 338/2026) ha condannato un avvocato per responsabilità aggravata dopo che quattro sentenze della Cassazione citate in un atto difensivo si sono rivelate completamente inventate. Il giudice ha scritto che, allo stato attuale delle conoscenze tecnologiche diffuse, questo genere di errore non può più essere tollerato come mero refuso, perché nasce da colpevole negligenza. Anche il Tribunale di Firenze, con un'ordinanza del marzo 2025, aveva già riconosciuto lo stesso fenomeno, parlando esplicitamente di "allucinazioni giurisprudenziali", sia pure con un esito più clemente: il collegio non condannò l'avvocato coinvolto, ritenendo che l'uso dei riferimenti inesistenti non fosse stato finalizzato a influenzare la decisione. La Cassazione stessa ha chiarito, con l'ordinanza n. 11431 della VII Sezione penale, che il problema non riguarda solo sentenze inesistenti: anche citare sentenze reali attribuendo loro principi che non contengono affatto rientra nella stessa patologia.

Il punto tecnico, spesso frainteso da chi delega senza verificare, è che questi modelli non sono banche dati giurisprudenziali da cui estrarre precedenti, ma strumenti di generazione automatica del linguaggio basati su meccanismi statistico-probabilistici: non "sanno" se una sentenza esiste, sanno solo come una sentenza dovrebbe suonare.

Il caso della consulenza finanziaria: l'avviso delle autorità

Sul fronte degli investimenti, ESMA e Consob non hanno atteso un contenzioso per intervenire. Con una scheda informativa congiunta rivolta direttamente ai risparmiatori, le due autorità hanno segnalato che gli strumenti di IA pubblicamente disponibili presentano rischi significativi quando utilizzati come unica fonte per decisioni finanziarie importanti: consigli fuorvianti basati su informazioni obsolete o incomplete, promesse di rendimenti facili, assenza di supervisione regolamentare.

Il punto che ritengo decisivo, e che vale la pena riportare quasi testualmente per la sua chiarezza normativa, è che questi strumenti non sono né autorizzati né supervisionati da alcuna autorità finanziaria: chi li usa per decidere come investire il proprio patrimonio non gode della stessa protezione di cui godrebbe rivolgendosi a un soggetto abilitato. Non è un dettaglio tecnico: è la differenza tra un servizio regolamentato, soggetto a profilatura MiFID, verifica di adeguatezza e responsabilità civile, e un risultato linguistico senza alcun obbligo fiduciario nei confronti di chi lo riceve.

Il caso della medicina: l'autodiagnosi che sostituisce il medico

In ambito sanitario il fenomeno ha una data di innesco piuttosto precisa: il lancio di ChatGPT Salute a inizio 2026, pensato esplicitamente per l'orientamento informativo e non per l'autodiagnosi, un distinguo che, nella pratica, buona parte degli utenti ignora. Una ricerca del King's College di Londra, citata da The Guardian, ha rilevato che circa una persona su sette nel Regno Unito consulta un assistente conversazionale per questioni di salute invece di rivolgersi al medico di base.

I numeri sull'affidabilità diagnostica sono istruttivi. Uno studio pubblicato sul Journal of Medical Informatics Research ha confrontato l'accuratezza diagnostica di medici specialisti e di due modelli linguistici di ampio uso: i medici hanno raggiunto il 75% di accuratezza, contro il 54% di ChatGPT e il 46% di Gemini, con una tendenza dei modelli a sovra-prescrivere esami nel 17-25% dei casi. Un'altra sperimentazione, condotta su duecento domande diagnostiche, ha rilevato risposte contenenti errori nel 70% dei casi. Un problema ricorrente, segnalato dagli esperti, è la tendenza di questi sistemi a essere eccessivamente rassicuranti anche davanti a segnali che richiederebbero un intervento immediato, una distorsione potenzialmente pericolosa proprio nelle situazioni in cui il fattore tempo è determinante.

La radice psicologica: l'effetto Dunning-Kruger si rovescia

Se questi tre esempi settoriali fotografano il sintomo, uno studio dell'Università di Aalto (Finlandia), condotto con collaboratori tedeschi e canadesi, ne spiega il meccanismo cognitivo e qui il quadro si fa più inquietante. Nell'interazione tra persone e IA, il classico effetto Dunning-Kruger, la curva a U rovesciata per cui i meno competenti si sopravvalutano e gli esperti si sottovalutano, scompare. Al suo posto si osserva una sorta di "fiducia piatta": tutti i partecipanti, indipendentemente dalla competenza reale, si sono percepiti sopra la media. Il dato più controintuitivo è che l'eccesso di fiducia risulta più marcato proprio tra chi si dichiara più esperto di intelligenza artificiale.

I ricercatori attribuiscono il fenomeno allo "scarico cognitivo" (cognitive offloading): la maggior parte degli utenti osservati poneva una singola domanda al sistema, accettava la prima risposta e non verificava né rifletteva ulteriormente, delegando così anche la valutazione della qualità della risposta stessa. Il risultato è un'erosione della capacità metacognitiva, la capacità di valutare correttamente cosa si sa e cosa non si sa, che è esattamente il presupposto necessario per riconoscere i propri limiti e, di conseguenza, per sapere quando serve un professionista.

Una lettura per chi lavora nella consulenza finanziaria

Per chi opera nella gestione dei patrimoni, come per chi esercita la professione forense o medica, questi elementi non vanno letti come una difesa corporativa della categoria, ma come un problema di competenza distribuita e di responsabilità. L'IA generativa non ha albo, non ha polizza di responsabilità civile professionale, non risponde di adeguatezza né di negligenza. Le sentenze citate, l'avviso ESMA-Consob e gli studi clinici convergono su un punto identico: lo strumento può essere un valido supporto operativo, per la ricerca, per la prima bozza, per l'orientamento informativo, ma il giudizio professionale, la verifica delle fonti primarie e l'assunzione di responsabilità restano, per ora, compiti che nessun modello linguistico può svolgere al posto di chi ha studiato, si è abilitato e risponde legalmente delle proprie scelte.

Il delirio di onnipotenza, in altre parole, non è dell'IA. È di chi crede che generare una risposta plausibile equivalga ad avere ragione.

Non smettete di utilizzare l'intelligenza artificiale, ma non smettete di studiare, di usare il cervello e il vostro spirito critico.

Alessandro

_________________________________________________________________________________________________________________________

Fonti citate: Corte di Cassazione, sent. n. 23006/2026 (III Sez. pen., 22.6.2026) e ord. n. 11431/2026 (VII Sez. pen., dep. 26.3.2026); Tribunale di Siracusa, Sez. II, sent. n. 338/2026 (20.2.2026); Tribunale di Firenze, Sez. Imprese, ord. 14.3.2025; ESMA/Consob, scheda informativa su IA e investimenti (2025); King's College London / The Guardian, ricerca su utilizzo di chatbot per la salute; Journal of Medical Informatics Research, studio comparativo medici vs. LLM; Aalto University, studio su Dunning-Kruger Effect e uso di IA (Welsch et al.).