- Home
- Intelligenza Artificiale
- Perché l’intelligenza a ...

Chiunque abbia usato un assistente di intelligenza artificiale generativa per qualche settimana ha incontrato il momento in cui la risposta è fluida, sicura, ben argomentata e completamente sbagliata. Un titolo di libro che non esiste, una sentenza mai pronunciata, una data inventata con la serenità di un notaio. Questo fenomeno si chiama allucinazione e, contrariamente a quanto si crede, non è un difetto misterioso né un capriccio di un singolo prodotto. Una ricerca recente di OpenAI ne spiega l’origine con una chiarezza utile a chiunque lavori con questi strumenti.
Che cosa sono le allucinazioni e che cosa non sono
Nella definizione proposta da OpenAI nel suo articolo di ricerca, un’allucinazione è un’affermazione plausibile ma falsa generata da un modello linguistico, prodotta con sicurezza anche quando il modello non dovrebbe averne. Gli stessi autori raccontano di aver chiesto a un chatbot molto diffuso il titolo della tesi di dottorato di uno di loro e di aver ricevuto tre risposte diverse, tutte errate, e lo stesso è accaduto con la data di nascita. Non si tratta quindi di «bugie» in senso morale, perché il modello non ha l’intenzione di ingannare, e nemmeno di semplici errori di battitura. Sono risposte che hanno la forma esatta della conoscenza senza averne il contenuto.
Il problema nasce dalla previsione della parola successiva
Il paper scientifico dal titolo Why Language Models Hallucinate, sostiene che le allucinazioni non siano affatto misteriose. Secondo gli autori originano come semplici errori di classificazione binaria, perché se i fatti veri non si distinguono statisticamente da quelli falsi, un modello addestrato a prevedere la parola successiva produrrà inevitabilmente frasi false ma verosimili.
L’esempio scelto è molto efficace. Se si addestra un sistema a riconoscere foto di cani e di gatti con milioni di immagini etichettate, l’algoritmo impara a farlo bene, perché esistono regolarità da cogliere. Se invece si etichettasse ogni foto con il compleanno dell’animale, il compito produrrebbe errori sempre, per quanto sofisticato sia l’algoritmo, perché i compleanni sono sostanzialmente casuali. Lo stesso vale per i modelli linguistici. Ortografia e parentesi si imparano benissimo perché seguono schemi, mentre fatti arbitrari e rari, come la data di nascita di una persona poco nota, non lasciano alcuna regolarità da apprendere, e il modello finisce per riempire il vuoto con qualcosa di plausibile.
Come la valutazione premia chi tira a indovinare
La parte più interessante dell’analisi riguarda ciò che accade dopo l’addestramento. Le fasi di rifinitura dovrebbero eliminare i semi dell’allucinazione, ma non ci riescono del tutto, e il motivo è quasi pedagogico. Pensiamo a un test a risposta multipla in cui lasciare in bianco una domanda dà zero punti, mentre tirare a indovinare offre una piccola probabilità di guadagnare qualcosa. Se il modello deve indicare un compleanno che non conosce, scegliere una data qualsiasi ha una probabilità su 365 di essere giusta, mentre rispondere «non lo so» garantisce zero.
Le classifiche più usate per confrontare i modelli misurano soprattutto l’accuratezza, cioè la percentuale di risposte esatte, e in questo sistema chi azzarda sempre appare migliore di chi si astiene con prudenza, anche se produce molti più errori. OpenAI osserva che gli errori sono peggiori delle astensioni e che le valutazioni dovrebbero penalizzare con più forza le risposte sbagliate date con sicurezza e riconoscere un credito parziale a chi esprime incertezza. In altre parole, il problema non è soltanto tecnico ma di incentivi, e cambiare il metro con cui si giudica un modello è parte della soluzione.
Perché i modelli più bravi sbagliano ancora
È tentante pensare che basti aspettare modelli più grandi. L’azienda stessa scrive che i suoi sistemi più recenti hanno tassi di allucinazione più bassi, soprattutto quando ragionano, ma che il fenomeno resta una sfida fondamentale per tutti i grandi modelli linguistici. Il rapporto 2026 dell’AI Index di Stanford, riassunto da The Decoder, fotografa bene questa irregolarità, perché descrive modelli che superano le persone su domande scientifiche di livello dottorale e che inciampano su compiti banali come leggere un orologio analogico. L’intelligenza di questi sistemi è frastagliata, brillante in alcune zone e fragile in altre, e non esiste una soglia oltre la quale l’errore sparisce.
Chi studia il cervello riconosce un’analogia con la confabulazione, il fenomeno per cui una persona riempie i vuoti di memoria con racconti coerenti e sinceramente creduti veri. È un parallelo suggestivo, che aiuta a capire perché la fluidità del discorso non sia una prova di verità, ma resta appunto un’analogia, perché i meccanismi sono radicalmente diversi. Il punto che conta è pratico. Noi umani tendiamo a fidarci di ciò che suona sicuro, e un sistema addestrato a suonare sicuro sfrutta questa scorciatoia mentale, a prescindere dall’intenzione di chi lo ha costruito.
Come ridurre il rischio nel lavoro di tutti i giorni
Se il modello è incentivato a rispondere sempre, il primo gesto utile è dargli il permesso di non sapere. Una richiesta che dichiara esplicitamente che l’ammissione di incertezza è preferibile a una risposta inventata cambia in modo concreto il comportamento, e le linee guida di Anthropic sul prompting insistono proprio sull’importanza di istruzioni chiare ed esplicite. Conviene poi chiedere le fonti e controllarle davvero, perché un riferimento bibliografico verosimile è una delle forme preferite di allucinazione. Funziona bene anche spezzare un compito complesso in passaggi verificabili, fornire il testo di partenza invece di affidarsi alla memoria del modello e usare la risposta come bozza da controllare e non come verdetto.
Per i contenuti che finiscono in un articolo, in una relazione clinica o in un atto, la regola è ancora più semplice. Ogni dato che non si può rintracciare in una fonte primaria va considerato non verificato, a prescindere da quanto sia elegante la frase che lo contiene.






