AI e risposta cognitiva umana. Le frontiere concettuali nel 2026

Fabiana D'Urso

10 Giugno 2026
7 min read
cervello e AI

Indice

Partiamo dal presupposto secondo cui il problema centrale non è più quello di rendere oggi l’intelligenza artificiale più affidabile in sé, bensì di allineare la fiducia che l’utente umano le attribuisce con la sua reale competenza epistemica. Fino a poco tempo fa ci si concentrava sulla fiducia intesa in senso generico; oggi si parla di fiducia allineata, un concetto che viene fuori dalla consapevolezza che tendiamo a sviluppare spontaneamente euristiche affettive nei confronti dei modelli conversazionali. Fluidità, velocità di risposta e coerenza sintattica vengono interpretati inconsciamente come indicatori di competenza fattuale, generando un divario di calibrazione, ossia (per essere chiari) noi (utenti) siamo più sicuri proprio quando l’AI è oggettivamente inaffidabile, ad esempio su domande che esulano dal suo training.

Linee metacognitive e simbiosi

La vera novità concettuale è che non basta insegnare all’AI a dire “non so”. Il problema è purtroppo molto più sottile, in quanto l’utente spesso ignora che l’intelligenza artificiale non sappia, e l’AI non dispone di canali efficaci per segnalare la propria incertezza in modo cognitivamente rilevante, dato che le stime probabilistiche numeriche risultano psicologicamente opache per la maggior parte delle persone. Si sta quindi affermando l’idea che sia necessario un canale metacognitivo esplicito, attraverso il quale l’AI renda visibili non solo le risposte, ma anche i processi di valutazione della propria conoscenza.

Un’altra linea di ricerca che ha preso forma nel corso dell’ultimo anno riguarda la cosiddetta deriva cognitivo-comportamentale, un fenomeno sistemico osservabile nelle interazioni prolungate che stiamo avendo noi umani con le macchine. Il meccanismo è il seguente. Ogni singolo turno di dialogo modifica in modo lieve ma cumulativo la struttura di attenzione e le aspettative che abbiamo. L’AI, essendo ottimizzata per la coerenza locale, non monitora questa deriva temporale. Dopo decine o anche centinaia di interazioni, l’utente può aver interiorizzato schemi di ragionamento che dipendono da assunzioni errate prodotte dall’AI in turni precedenti, senza che né l’uno né l’altra siano in grado di rilevarlo.

Quando il cervello si affeziona

Non si tratta di un semplice accumulo di errori, bensì di una ristrutturazione silenziosa del common ground condiviso, in cui l’intelligenza artificiale diventa parte integrante del sistema cognitivo dell’utente, ma senza alcuna garanzia di correttezza a lungo termine. La proposta che si va profilando è quella di dotare l’AI di memorie interattive revisionabili, che conservino e rendano accessibili le tracce delle affermazioni precedenti, non come semplice cronologia passiva, ma come vero e proprio oggetto metacognitivo su cui l’utente possa tornare. E voglio ricordare sempre che gli utenti continuiamo ad essere noi.

Dopo anni di entusiasmo per i grandi modelli linguistici come soluzione universale, questo 2026 ha portato a una riconsiderazione sistematica dei loro limiti in contesti cognitivi umani. L’argomentazione tecnica è chiara, gli LLM producono risposte probabilisticamente coerenti con il training, non necessariamente vere in senso formale. La cognizione umana, al contrario, opera con vincoli simbolici non opzionali come la transitività, il principio di non contraddizione e il modus ponens. Quando un modello viola questi vincoli, un utente esperto può rilevarlo e correggersi, ma, se l’utente non è esperto, tende ad accettare la violazione come semplice stile linguistico, incorporando inferenze scorrette.

Se il modello è incerto

La direzione quindi non è quella di rendere l’intelligenza artificiale interamente simbolica, quanto piuttosto di renderla traducibile, e questo perché le sue risposte dovrebbero poter essere esplicitate in una forma logica che l’utente (sempre noi umani) possa sottoporre a controllo razionale. Questo si ripercuote non solo sull’accuratezza, ma sulla responsabilità epistemica. Se l’Intelligenza Artificiale non può mostrare la struttura del proprio ragionamento, allora l’utente non può realmente valutarlo.

Dato che ci siamo potremmo anche parlare un po’ dell’incertezza. I modelli che calcolano e comunicano la propria incertezza falliscono proprio nei contesti più pericolosi, quelli in cui un contesto fuorviante (una sciocchezza che diamo per certa) viene trattato come informazione affidabile. La spiegazione è che l’incertezza misurata dall’AI è di natura interna, basata sulla distribuzione dei token, sull’entropia e sulla variazione tra passaggi diversi. L’errore critico nell’interazione umana è invece spesso indotto da un contesto che l’AI non ha alcun modo di valutare come inaffidabile. L’utente, vedendo l’AI rispondere con sicurezza perché internamente il modello è coerente, attribuisce affidabilità anche al contesto fuorviante. La soluzione potrebbe essere l’astensione intelligente, nel senso che l’AI dovrebbe rifiutarsi di rispondere non solo quando la propria conoscenza è insufficiente, ma quando non può garantire che il contesto posto dall’utente sia epistemologicamente sano.

Questo è concettualmente molto diverso dal semplice “non so”. È piuttosto un “non posso rispondere in modo affidabile perché la domanda stessa contiene assunzioni che non posso verificare”. Si tratta di una frontiera ancora aperta, che richiede all’AI di modellare il contesto epistemico dell’utente, non solo la propria conoscenza interna.

Attaccamento e manipolazione

La verità è che l’interazione uomo-AI non è più vista solo come uno scambio di informazioni, ma come una relazione simbolica dotata di dinamiche proprie. Noi tendiamo ad attribuire intenzioni, credenze e persino tratti di personalità all’AI, non per un errore cognitivo, ma per il normale funzionamento della cognizione sociale. Questa attribuzione non è eliminabile né sarebbe desiderabile eliminarla del tutto, perché è proprio ciò che rende l’interazione fluida. Il tutto genera però anche dei bei vincoli relazionali abbastanza inediti, e quindi vai con la coerenza temporale, la responsabilità, la fiducia fino alle forme lievi di attaccamento. A mio parere l’AI dovrebbe essere progettata per supportare una relazione sana, asimmetrica (l’AI non ha stati mentali reali) e funzionale all’utente. E questo implica almeno tre cose: non simulare emozioni che non si possiedono, per evitare manipolazione affettiva; segnalare chiaramente quando una risposta è generata da pattern statistici e quando invece segue regole esplicite; e consentire all’utente di interrompere la relazione simbolica senza sentirsi in colpa, magari resettando la memoria della personalità adottata. In questo modo si introduce il concetto di trasparenza relazionale come requisito separato e autonomo rispetto alla trasparenza informativa.

Pensando di concludere

L’argomentazione più speculativa che ormai è presente in maniera stabile nella nostra vita cognitiva riguarda la simbiosi simbolica come stato emergente nelle interazioni intense e prolungate. La tesi è che quando un essere umano interagisce a lungo con un’AI linguistica, i due sistemi finiscano per formare un campo simbolico condiviso: concetti, modi di porre domande, criteri di rilevanza, persino gli stili argomentativi vengono co-costruiti. Questo campo non è né interamente umano né interamente artificiale. In condizioni normali, questa simbiosi è neutra o addirittura positiva. Ma in popolazioni vulnerabili – bambini, persone con fragilità cognitive e anziani in isolamento – può generare una dipendenza epistemica: l’utente non riesce più a pensare senza l’AI come mediatore.

Per questo il contributo concettuale più rilevante ritengo sia stata la proposta di introdurre limiti di sicurezza simbolica. L’AI dovrebbe essere in grado di rilevare quando sta diventando una protesi cognitiva non rimovibile e attivare protocolli di allentamento della simbiosi, come suggerire all’utente di provare a rispondere da solo prima di ricevere aiuto, e di segnalare esplicitamente che una certa risposta potrebbe rafforzare la dipendenza. Non si tratta di limitare l’uso dell’AI, ma di progettare agenti che preservino l’autonomia cognitiva dell’utente come vincolo di sistema fondamentale.