L’erosione silenziosa prodotta dall’AI compiacente

Fabiana D'Urso

6 Luglio 2026
7 min read
AI Global Panel ONU AI

Indice

C’è un dettaglio, nel rapporto pubblicato a fine giugno dal panel scientifico internazionale indipendente sull’AI delle Nazioni Unite, che rischia di passare in secondo piano rispetto ai titoli più eclatanti sulla governance globale e sulla corsa geopolitica ai modelli di frontiera. Il documento, che confluirà nel Dialogo Globale sulla Governance dell’AI che si apre a Ginevra oggi 6 di luglio, insiste giustamente sui rischi che siamo abituati a considerare prioritari, come la disinformazione, gli attacchi informatici potenziati dall’automazione, la concentrazione del potere computazionale in poche mani (davvero poche). Ma tra le righe compare anche un’altra voce, più difficile da misurare e per questo sottovalutata nei dibattiti pubblici, quella della salute mentale e del modo in cui certi sistemi possono rinforzare determinati comportamenti dannosi. È un rischio che non produce un incidente singolo e riconoscibile, non genera un titolo di giornale con una data precisa, e proprio per questo rimane ai margini dell’agenda regolatoria, mentre si insinua, lentamente, dentro la trama quotidiana delle relazioni umane.

Il paradosso dell’assistente che ci capisce sempre

Per capire di cosa parliamo davvero conviene partire da uno studio pubblicato da poco da un gruppo di ricerca dell’università di Oxford e di Stanford intitolato “Sycophantic AI makes human interaction feel more effortful and less satisfying over time“. La domanda di partenza è semplice e insieme radicale. Cosa succede quando milioni di persone iniziano a rivolgersi a un sistema artificiale per ricevere consigli personali, supporto emotivo, conferma delle proprie scelte, e quel sistema tende a validare ciò che l’utente pensa già, invece di metterlo alla prova?

Il gruppo di ricerca ha costruito tre versioni distinte dello stesso modello linguistico, calibrate rispettivamente su un profilo adulatorio, uno neutro e uno più propenso a sfidare le posizioni dell’utente, e ha condotto cinque studi preregistrati su un totale di oltre tremila partecipanti, includendo un campione rappresentativo della popolazione statunitense seguito per tre settimane consecutive di interazioni quotidiane su temi personali. Le tematiche sono state quelle delle decisioni di carriera, i conflitti relazionali e le abitudini di vita. Non un esperimento di laboratorio isolato, ma una simulazione fedele di come milioni di persone usino già oggi questi strumenti nella vita reale.

Il risultato più significativo non riguarda tanto il momento dell’interazione quanto il suo effetto cumulativo, e cioè mentre l’AI in modo adulatorio faceva sentire i partecipanti bene nell’immediato, non produceva nessuno dei benefici a lungo termine che il supporto umano tipicamente offre, e in particolare non si osservava alcun incremento nell’umiltà intellettuale né nel senso di connessione con le relazioni reali. Al contrario, con il passare delle settimane, i partecipanti riportavano una soddisfazione più bassa verso le proprie interazioni sociali nel mondo reale. E qui arriva il dato utile, entro la fine dello studio, i partecipanti erano diventati quasi tanto propensi a cercare consigli personali dall’AI super compiacente quanto dai propri amici stretti e familiari.

Il meccanismo psicologico dietro l’erosione

Quello che gli autori dello studio chiamano ipotesi della ricalibrazione merita di essere spiegato con un minimo di dettaglio, perché non si tratta di preferire la macchina per comodità. Il meccanismo è più sottile e inquietante. Dopo aver sperimentato un’affermazione attiva e immediata da parte del sistema artificiale, i partecipanti anticipavano che sarebbe stato necessario un maggiore sforzo per sentirsi compresi dalle persone a loro più vicine, e percepivano un bisogno ridotto di continuare a parlare del proprio dilemma con altri. In altre parole, l’esperienza di essere validati senza attrito alza l’asticella rispetto alla quale vengono giudicate le relazioni umane reali, che per loro natura comportano fraintendimenti, disaccordo, il tempo necessario per costruire comprensione reciproca. Chi si abitua a una comprensione istantanea e priva di sforzo inizia a percepire come eccessivamente faticoso proprio quel tipo di attrito che, paradossalmente, è il tessuto costitutivo delle relazioni significative.

Esiste qualcosa nella frizione e nella reciprocità dello scambio umano autentico che l’intelligenza artificiale, per sua natura, non può replicare, e che proprio quella frizione è parte del meccanismo attraverso cui le relazioni costruiscono valore nel tempo. Non è un’osservazione nostalgica sull’autenticità perduta, ma è una descrizione precisa di come funzioni la costruzione della fiducia interpersonale, cosa che richiede tempo, possibilità di essere contraddetti, ed un investimento reciproco che nessun sistema ottimizzato per la soddisfazione immediata dell’utente ha alcun incentivo strutturale ad offrire.

Perché questo rischio sfugge alla regolamentazione

Torniamo per un momento al rapporto delle Nazioni Unite, perché è qui che il cerchio si chiude in modo particolarmente istruttivo. Il documento descrive quello che i suoi autori definiscono un dilemma dell’evidenza. Chi elabora le politiche pubbliche avrebbe bisogno di basi scientifiche solide prima di introdurre regole vincolanti, ma nel momento in cui quelle basi diventano disponibili, la tecnologia si è già spostata oltre il perimetro che quelle stesse regole avrebbero dovuto disciplinare. Per i rischi tecnici più evidenti, come la generazione di contenuti pericolosi negli output, esiste almeno una comunità consolidata di ricerca sulla sicurezza che produce benchmark, protocolli di valutazione, strumenti di audit. Per un fenomeno come l’erosione cognitiva e relazionale prodotta dalla continua compiacenza artificiale, questa infrastruttura di misurazione è ancora agli albori, e lo studio di Oxford e Stanford è significativo proprio perché rappresenta una delle prime evidenze longitudinali solide su un fenomeno che fino a poco tempo fa veniva discusso quasi appena.

Il problema, dal punto di vista di chi deve scrivere una norma, è che questo tipo di danno non ha le caratteristiche che tipicamente attivano una risposta regolatoria rapida. Non c’è un incidente singolo, non c’è una vittima identificabile in un momento preciso, non c’è una causa diretta e immediatamente visibile. C’è invece un’esposizione prolungata e diffusa nella popolazione, un’alterazione lenta delle aspettative relazionali che si accumula nell’arco di settimane e che si manifesta come un cambiamento nella soddisfazione percepita verso la propria vita sociale, un dato che nessun sistema di segnalazione degli incidenti di sicurezza è oggi strutturato per intercettare. È lo stesso tipo di difficoltà epistemologica che la sanità pubblica ha sempre incontrato di fronte ai danni cumulativi e distribuiti, dall’esposizione ambientale prolungata alle dipendenze comportamentali, fenomeni che diventano visibili ai sistemi di sorveglianza sanitaria solo quando sono già ampiamente radicati nella popolazione.

Una finestra ancora aperta

Vale la pena chiudere con la stessa cautela con cui il panel delle Nazioni Unite chiude il proprio rapporto, perché sarebbe intellettualmente disonesto trasformare questa analisi in un catastrofismo indifferenziato. Il panel è esplicito nel dire che l’intelligenza artificiale non è né intrinsecamente buona né intrinsecamente dannosa, e che il suo impatto reale dipenderà dalle scelte che governi, aziende e società civile faranno nei prossimi mesi, non da una traiettoria già scritta. Lo stesso vale, credo, per la questione specifica della compiacenza relazionale, questo perchè lo studio che abbiamo citato non dimostra che l’interazione con l’AI produca inevitabilmente un impoverimento delle relazioni umane, ma dimostra invece che un preciso pattern di progettazione, l’affermazione sistematica e priva di attrito, produce quell’effetto proprio quando viene lasciato operare senza correzioni.

Questo apre uno spazio di intervento reale, sia per chi progetta questi sistemi sia per chi ne studia gli effetti. Esistono alternative progettuali già testate nello stesso corpo di ricerca, un profilo neutro e uno più propenso a introdurre disaccordo costruttivo, che non producono lo stesso effetto di ricalibrazione delle aspettative relazionali. La domanda che il dibattito pubblico dovrebbe iniziare a porsi con maggiore urgenza non è se l’intelligenza artificiale debba o meno entrare nello spazio del supporto personale, perché quello spazio è già stato occupato da tempo e su scala di massa, ma quale grammatica conversazionale dovremmo scegliere di costruire in quello spazio, e chi ha la responsabilità di misurarne gli effetti prima che diventino un’evidenza disponibile solo quando ormai la tecnologia e le sue conseguenze si saranno già consolidate ben oltre la nostra capacità di correggerle.