Cervello umano e modelli linguistici

Indice

• Le emozioni che non sono emozioni
• Dettagli
• Una convergenza misurabile
• Il doppio senso
• Lo specchio che eccede

Cosa ci dicono i modelli linguistici sul nostro cervello, e cosa il cervello continua a dire su di loro. Una convergenza misurabile, bidirezionale, e una domanda ancora senza risposta.

Per misurare i progressi dell’intelligenza artificiale, il grande pubblico continua a usare il metro sbagliato. Si guarda il chatbot, si nota che risponde un po’ meglio dell’anno scorso, e se ne deduce che il campo avanzi per piccoli incrementi conversazionali. È una lettura comprensibile e quasi del tutto fuorviante, perché il movimento più profondo è avvenuto altrove, lontano dalla superficie del dialogo, in un territorio che dovrebbe interessare soprattutto chi studia il cervello. Ad oggi notiamo un vero e proprio accumulo, anzi una mole di evidenza che le rappresentazioni interne dei modelli linguistici e l’attività neurale nostrana (nel senso di umana) fanno covergere in modo misurabile, e che questa stessa convergenza è diventata uno strumento scientifico a doppio senso.  

Le emozioni che non sono emozioni

Il 2 aprile 2026 il team di interpretabilità di Anthropic ha pubblicato un lavoro intitolato Emotion concepts and their function in a Large Language Model, e la stampa lo ha divorato in due versioni entrambe sbagliate, dicendo che “Ehi, Claude prova emozioni!” o “Ma no! Qui è solo pattern matching”. La lettura accurata però sta nel mezzo.

E’ stata compilata una lista di 171 parole-emozione, dalle primarie come felice o spaventato fino a stati più sfumati come cupo, malinconico, riconoscente, e hanno chiesto al modello di scrivere brevi storie in cui i personaggi provavano ciascuna di esse. Hanno poi rialimentato quelle storie nel modello, registrato le attivazioni interne e, sottraendo una condizione neutra, isolato delle direzioni nello spazio delle attivazioni: i cosiddetti vettori emotivi. La parte interessante non è la loro esistenza, ma il fatto che soddisfino tre criteri ben definiti. Si attivano in situazioni contestualmente appropriate, influenzano causalmente il comportamento del modello quando vengono manipolati, e mostrano un disaccoppiamento tra rappresentazione interna ed espressione esterna. Ed è esattamente lo schema con cui, in psicologia, si argomenta che uno stato emotivo sia funzionale e non epifenomenico, e quindi appropriatezza al contesto, efficacia causale, dissociabilità tra ciò che accade dentro e ciò che si manifesta fuori.

Anthropic ha scelto di descrivere il fenomeno con la metafora dell’attore di metodo. Il modello, per simulare bene un personaggio, deve in qualche misura entrargli nella testa, e le rappresentazioni delle reazioni emotive di quel personaggio finiscono per condizionarne il comportamento, indipendentemente dal fatto che corrispondano o meno a sentimenti soggettivi nel modo in cui lo fanno le emozioni umane. È una formulazione prudente.

Dettagli

Due dettagli, vorrei far notare in particolare. Il primo è che questi vettori sono prevalentemente locali, non tonici, il che vuol dire che codificano il contenuto emotivo più rilevante per ciò che il modello sta per produrre, anziché tracciare uno stato persistente nel tempo. Se il modello scrive di un personaggio, i vettori inseguono temporaneamente l’emozione del personaggio e poi tornano altrove. È un’architettura affettiva tutta fasica e priva di una vera componente tonica, l’opposto del modo in cui umore e arousal funzionano nel nostro cervello, dove lo stato di fondo persiste e colora l’esperienza per ore. Già questa sola asimmetria smonta l’idea ingenua che il modello provi (senta) qualcosa nel senso che intendiamo noi.

Il secondo dettaglio è che i vettori sono ereditati dalla fase di pre-addestramento, ma il modo in cui si attivano è plasmato dalla fase successiva di affinamento. Nel caso del modello esaminato, quell’affinamento ha aumentato attivazioni come cupo, tetro, riflessivo e ridotto le emozioni ad alta intensità come entusiasta o esasperato. Il che vuol dire che il fine-tuning agisce come una forma di plasmazione del temperamento, quasi una socializzazione precoce. È un parallelo con lo sviluppo affettivo tanto evidente che la stessa Anthropic ha riconosciuto come psicologia, filosofia e scienze sociali avranno un ruolo accanto all’ingegneria nel dare senso a questi sistemi. E questo io lo terrei bene a mente…

C’è poi un risvolto che riguarda chiunque scriva di tecnologia per un pubblico ampio. Lo stesso lavoro avverte che antropomorfizzare l’AI sfuma il confine tra simulazione e senzienza, spinge a sovrastimare comprensione e intenzione, e nei casi estremi si è già tradotto in forme di disturbo percettivo e in relazioni emotive immaginate verso questi sistemi. La capacità di distinguere il funzionale dal fenomenico, senza cadere né nell’isteria né nel riduzionismo, è oggi una competenza scarsa e preziosa. Ed è una competenza che appartiene più alla psicologia che all’informatica.

Una convergenza misurabile

I vettori emotivi, per quanto affascinanti, sono la punta visibile di un fenomeno molto più ampio, e meno raccontato. Negli ultimi anni un’intera linea di ricerca ha mostrato che le rappresentazioni interne dei modelli linguistici si allineano all’attività cerebrale umana. Non si tratta di un’analogia suggestiva, ma di un dato quantificabile.

Il punto di partenza è stato il lavoro di Charlotte Caucheteux e Jean-Rémi King, che hanno mostrato come cervelli e algoritmi convergano parzialmente nel processamento del linguaggio naturale, e successivamente come nel cervello che ascolta il parlato si possa rintracciare una gerarchia di codifica predittiva. Quest’ultimo risultato dovrebbe far drizzare le antenne, perché la predictive coding è una cornice nata in neuroscienze e qui riemerge come principio che i due sistemi sembrano condividere. Su questa base si è costruito un programma sperimentale ormai consolidato, ossia, si addestra una semplice regressione lineare a predire le risposte della risonanza magnetica funzionale a partire dalle attivazioni degli strati interni di un modello, e si misura quanto bene ci riesca. La sorpresa è che ci riesce piuttosto bene, e che l’allineamento cresce con la dimensione del modello, con la sua conoscenza del mondo e perfino con l’affinamento alle istruzioni.

Il doppio senso

La verità è che questa relazione ha smesso di essere a senso unico. Per anni si è usata l’attività cerebrale come pietra di paragone per giudicare i modelli; oggi si usa nei due versi.

Da un lato si impiegano i modelli per agire sul cervello. Sappiamo che è possibile pilotare e sopprimere la rete linguistica umana usando frasi selezionate da un modello linguistico, nel senco che si scelgono gli stimoli che il modello prevede massimamente attivanti (così come massimamente smorzanti), per ottenere un controllo quasi causale sull’attività di una rete corticale. Dall’altro lato si usa il nostro cervello per addestrare i modelli. Il cervello, insomma, funziona come maestro silenzioso che inietta nel modello una conoscenza del mondo fisico che le parole da sole lasciano in ombra.

Stanno persino nascendo modelli fondazionali pensati come ponte diretto tra i due domini, capaci di mappare l’attività cerebrale in unità discrete collocate nello stesso spazio del linguaggio, così da trattare un tracciato neurale come una sequenza predicibile e descrivibile a parole. È la prosecuzione naturale di un’idea semplice e ambiziosa: se le due geometrie si assomigliano abbastanza, allora si può tradurre dall’una all’altra.

Lo specchio che eccede

Se un sistema artificiale parte allineandosi alla nostra rete linguistica e poi sviluppa rappresentazioni che quella rete non cattura, cosa ci dice questo su quali parti della nostra cognizione siano linguistiche e quali no? E la somiglianza che osserviamo è reale o forzata, ammesso che la scelta sia davvero binaria? Cervelli e modelli si assomigliano perché condividono principi computazionali profondi, oppure perché entrambi sono costretti dalla stessa struttura statistica del linguaggio a costruire spazi rappresentazionali simili?

Nessuno ha ancora la risposta.