Sono i modelli di business alla base dei social media che hanno spinto le piattaforme a mediare il flusso di informazioni, filtrando e amplificando i contenuti in modi che distorcono il nostro pensiero. Questa è una sorta di controllo mentale e potrebbe amplificarsi in un contesto relativo al Metaverso.
Il Metaverso e il controllo del feedback
Se non regolamentato, il Metaverso potrebbe diventare un pericoloso strumento di persuasione. Il Metaverso può essere una forza positiva per l’umanità, ma se aspettiamo che certi temi vengano portati alla ribalta troppo tardi, potrebbero generare lo stesso scenario dei social media. Per aumentare la consapevolezza sui problemi, è necessario parlare (e scrivere) dei pericoli del Metaverso e sulla necessità di proteggere i diritti umani perché le tecnologie immersive potrebbero rivelarsi più pericolose dei social media tradizionali. Per fare ciò, mi servo di un concetto chiamato controllo del feedback.
Quest’ultimo deriva da una disciplina tecnica chiamata teoria del controllo, che è il metodo utilizzato dagli ingegneri per controllare i comportamenti di un sistema. Proviamo a pensare al termostato di casa.
Impostiamo la temperatura che pensiamo sia ottimale e se la casa scende al di sotto di quell’obiettivo, il calore si accende. Se la casa diventa troppo calda, si spegne. Quando funziona correttamente, il termostato mantiene la casa vicino all’obiettivo che ci siamo prefissati. Questo è il controllo del feedback.
Nell’esempio del riscaldamento, la casa rappresenterebbe il sistema, un termometro sarebbe il sensore e il termostato sarebbe il controller.
Un segnale di ingresso chiamato riferimento è la temperatura impostata come obiettivo. L’obiettivo viene confrontato con la temperatura effettiva nella casa. La differenza tra l’obiettivo e la temperatura misurata viene immessa nel termostato che determina cosa deve fare il riscaldatore. Se la casa è troppo fredda, il suo riscaldatore si accende. Se fa troppo caldo il suo riscaldatore si spegne. Questo è un sistema di controllo classico.
Naturalmente, i sistemi di controllo possono diventare molto sofisticati, consentendo agli aerei di volare con il pilota automatico e alle auto di guidare da sole. Questi sistemi necessitano di sensori sofisticati per rilevare le condizioni di guida o di volo, o qualsiasi altra cosa sia appropriata per il compito. Questi sistemi hanno anche bisogno di potenti controller per elaborare i dati dei sensori e influenzare i comportamenti del sistema in modi molto sofisticati. Al giorno d’oggi, i controllori utilizzano sempre più algoritmi di intelligenza artificiale al loro interno.
Con questo esempio alle spalle, torniamo a scrivere di Metaverso.
Tornando all’esempio sopra, vediamo che sono necessari solo pochi elementi per controllare efficacemente un sistema, che si tratti di un semplice termostato o di un sofisticato robot. I due elementi più importanti sono un sensore per rilevare i comportamenti in tempo reale del sistema e un controller che può influenzare tali comportamenti. Gli unici altri elementi necessari sono i cicli di feedback che rilevano continuamente comportamenti e impartiscono influenze, guidando il sistema verso gli obiettivi desiderati.
L’uomo all’interno del ciclo
Come si può facilmente intuire, quando consideriamo il pericolo del Metaverso, il sistema controllato è l’uomo. Quando indossiamo un visore e ci addentriamo nel Metaverso, ci stiamo immergendo in un ambiente che ha il potenziale per agire su di noi stessi più di quanto l’uomo possa agire su di esso. Diventiamo così un abitante di un mondo artificiale gestito da una terza parte che può monitorare e influenzare i nostri comportamenti in tempo reale. Questa è una situazione piuttosto pericolosa.
L’input del sistema per l’utente umano sono le immagini immersive, i suoni e le sensazioni tattili che vengono alimentate negli occhi, nelle orecchie, nelle mani e nel corpo. Questo è un input travolgente, forse l’input più ampio e profondo che potremmo immaginare oltre all’uso di impianti cerebrali chirurgici. Ciò significa che la capacità di influenzare il sistema (cioè noi stessi) è altrettanto ampia e profonda. Dall’altro lato dell’utente c’è l’output del sistema: sono le nostre azioni e reazioni.
Questo ci porta al sensore. Nel Metaverso, i sensori monitoreranno tutto ciò che facciamo in tempo reale: i movimenti fisici della testa, delle mani e del corpo. Ciò include la direzione in cui stiamo guardando, per quanto tempo indugiamo lo sguardo, il debole movimento degli occhi, la dilatazione delle pupille, i cambiamenti nella postura e andatura e anche i nostri segni vitali sono suscettibili di essere tracciati nel Metaverso.
Inoltre, il Metaverso monitorerà le nostre espressioni facciali e le inflessioni vocali per tracciare le emozioni in tempo reale. Questo va oltre il percepire espressioni che altre persone notano; include anche espressioni subconsce che sono troppo sottili per essere riconosciute dagli esseri umani. Conosciuti come “micro-espressioni”, questi eventi possono rivelare emozioni che gli utenti non intendono trasmettere. Gli utenti potrebbero anche non essere consapevoli di provare quelle emozioni, consentendo alle piattaforme metaverse di conoscere i nostri sentimenti interiori meglio di noi stessi. Ciò significa che quando ci immergiamo nel Metaverso, i sensori seguiranno quasi tutto ciò che facciamo e sapranno esattamente come ci sentiamo mentre lo facciamo.
Un database di dati comportamentali ed emotivi
In un Metaverso non regolamentato, i dati comportamentali ed emotivi non saranno solo tracciati, ma saranno archiviati nel tempo. Creando un database che rifletterà come gli individui siano suscettibili di reagire a una vasta gamma di stimoli durante la loro vita quotidiana. Quando elaborati da algoritmi di AI, questi dati estesi potrebbero essere trasformati in modelli comportamentali ed emotivi che consentono alle piattaforme di prevedere con precisione come reagiranno gli utenti.
E poiché il Metaverso non è solo realtà virtuale ma anche realtà aumentata, il tracciamento e la profilazione degli utenti avverrà non solo in mondi completamente simulati ma all’interno del mondo reale impreziosito da contenuti virtuali. Le piattaforme metaverse saranno in grado di tracciare e profilare comportamenti ed emozioni durante la nostra vita quotidiana, dal momento in cui ci svegliamo al momento in cui andiamo a dormire.
Modelli di business metaversi
Naturalmente, il pericolo non è che le piattaforme possano tracciarci e profilarci; è quello che possono fare con quei dati. Questo ci porta alla casella del controller di cui sopra. Il controller riceve un errore misurato, che è la differenza tra un obiettivo di riferimento (il comportamento desiderato) e l’output misurato (un comportamento rilevato). Se le piattaforme metaverse sono autorizzate ad adottare modelli di business simili a quelli dei social media, l’obiettivo di riferimento saranno i secondi fini di terze parti che mirano a conferire influenza sugli utenti. La terza parte potrebbe essere uno sponsor pagante che desidera persuadere un utente ad acquistare un prodotto.
Pubblicità e propaganda nel Metaverso
Naturalmente, la pubblicità e la propaganda sono in circolazione da sempre e possono essere abbastanza efficaci utilizzando le tecniche di marketing tradizionali. Ciò che rende unico il Metaverso è la capacità di creare cicli di feedback ad alta velocità in cui i comportamenti e le emozioni degli utenti vengono continuamente inseriti in un controller in grado di adattare la sua influenza in tempo reale per ottimizzare la persuasione. Questo processo può facilmente attraversare la linea dal marketing alla manipolazione. Per apprezzare i rischi, analizziamo il controller.
Al suo interno, il controller mira a “ridurre l’errore” tra il comportamento desiderato di un sistema e il comportamento misurato del sistema. Lo fa impartendo input di sistema. Nel Metaverso, questa freccia rappresenta la capacità delle piattaforme di modificare l’ambiente virtuale o aumentato in cui l’utente è immerso. In un Metaverso non regolato, il controllore può alterare il mondo intorno all’utente, modificando ciò che vede e sente. E poiché il controller può monitorare come l’utente reagisce, sarà in grado di regolare continuamente le sue tattiche, ottimizzando l’impatto persuasivo.
Esempi “pericolosi”
Per chiarire questo concetto, ecco alcuni esempi: immagiamo un utente seduto in un caffè nel Metaverso (virtuale o aumentato). Uno sponsor di terze parti vuole ispirare quell’utente ad acquistare un particolare prodotto o servizio o credere a un messaggio, propaganda o disinformazione. Nel Metaverso, la pubblicità non sarà negli annunci pop-up e nei video con cui abbiamo familiarità oggi, ma in esperienze immersive che sono perfettamente integrate nel nostro ambiente. In questo esempio particolare, il controller crea una coppia virtuale seduta al tavolo successivo. Quella coppia virtuale sarà l’input di sistema che viene utilizzato per influenzare l’utente.
Innanzitutto, il controller progetterà la coppia virtuale per il massimo impatto. Ciò significa che l’età, il sesso, l’etnia, gli stili di abbigliamento, gli stili di conversazione, i manierismi e altre qualità della coppia saranno selezionati dagli algoritmi di intelligenza artificiale per essere persuasivi in modo ottimale per l’utente target in base al profilo storico di quell’utente. Successivamente, la coppia si impegnerà in una conversazione controllata dall’intelligenza artificiale tra loro che è a portata d’orecchio dell’utente target. Quella conversazione potrebbe riguardare un’auto che l’utente target sta considerando di acquistare e possibilmente inquadrata come la coppia virtuale che discute di quanto siano felici del proprio recente acquisto.
All’inizio della conversazione, il controller monitora l’utente in tempo reale, valutando le micro-espressioni, il linguaggio del corpo, i movimenti degli occhi, la dilatazione della pupilla e la pressione sanguigna per rilevare quando l’utente inizia a prestare attenzione. Questo potrebbe essere semplice come rilevare un sottile cambiamento fisiologico nell’utente correlato ai commenti fatti dalla coppia virtuale. Una volta che l’utente di destinazione è coinvolto, il controller modificherà gli elementi di conversazione per aumentare il coinvolgimento. Ad esempio, se l’attenzione dell’utente aumenta mentre la coppia parla della potenza dell’auto, la conversazione si adatterà in tempo reale per concentrarsi sulle prestazioni.
Dati biometrici e VR
Mentre la conversazione ascoltata continua, l’utente potrebbe non essere consapevole di essere diventato un partecipante silenzioso. Il controller AI evidenzierà gli elementi del prodotto a cui l’utente target risponde più positivamente e fornirà contro argomentazioni conversazionali quando le reazioni dell’utente sono negative. E poiché l’utente non esprime apertamente obiezioni, le contro argomentazioni potrebbero essere profondamente influenti. Dopotutto, la coppia virtuale potrebbe affrontare verbalmente le preoccupazioni emergenti prima che tali preoccupazioni siano completamente emerse nella mente dell’utente target. Questo non è marketing, è manipolazione.
E in un Metaverso non regolamentato, l’utente target potrebbe credere che la coppia virtuale sia avatar controllati da altri clienti. In altre parole, l’utente target potrebbe facilmente credere di ascoltare una conversazione autentica tra gli utenti e non rendersi conto che si tratti di un’esperienza promozionale alterata.
Utenti ed esperienza immersiva
E non saranno presi di mira solo gli adulti in questo modo, ma i bambini, che hanno già difficoltà a distinguere i contenuti autentici dal materiale promozionale. Già Roblox, fornitore di un Metaverso utilizzato da 50 milioni di bambini, ha annunciato l’intenzione di lanciare “annunci immersivi” nel prossimo futuro.
E questo è un esempio relativamente benigno. Invece di spingere le caratteristiche di una nuova auto o giocattolo, l’agenda di terze parti potrebbe essere quella di influenzare l’utente target su un’ideologia politica, propaganda estremista o disinformazione o disinformazione. Inoltre, gli esempi precedenti si rivolgono all’utente come osservatore passivo di un’esperienza promozionale nel suo ambiente metaverso. In esempi più aggressivi, il controller coinvolgerà attivamente l’utente in esperienze promozionali mirate.
Consideriamo la situazione in cui un avatar controllato dalla AI che assomigli a qualsiasi altro utente in un ambiente coinvolge l’utente di destinazione in una conversazione promozionale basata su secondi fini. In un Metaverso non regolamentato, l’utente potrebbe essere completamente inconsapevole di essere stato avvicinato da una pubblicità mirata e potrebbe invece credere di essere in una conversazione con un altro utente. La conversazione potrebbe iniziare in modo molto casuale, ma potrebbe mirare a un ordine del giorno prestabilito.
Il controller avrà accesso a una grande quantità di dati sull’utente target, inclusi interessi, valori, hobby, istruzione, affiliazione politica, ecc. e lo utilizzerà per creare dialoghi che ottimizzino il coinvolgimento. Avrà accesso a informazioni in tempo reale sull’utente, tra cui espressioni facciali, inflessioni vocali, postura del corpo, movimenti oculari, frequenza cardiaca e frequenza respiratoria.
AI e background
È noto che i sistemi di AI possono superare i migliori “concorrenti umani” a scacchi, a poker e una vasta gamma di altri giochi di strategia. Che possibilità ha un consumatore quando è impegnato in una conversazione con un avatar che ha accesso agli interessi personali di quell’utente e può adattare le sue tattiche di conversazione?
Per finire, il controllo del feedback basato su Metaverso, possiamo sostituire il controller di testo generico con un software basato sull’intelligenza artificiale che altera l’ambiente o inserisce avatar conversazionali che impartiscono un’influenza ottimizzata sugli utenti target.
Il pubblico dovrebbe essere consapevole che le grandi piattaforme metaverse potrebbero essere utilizzate per creare sistemi di controllo del feedback che monitorano i loro comportamenti. Impiegando agenti di intelligenza artificiale per modificare le loro esperienze immersive per massimizzare la persuasione. Ciò significa che piattaforme potrebbero tracciare miliardi di persone e impartire influenza su ognuna di esse alterando il mondo che le circonda in modi mirati e adattivi. Questo scenario è spaventoso ma non inverosimile.
Come ci stiamo tutelando?
Per proteggersi da questo scenario, i leader del settore e i politici devono agire, implementando salvaguardie normative, promuovendo standard di settore e garantendo diritti immersivi ai consumatori prima che le piattaforme adottino modelli di business pericolosi per il pubblico.
Nel Metaverso, l’accesso ai dati personali dei singoli utenti sarà cruciale sotto diversi profili. Ad esempio, per la personalizzazione dei contenuti, quale aspetto fondamentale per una user experience coinvolgente. La raccolta ed il trattamento dei dati che riguardano un individuo identificato dovrà avvenire in conformità con la normativa sulla protezione dei dati personali, in particolare, il Regolamento (UE) 2016/679 (GDPR). Ragionevolmente, alcune categorie particolari di dati personali (come i dati biometrici e sanitari) potranno essere utilizzabili nel contesto Metaverso solo con il consenso espresso dell’utente.
L’intelligenza artificiale (AI), l’apprendimento automatico e gli algoritmi saranno centrali per organizzare e trattare le enormi quantità di dati che saranno alla base del Metaverso. I sistemi di AI impattano notevolmente sul trattamento dei dati personali. Le categorie di dati personali trattati e le finalità del trattamento potrebbero superare i confini dell’informativa fornita agli utenti.
Advertising e nuove realtà
È interessante sapere che alcuni usi dell’AI rilevanti per un Metaverso saranno vietati se potenzialmente suscettibili di violare i diritti fondamentali degli individui. Ad esempio, mediante la manipolazione delle persone attraverso tecniche subliminali, senza che tali persone ne siano consapevoli. Oppure attraverso lo sfruttamento delle vulnerabilità di specifici gruppi, quali i minori o le persone con disabilità, ovvero altre pratiche manipolative o di sfruttamento che causano danni agli individui. I danni sono, naturalmente, identificati in termini di conseguenze pregiudizievoli per l’individuo nel “mondo reale”.
Senz’altro, sarà importante garantire che gli annunci commerciali nel Metaverso incorporino quei termini che, a giudizio delle autorità di settore, risultino idonei a manifestare la finalità commerciale, qualora dal contesto ciò non risulti immediatamente percettibile. Questi disclaimer dovranno essere chiaramente visibili e direttamente accessibili.
Pensieri finali
L’intento di questo articolo è solo quello di prestare attenzione. Dobbiamo sicuramente tutelarci quanto prima affinché il Metaverso possa essere davvero un luogo dove poter compiere azioni, divertirsi, lavorare senza avere il dubbio che questo ci si possa ritorcere contro.
