Intelligenza Artificiale Generalizzata (AGI)

Indice

• L’importanza dello sviluppo dell’AGI
• Sfide tecniche dell’Intelligenza artificiale generalizzata
• Scalabilità
• Incertezza, sicurezza e affidabilità
• Ricerca interdisciplinare
• Sfide filosofiche dell’AI generalizzata
• Etica e governance
• Coscienza e sensibilità
• Moralità e processo decisionale
• I rischi dello sviluppo dell’AGI: il problema di controllo
• Superintelligenza artificiale
• Spostamento di posti di lavoro
• Disuguaglianza economica e sociale
• Sicurezza informatica
• Soluzioni filosofiche: cooperazione internazionale
• Quadri etici
• Trasparenza e responsabilità
• Conclusione

L’intelligenza artificiale generalizzata (AGI) si riferisce allo sviluppo di macchine intelligenti in grado di eseguire compiti in una vasta gamma di domini senza essere specificamente programmati per ogni attività. AGI mira a sviluppare macchine in grado di eseguire vari compiti con lo stesso livello di competenza degli esseri umani. Questa è un’affermazione audace, ma penso che possiamo limitare questa definizione alla sola “intelligenza generalizzata”.

Al contrario, esiste un’intelligenza artificiale ristretta progettata per eseguire compiti specifici generando dati specifici per attività e addestrando / ottimizzando per lo stesso compito.

L’importanza dello sviluppo dell’AGI

Lo sviluppo dell’AGI è visto come un passo fondamentale nel progresso dell’intelligenza artificiale (AI). Può potenzialmente rivoluzionare il modo in cui viviamo e lavoriamo, dal miglioramento della diagnosi e del trattamento medico all’ottimizzazione del consumo energetico e alla mitigazione dei cambiamenti climatici. L’AGI può anche aiutarci a risolvere problemi complessi oltre le capacità dell’intelligenza umana, come prevedere disastri naturali e progettare nuovi materiali. Sebbene questo sia un modo fortemente ottimistico di guardare al potenziale dell’AGI, si può affermare con sicurezza che i progressi nell’AGI avranno effetti profondi sulla vita umana.

Lo sviluppo dell’AGI è estremamente promettente, ma è anche problematico a causa della sua complessità e dei potenziali rischi. Le sfide tecniche e filosofiche pongono ostacoli significativi al suo sviluppo e i rischi associati allo sviluppo dell’AGI, compresi i rischi esistenziali e sociali, devono essere attentamente considerati prima di procedere. 

Sfide tecniche dell’Intelligenza artificiale generalizzata

Scalabilità

Una delle maggiori sfide tecniche nello sviluppo dell’AGI è la scalabilità. Man mano che i sistemi di intelligenza artificiale diventano più complessi e sofisticati richiedono enormi quantità di dati e potenza di calcolo per funzionare. Ciò rappresenta una sfida significativa in termini di scalabilità del sistema, nonché il consumo energetico necessario per alimentarlo. Un altro aspetto spesso ignorato della scalabilità è la disponibilità dei dati stessi. Attualmente, con GPT-3.5 e GPT-4, quasi tutto il testo generato dall’umanità (inglese) è stato utilizzato per addestrare i dati. Abbiamo un collo di bottiglia dei dati stessi come limitazione al ridimensionamento.

Incertezza, sicurezza e affidabilità

Un’altra sfida tecnica nello sviluppo dell’AGI è l’incertezza dei risultati. I sistemi AGI sono in fase di sviluppo per operare in ambienti complessi e imprevedibili, ma sono davvero adatti a operare in ambienti così imprevedibili? Il problema dell’allucinazione o dell’essere fiduciosamente sbagliati, o di essere intenzionalmente ingannati / hackerati dal prompt può portare a risultati inaspettati. Ciò può rendere difficile prevedere come si comporterà il sistema in diversi scenari, il che può essere problematico per la sicurezza e l’affidabilità.

Ricerca interdisciplinare

Lo sviluppo dell’AGI è anche un campo interdisciplinare che richiede competenze in una serie di settori, tra cui informatica, matematica, psicologia cognitiva e neuroscienze. Ciò rappresenta una sfida significativa nel coordinare gli sforzi di ricerca e garantire che le diverse discipline stiano lavorando verso un obiettivo comune. Sulla carta, è un grande obiettivo. Tuttavia, la rappresentazione di vari casi d’uso / discipline / domini principali è il problema principale con l’approccio per raggiungere questo obiettivo. 

Alcuni ingegneri e ricercatori di intelligenza artificiale con una serie specifica di competenze tecniche stanno sviluppando questi modelli. A volte, dire che la maggior parte degli ingegneri e dei ricercatori di intelligenza artificiale (seguiti dall’hype generato dagli utenti comuni) non hanno competenze sufficienti né tantomeno indizi sui risultati dei loro modelli e sul loro impatto sulle aree / discipline / domini dei casi d’uso. La maggior parte di questi modelli viene “testata” da utenti generici che non hanno né il background né la profondità di conoscenza di un particolare ambiente. Si può dunque affermare che il modello suoni generalmente bene, ma sia difficile da usare in qualsiasi disciplina.

Sfide filosofiche dell’AI generalizzata

Etica e governance

Lo sviluppo dell’AGI solleva una serie di questioni etiche e di governance che devono essere attentamente considerate. Ad esempio, chi ha generato i dati di formazione, chi detiene i diritti di utilizzo del prodotto generato utilizzando tali dati, come dovremmo assicurarci che nessuna informazione personale sia stata utilizzata per sviluppare questi modelli, chi dovrebbe essere responsabile della regolamentazione dei sistemi AGI e come possiamo garantire che siano utilizzati in modo etico e responsabile?

Un altro livello di questo problema è sapere cosa è tenuta a fare questa AI? qual è l’obiettivo del sistema di AI? È come un uomo di fiducia con il beneficio dell’umanità come obiettivo primo, o si tratta di un vantaggio per un’azienda che si preoccupa meno dell’umanità ma più della sua linea di fondo sotto le mentite spoglie delle revenues dell’azionista di turno? Inoltre, e soprattutto, chi dovrebbe essere ritenuto responsabile se qualcosa va storto con un sistema AGI?

Coscienza e sensibilità

Un’altra sfida filosofica nello sviluppo dell’AGI è la questione della coscienza e della sensibilità. Mentre i sistemi AGI possono essere in grado di eseguire compiti con lo stesso livello di competenza degli esseri umani, non è chiaro se possano veramente “pensare” o “sentire” come fanno gli umani. Potremmo dover definire le parole coscienza e sensibilità sotto una nuova luce perché solleva domande sulla natura della coscienza e sulle potenziali implicazioni etiche della creazione di macchine intelligenti che non hanno le stesse esperienze soggettive degli umani.

Moralità e processo decisionale

Infine, lo sviluppo dell’AGI solleva questioni sulla moralità e sul processo decisionale. Come possiamo garantire che i sistemi AGI prendano decisioni etiche e chi dovrebbe essere responsabile della programmazione di queste linee guida etiche? Facendo un passo indietro, ridefiniremo cosa sia l’Etica in questo caso. Microsoft ha licenziato l’intero team etico. Perché?

Inoltre, come possiamo garantire che i sistemi AGI non perpetuino pregiudizi o discriminazioni nella società umana? Abbiamo la possibilità di non perpetuare gli stessi errori che l’umanità ha commesso. Di volta in volta, sotto il nome della religione, della razza, del capitalismo o di qualche altro ismo, abbiamo preso provvedimenti per colpire l’umanità a vari livelli. 

L’AGI ci dà la possibilità di ripensare a ciò che abbiamo fatto e possibilmente correggere quegli errori? 

I rischi dello sviluppo dell’AGI: il problema di controllo

Uno dei rischi più significativi associati allo sviluppo di AGI è il problema del controllo. Man mano che i sistemi di intelligenza artificiale diventano più intelligenti e potenti diventa sempre più difficile controllare il loro comportamento. Se un’intelligenza artificiale può comprendere le istruzioni, sicuramente l’intelligenza artificiale sarà in grado di sviluppare le istruzioni. I principi guida di base dell’etica dell’AI devono essere sviluppati in modo da non contraddire e fornire un modo per l’AI di “risolvere” la contraddizione aggirando le linee guida etiche. Ciò aumenta il rischio di conseguenze non intenzionali, come un sistema di intelligenza artificiale che decide di danneggiare gli esseri umani per raggiungere i propri obiettivi.

Superintelligenza artificiale

Un altro rischio associato allo sviluppo dell’AGI è la possibilità di creare un sistema di intelligenza artificiale superintelligente che è molte volte più intelligente degli umani. Questa è una progressione naturale. Ricordiamoci che non è l’AI il problema, ma l’evoluzione dell’AI che ha creato il problema. 

Con la disponibilità di calcoli sempre più elevati, l’AI può iterare attraverso se stessa per “risolvere” i problemi in una frazione del tempo irrisoria rispetto a ciò che possono fare gli esseri umani. Questo è il problema che non ha soluzione se non quella di riflettere attentamente prima di implementare le cose. Per non esagerare, questo potrebbe portare a una situazione in cui gli esseri umani non sono più la specie dominante sulla Terra e in cui un sistema di intelligenza artificiale superintelligente potrebbe rappresentare una minaccia esistenziale per la civiltà umana. 

Spostamento di posti di lavoro

Lo sviluppo dell’AGI aumenta anche il rischio di spostamento del lavoro poiché le macchine intelligenti diventano in grado di eseguire compiti precedentemente svolti dagli esseri umani. Quelli che detengono le chiavi della tecnologia la useranno per rendere il business più veloce e reattivo. Ricordiamoci però che la presenza e il lavoro dell’uomo sarà sempre fondamentale in quanto la macchina è da noi addestrata e la creatività, l’interpretazione e la sensibilità rimangono qualità insite nell’uomo e la tecnologia solo un valore aggiunto!

Disuguaglianza economica e sociale

Un rischio associato allo sviluppo dell’AGI è il potenziale aumento della disuguaglianza economica. Man mano che i sistemi di intelligenza artificiale diventano più capaci potrebbero aumentare la produttività dell’economia, portando a maggiori profitti per le aziende e redditi più elevati per i lavoratori qualificati. 

Attualmente, non ci sono letteralmente regolamenti sull’uso dell’IA per diffondere informazioni / disinformazione / informazioni malformate per guidare le menti delle persone sensibili.

Sicurezza informatica

Infine, lo sviluppo dell’AGI aumenta il rischio di minacce alla sicurezza informatica man mano che le macchine intelligenti diventano più sofisticate e interconnesse. Ciò potrebbe comportare una serie di rischi per la sicurezza, tra cui hacking, violazioni dei dati e attacchi informatici. 

Soluzioni filosofiche: cooperazione internazionale

Quando l’intelligenza artificiale di Stati Uniti, UE e Cina ha iniziato a costruire super-computer, è iniziata una corsa agli armamenti digitali. Poi sono arrivate mosse come la governance cinese di Bytedance (Tiktok), i divieti statunitensi sull’esportazione di chip di fascia alta in Cina e la mossa di TSMC (fabbrica di Taiwan di semiconduttori) per ottenere nuove radici in Arizona. 

Tutto ciò sembra più una preparazione per un conflitto piuttosto che una cooperazione internazionale. In un mondo utopico, una potenziale soluzione alle sfide filosofiche dello sviluppo dell’AGI è la cooperazione internazionale. Date le implicazioni globali dello sviluppo dell’AGI, è fondamentale che i paesi lavorino insieme per sviluppare quadri etici e normativi che possano guidare lo sviluppo e l’implementazione dei sistemi AGI.

Quadri etici

Come ho descritto in precedenza, è necessario un organismo per supervisionare e regolare lo sviluppo dell’AI. Questo organismo deve essere governato dall’interesse pubblico. Quadri etici più solidi devono essere curati (e curati rapidamente) per tenere il passo con l’AGI in continua evoluzione. Guardando la camera e il senato, l’età media di questi individui è un grosso problema. Raramente mostrano un desiderio di comprendere e reagire a questi sviluppi nell’AI in tempo reale. Pertanto, i ricercatori e i responsabili politici possono lavorare per sviluppare linee guida etiche che possano aiutare a garantire che i sistemi AGI siano sviluppati e utilizzati in modo responsabile ed etico.

Trasparenza e responsabilità

La trasparenza e la responsabilità possono anche aiutare ad affrontare le sfide etiche e di governance dello sviluppo AGI. La trasparenza sulle fonti di dati, la metodologia, il processo di test, la messa a punto e la continua evoluzione deve essere aperta in una certa misura. Se la trasparenza non si adatta all’etica del capitale, allora si sarà ritenuti responsabili di tutto il caos che la AGI può creare. Senza quadri ragionevolmente rigidi sulla responsabilità, non è davvero possibile chiedere alle società di sviluppo software di pensare a un’umanità più ampia. Ci devono essere chiare linee di responsabilità nel caso in cui qualcosa vada storto.

Conclusione

Lo sviluppo dell’intelligenza generalizzata artificiale (AGI) è estremamente promettente, ma è anche problematico a causa della sua complessità e del potenziale di enormi rischi.

La complessità dello sviluppo dell’AGI pone sfide tecniche e filosofiche significative, tra cui scalabilità, incertezza, etica e governance, coscienza e sensibilità, moralità e processo decisionale. Inoltre, i rischi associati allo sviluppo dell’AGI includono rischi esistenziali e sociali, come il problema del controllo, la superintelligenza, lo spostamento di posti di lavoro, la disuguaglianza economica e le minacce alla sicurezza informatica. Tuttavia, soluzioni tecniche e filosofiche, come l’innovazione algoritmica, la gestione dei dati, i miglioramenti hardware, la cooperazione internazionale, i quadri etici e la trasparenza e la responsabilità, possono aiutare ad affrontare queste sfide e mitigare i rischi associati allo sviluppo AGI.

Andando avanti, è essenziale che ricercatori e responsabili politici continuino a lavorare insieme per sviluppare sistemi AGI in modo responsabile ed etico. Ciò include investimenti globali in ricerca e sviluppo che affrontino le sfide tecniche dello sviluppo di AGI e lo sviluppo di quadri etici e normativi che possano guidarne l’implementazione. Ciò significa scrivere e approvare una nuova legislazione che affronti le minacce poste da cattivi AGI o buoni AGI nelle mani di cattivi attori. Inoltre, è essenziale continuare a monitorare i rischi associati allo sviluppo dell’AGI e lavorare per mitigare il più possibile tali rischi. Adottando un approccio proattivo e collaborativo allo sviluppo dell’AGI, possiamo contribuire a garantire che venga utilizzato per migliorare la vita delle persone in tutto il mondo senza rappresentare un rischio significativo per la civiltà umana. Ciò può includere lo sviluppo di nuovi protocolli di sicurezza per i sistemi AGI e investire nella ricerca che esplora i potenziali impatti sociali, economici e ambientali dello sviluppo AGI.