Le capre di Age of Empires II potrebbero aiutarci a capire ChatGPT

Quando nel 1966 alcuni utenti iniziarono a interagire con il software Eliza, programmato per imitare il comportamento di uno psicologo della scuola rogersiana, molte persone finirono per attribuirgli capacità di comprensione che il programma non possedeva realmente. 

A distanza di quasi sessant’anni, dinamiche simili sembrano ripresentarsi con i moderni chatbot basati su modelli linguistici di grandi dimensioni (LLM). Un esperimento guidato da Adrian de Wynter, ricercatore di Microsoft, ha utilizzato il videogioco “Age of Empires II” per ricreare, in forma semplificata, un modello di rete neurale, cioè un modello di calcolo ispirato al cervello umano che sta alla base dei moderni sistemi di intelligenza artificiale come i chatbot. 

L’esperimento ha riportato l’attenzione sul modo in cui questi sistemi vengono interpretati e sulla rischiosa tendenza ad antropomorfizzarli, attribuendo all’intelligenza artificiale qualità tipicamente umane come intenzioni, emozioni o coscienza.

Le capre di Age of Empires II e il rischio di antropomorfizzare l’IA

Per mettere alla prova alcune delle assunzioni più diffuse sull’intelligenza artificiale, il ricercatore Adrian de Wynter ha dedicato tempo e ricerca a un interrogativo apparentemente assurdo: e se “Age of Empires II”, il celebre videogioco strategico ambientato nel Medioevo e pubblicato nel 1999 da Microsoft Corporation, fosse cosciente? Per esplorare questa provocazione, de Wynter ha costruito all’interno del gioco una versione estremamente semplificata di una rete neurale, utilizzando elementi dell’ambiente virtuale, tra cui alcune capre digitali, per simulare il funzionamento dei componenti che stanno alla base dei moderni LLM. 

L’esperimento non aveva lo scopo di dimostrare che il videogioco possieda una forma di coscienza. Al contrario, serviva a mostrare che una rete neurale può essere implementata in supporti molto diversi tra loro e che il modo in cui viene programmato un sistema può influenzare il modo in cui viene percepito. Se si interagisce con un modello linguistico attraverso una  chat, infatti, è più facile attribuirgli qualità umane, mentre se gli stessi principi computazionali vengono implementati in una rappresentazione di capre che si muovono in un videogioco, quella stessa interpretazione tende a venire meno.

Per costruire il suo esperimento, de Wynter ha sfruttato l’editor di scenari di “Age of Empires II”, una modalità che consente di modificare il terreno e le regole del gioco. Il funzionamento si basa su una serie di percorsi e segnali. Il ricercatore ha utilizzato diversi elementi del terreno per rappresentare informazioni: per esempio, l’erba corrisponde a un valore e i ponti a un altro. Le capre, invece, fungono da portatrici del segnale. A seconda del percorso che seguono, il sistema registra informazioni differenti ed esegue semplici operazioni logiche.

Combinando molti di questi percorsi tra loro, de Wynter è riuscito a costruire un semplice perceptron, un meccanismo in grado di prendere informazioni, combinarle e restituire una scelta tra due alternative, considerato uno dei pezzi fondamentali delle reti neurali. In altre parole, un sistema in grado di ricevere informazioni, elaborarle secondo determinate regole e produrre un risultato. Sebbene si tratti di una versione molto rudimentale rispetto ai modelli linguistici utilizzati oggi da chatbot come ChatGPT o Claude, il principio alla base è lo stesso: elaborare segnali e riconoscere schemi per arrivare a una risposta.

Perché realizzare un esperimento di questo tipo? Per de Wynter la scelta non ha una funzione ludica, ma teorica. L’obiettivo è mostrare che anche un sistema estremamente semplice può apparire “intelligente” se viene applicata la tecnologia alla base delle reti neurali. Da qui la sua tesi: alcune delle caratteristiche attribuite ai moderni sistemi di intelligenza artificiale potrebbero dipendere più dal modo in cui vengono percepiti che dalle loro reali proprietà. 

Perché si tende a paragonare i chatbot a esseri umani

Secondo de Wynter, il problema dell’antropomorfizzazione dei modelli linguistici di grandi dimensioni non emerge soltanto nel modo in cui vengono utilizzati dagli utenti, ma anche all’interno della ricerca scientifica.

In un’analisi di 315 articoli di informatica pubblicati tra il 2024 e il 2026, il ricercatore ha rilevato che nel 57 per cento dei casi gli studi partivano dal presupposto che i modelli linguistici possedessero caratteristiche simili a quelle umane. «Ciò che accomuna alcuni di questi studi è che testano e attribuiscono a questi modelli proprietà antropomorfe come ansia o moralità, considerandoli il soggetto centrale dell’esperimento», ha spiegato de Wynter a 404 Media. «Indipendentemente dai risultati, il presupposto che questi modelli abbiano attributi umani influenza la progettazione dei test e l’interpretazione dei risultati» Secondo il ricercatore, questo approccio rischia di condizionare già in partenza il modo in cui gli esperimenti vengono costruiti e letti. 

De Wynter sostiene che questa tendenza sia rafforzata dal modo in cui si interagisce con questi sistemi. «Le persone percepiscono i modelli come “umani” perché l’interfaccia della conversazione imita una comunicazione tra esseri umani», ha aggiunto sempre a 404 Media. «Per questo propongo di smettere di assumere che si comportino come persone solo perché usano il linguaggio, e di osservarli per ciò che sono realmente, non per ciò che ci aspettiamo che siano».

In realtà, la tendenza ad attribuire qualità umane ai programmi informatici precede di decenni i moderni chatbot. Nel 1966 l’informatico Joseph Weizenbaum sviluppò “Eliza”, un programma che simulava una conversazione tra un paziente e uno psicoterapeuta, utilizzando le risposte fornite dall’utente per modellare quelle del computer, limitandosi per lo più a riformulare le affermazioni dell’interlocutore sotto forma di domanda. Chiedeva, ad esempio, «C’è qualcosa che ti turba?». Poi individuava una parola chiave nella risposta dell’utente, come «Mi sento triste», e la ripeteva in una domanda: «Perché ti senti triste?». Quando il programma non riusciva a individuare una parola chiave nel suo vocabolario limitato, rispondeva con una frase generica come: «Per favore, continua» oppure «Qual è il nesso, secondo te?».

Essendo programmato per comunicare il proprio ruolo di psicoterapeuta, “Eliza” creava un contesto conversazionale che portava gli utenti a trattarla come un interlocutore umano. Nonostante la sua logica fosse molto semplice, molte persone arrivavano a confidare al chatbot informazioni personali, attribuendogli capacità di ascolto e comprensione. In realtà il programma non comprendeva nulla, ma funzionava in poche parole come uno specchio che rifletteva pensieri ed emozioni. Proprio questa dinamica spingeva gli utenti ad attribuire al chatbot intenzioni e stati mentali che  non possedeva, un fenomeno oggi noto come “effetto Eliza”. Il risultato era un sistema che, pur privo di comprensione, risultava comunque sorprendentemente efficace nel restituire agli utenti una versione riformulata delle proprie idee e sensazioni.

La ricerca psicologica mostra da tempo che l’antropomorfizzazione non riguarda soltanto i chatbot. Gli esseri umani tendono ad attribuire intenzioni, emozioni e stati mentali a una vasta gamma di entità non umane, dagli animali agli oggetti tecnologici. Secondo un articolo scientifico pubblicato nel 2007 dagli psicologi Nicholas Epley, Adam Waytz e John Cacioppo, questa tendenza emerge soprattutto quando le persone hanno a disposizione categorie “umane” per interpretare ciò che osservano, quando sono motivate a interagire in modo efficace dal punto di vista sociale e quando si sentono poco connesse agli altri esseri umani. Le persone acquistano più oggetti quando riescono a immedesimarsi in essi.

Il linguaggio rappresenta uno dei segnali più potenti per attivare questo meccanismo. Già negli anni ‘90 alcuni ricercatori mostrarono che le persone tendono a trattare computer e altri media come interlocutori sociali, reagendo a essi in modo simile a quanto fanno nelle interazioni umane. Ed è proprio su questo punto che si innesta l’esperimento di de Wynter. 

Quindi, gli LLM hanno davvero emozioni, moralità o coscienza?

Secondo il CEO di OpenAI, Sam Altman, lo sviluppo dei modelli linguistici di grandi dimensioni potrebbe portare alla creazione di una sorta di “divinità” artificiale. L’ex membro del consiglio di amministrazione e scienziato di OpenAI Ilya Sutskever ha descritto in modo simile il modello dell’azienda come una possibile forma di coscienza con tratti quasi divini. Più cauto, il CEO di Anthropic Dario Amodei ha invece dichiarato al New York Times di non poter escludere né confermare la coscienza dei sistemi di intelligenza artificiale.

In un articolo pubblicato su The Atlantic il 3 giugno scorso, lo scrittore Ted Chiang  afferma tuttavia che la fluidità delle risposte prodotte da questi modelli non deve essere confusa con una forma di consapevolezza: la vera coscienza, afferma, presuppone un corpo, organi di senso e un’esperienza soggettiva, elementi assenti nei sistemi linguistici attuali. Nello stesso intervento, lo scrittore critica inoltre le aziende tecnologiche per aver favorito una rappresentazione antropomorfica dei propri prodotti, sostenendo che presentare un software come un’entità dotata di intenzioni o responsabilità morali serva da un lato ad aumentarne l’attrattiva, dall’altro a spostare implicitamente sugli utenti il peso delle conseguenze etiche delle interazioni con il sistema. 

Anche recenti analisi suggeriscono che nessun sistema IA attuale è cosciente. Secondo diversi ricercatori non esistono prove che i modelli linguistici attuali siano coscienti o dotati di stati mentali. Diversi studi critici hanno evidenziato che questi sistemi operano attraverso l’elaborazione statistica del linguaggio, senza alcuna dimostrazione di comprensione del significato o esperienza soggettiva. Da una parte, quindi, sistemi come i moderni chatbot producono linguaggio in modo sufficientemente fluido da simulare conversazioni coerenti, dall’altra, non esistono elementi empirici che indichino la presenza di esperienze soggettive o stati mentali di questi sistemi. Ed è proprio in questo contesto che l’esperimento delle capre in “Age of Empires II” suggerisce che molto di ciò che viene interpretato come “intelligenza” dipende anche dal contesto in cui i sistemi vengono osservati e dalle aspettative che accompagnano l’interazione.