Se a scegliere gli articoli scientifici è l’IA, il rischio sono i bias di genere

Il settore dell’istruzione superiore sta attraversando una trasformazione profonda. L’impiego dell’intelligenza artificiale – sotto forma diverse come software che raccolgono dati, li analizzano e generano informazioni strategiche o strumenti di intelligenza artificiale generativa come i chatbot – sta infatti modificando il modo in cui si insegna, si apprende e si svolge la ricerca. 

Sebbene l’utilizzo dell’IA nelle università o nella ricerca scientifica sia ancora dibattuto e controverso, i modelli linguistici di grandi dimensioni, come ChatGPT e Claude, sono ormai entrati a far parte della quotidianità accademica. 

Questi strumenti supportano studenti, docenti e ricercatori nella redazione di testi, nell’organizzazione di progetti di ricerca complessi e nella preparazione di materiali didattici, ma portano con sé anche una serie di problemi e stereotipi che potrebbero avere conseguenze concrete sull’istruzione universitaria e sulla ricerca scientifica. 

L’uso dell’IA tra chi studia all’università

I dati disponibili indicano che l’intelligenza artificiale è ormai parte integrante delle abitudini di studio di molti studenti universitari in diversi Paesi del mondo. 

Nel Regno Unito, un sondaggio intitolato “Student generative AI survey 2026” e condotto dall’Higher education policy institute (Hepi), ha rilevato che su 1.054 studenti universitari intervistati tra novembre e dicembre 2025, circa il 95 per cento utilizza strumenti di IA generativa in qualche forma e il 94 per cento li impiega anche come sostegno per contenuti sottoposti a valutazione, nonostante solo il 12 per cento dichiari di inserire direttamente il testo generato dall’IA. Si tratta di una crescita molto rapida, infatti nel 2024 gli studenti che dichiaravano di usare questi strumenti erano il 66 per cento e la percentuale di quelli che, invece, affermavano di impiegare direttamente il testo generato dal chatbot era l’8 per cento nel 2025, contro il 3 per cento nel 2024.  

Una tendenza simile si osserva anche negli Stati Uniti. Il rapporto del 2026 “State of higher education” di Lumina Foundation e Gallup, condotto nell’ottobre 2025 su circa 3.800 studenti di corsi iscritti a lauree brevi (associate degree negli USA) o triennali, ha rilevato che il 57 per cento usa l’intelligenza artificiale per studiare almeno una volta alla settimana, e quasi uno su cinque ogni giorno. Nonostante questa diffusione, il 42 per cento degli intervistati ha affermato che comunque il proprio ateneo scoraggia l’impiego dell’IA, mentre l’11 per cento dichiara di essere totalmente contrario al suo utilizzo. Anche in Australia l’uso dell’intelligenza artificiale è ormai molto diffuso e quasi l’80 per cento degli studenti universitari dichiara di utilizzarla per studiare. 

Gli impieghi sono diversi e non si limitano alla ricerca di informazioni. Secondo Lumina Foundation e Gallup, il 64 per cento degli studenti ricorre all’IA per comprendere argomenti poco chiari, il 49 per cento per trovare idee, ad esempio per impostare un elaborato, e il 45 per cento la utilizza per svolgere ricerche a supporto dei propri lavori con una frequenza almeno settimanale. Anche l’indagine Hepi del 2025, indica tra gli usi più comuni la spiegazione di concetti complessi, il riassunto di articoli scientifici e la generazione di spunti di ricerca. 

Accanto ai dati quantitativi, le ricerche mostrano però un quadro più sfumato. Uno studio pubblicato sulla rivista Scientific Reports, condotto nell’ambito di un corso dell’Università della California dove l’uso dell’IA era esplicitamente consentito, ha osservato che gli studenti la impiegavano soprattutto per attività di revisione e correzione dei testi, ma anche per comprendere argomenti complessi e individuare fonti e prove a sostegno delle proprie tesi. Allo stesso tempo, molti partecipanti hanno espresso diffidenza nei confronti delle cosiddette “allucinazioni” dei modelli linguistici, come citazioni inesistenti o informazioni inventate.

Gli LLM selezionano le fonti riportando bias di genere

L’adozione sempre più ampia degli strumenti di intelligenza artificiale nelle università apre però anche interrogativi sul modo in cui questi sistemi influenzano la produzione e la circolazione della conoscenza scientifica. Se gli studenti utilizzano sempre più spesso i modelli linguistici per orientarsi tra articoli, fonti e materiali di studio, una questione centrale riguarda infatti i criteri con cui questi strumenti selezionano e restituiscono le informazioni.

A mettere in discussione l’idea che i modelli linguistici siano strumenti neutrali nella ricerca della conoscenza è anche uno studio, pubblicato nell’agosto 2025, che ha analizzato il modo in cui questi sistemi selezionano gli articoli scientifici. Jiangen He, professore associato alla School of Information Sciences dell’Università del Tennessee e autore dello studio, ha confrontato diversi modelli linguistici sottoponendo loro bibliografie composte da articoli identici, ma con i nomi degli autori modificati per rappresentare generi diversi. L’obiettivo era verificare se, a parità di contenuto, il genere attribuito agli autori potesse influenzare la probabilità di essere selezionati dal modello. 

I risultati hanno mostrato comportamenti differenti a seconda del sistema analizzato. Alcuni modelli tendevano, infatti, a favorire sistematicamente gli autori uomini, mentre altri privilegiavano il gruppo che risultava già maggioritario all’interno della lista di riferimenti. «Ho individuato due tipi diversi di bias», ha spiegato Jiangen He a Facta, «uno legato al genere e uno legato alla maggioranza presente nel gruppo di riferimento». Secondo quanto spiegato dal professore , infatti, «i modelli GPT favoriscono sempre gli autori uomini, indipendentemente dal fatto che siano la maggioranza o la minoranza nel pool di articoli», mentre i modelli Claude favoriscono sempre la maggioranza, cioè «se nel pool di fonti ci sono più autori maschi, favoriscono i maschi, se invece ci sono più femmine, allora favoriscono le femmine». 

Un altro risultato interessante riguarda il fatto che il livello di distorsione variava anche tra discipline diverse. «Ho selezionato lavori appartenenti a circa venti ambiti scientifici» ha aggiunto He, «che poi ho raggruppato in tre grandi aree e in sei macro-settori, come le scienze sociali, l’agricoltura, l’ingegneria, la medicina e altri ambiti principali». Ciò che il ricercatore ha osservato è che il livello di bias del chatbot nella selezione delle fonti varia a seconda della disciplina. L’area che presenta il minor livello di distorsione, considerando i diversi modelli analizzati, è quella delle scienze sociali. Secondo He, «quando i modelli linguistici devono selezionare articoli appartenenti a questo ambito, mostrano infatti una minore propensione a favorire un genere rispetto all’altro».

Judith Membrires Llorens, dottoranda all’Università aperta della Catalogna (UOC), dove collabora come insegnante in uno dei corsi del master universitario online in Filosofia per le sfide contemporanee, si è accorta di questo specifico bias di genere sulla ricerca delle fonti attraverso l’uso di grandi modelli linguistici analizzando circa 200 saggi scritti dai suoi studenti negli ultimi tre anni. 

Durante il corso gli e le studenti devono leggere il libro “Four Internets: Data, Geopolitics, and the Governance of Cyberspace” (in italiano “Quattro internet: dati, geopolitica e la governance del cyberspazio”) scritto da Kieron O’Hara e Wendy Hall. Durante un semestre, la docente – ha spiegato a Facta – ha notato che quasi tutti gli studenti citavano il libro nei loro riferimenti bibliografici attribuendolo a due uomini. Indagando su come fosse possibile un errore così diffuso, ha scoperto che i ragazzi avevano utilizzato strumenti come ChatGPT o Gemini senza un approccio critico e l’intelligenza artificiale, invece di risalire all’autore e all’autrice originali, aveva dato priorità a una recensione del libro scritta da due uomini. Secondo Membrires Llorens, l’IA ha operato una «prioritizzazione maschile», ignorando il fatto che il libro originale fosse opera anche di un’autrice donna e privilegiando invece la recensione di due uomini. La ricercatrice ha sottolineato che questo è accaduto nonostante l’università faccia un grande sforzo per includere materiali di autrici, persone di generi dissidenti e persone non bianche. 

Come ha spiegato ancora a Facta, la dottoranda ha notato che negli elaborati degli studenti iniziano ad apparire più spesso voci femminili come Shoshana Zuboff e Kate Crawford, che vengono ora incluse nelle bibliografie. La sua critica, però, riguarda il fatto che si tratta quasi esclusivamente di donne bianche autrici di bestseller, ovvero figure che «rientrano in un femminismo liberale o nel canone occidentale». Secondo Judith Membrires Llorens, manca ancora una vera diversità: le autrici del sud globale o quelle che non scrivono bestseller continuano a essere ignorate dai modelli

Quali sono le conseguenze?  

Le conseguenze di questi meccanismi potrebbero andare oltre la semplice selezione di una fonte rispetto a un’altra. Se i modelli linguistici diventano strumenti sempre più utilizzati per orientarsi nella letteratura scientifica, le loro preferenze possono contribuire a determinare quali ricerche ricevono maggiore attenzione e quali invece rischiano di rimanere ai margini. 

Il punto, secondo il professore Jiangen He, non è soltanto l’entità del bias osservato, ma il suo possibile effetto cumulativo. «Anche pochi punti percentuali possono amplificare le disuguaglianze esistenti, facendo aumentare gradualmente il divario», ha chiarito il ricercatore, «questo può avere un impatto significativo sul lavoro scientifico delle ricercatrici e dei gruppi minoritari». In ambito accademico, infatti, le citazioni sono una delle metriche utilizzate per misurare il riconoscimento scientifico e possono influenzare l’accesso a risorse e opportunità. 

Questa situazione, secondo He, «influenzerà fondamentalmente la quantità di risorse che possono ottenere e quanto riconoscimento possono ricevere». Il rischio è quello di creare un circolo vizioso: «meno riconoscimento e meno risorse». Se i modelli linguistici continuassero a favorire sistematicamente i gruppi già più rappresentati, «in futuro potremmo avere meno scienziati di determinati gruppi e l’intero squilibrio potrebbe peggiorare».

Per Membrires Llorens, il rischio riguarda anche il processo attraverso cui si forma il pensiero critico. Se gli studenti utilizzano l’IA senza interrogarsi sulle fonti che il modello seleziona e sulle prospettive che tende a privilegiare, il pericolo è quello di affidare a un sistema automatico una parte del lavoro di valutazione che dovrebbe rimanere umano. «Non possiamo sviluppare un pensiero critico senza conoscere ciò che stiamo criticando», ha spiegato la ricercatrice, sottolineando l’importanza del confronto diretto con gli autori e con le loro argomentazioni.

Secondo Judith Membrires Llorens, un uso acritico dell’IA può portare a una progressiva delega del pensiero. «Le conseguenze più evidenti sono, da un lato, che stiamo iniziando ad avere un debito cognitivo», ha spiegato, riferendosi al rischio che gli studenti rinuncino gradualmente a sviluppare capacità di analisi e interpretazione autonome. Inoltre, per la ricercatrice, delegare all’IA la sintesi delle fonti significa anche perdere parte del confronto con i testi. «Si perde la sovranità argomentativa: con l’IA ti viene dato tutto già pronto e, quando la metti alla prova, spesso tende a darti ragione», ha aggiunto, descrivendo il rischio di una «camera dell’eco ultra-dopata» in cui le idee vengono confermate invece di essere messe in discussione. Inoltre, proprio perché basati su modelli statistici del linguaggio, gli LLM tendono a privilegiare ciò che è già consolidato. 

Le due ricerche convergono su un punto: l’intelligenza artificiale non è un assistente neutrale, ma un intermediario che può incorporare e rafforzare squilibri già presenti nei dati e nella produzione della conoscenza. Da un lato, come sottolinea He, i bias nella selezione delle fonti possono accumularsi nel tempo e influenzare il riconoscimento, le risorse e le opportunità di carriera di donne e minoranze nella ricerca scientifica. Dall’altro, secondo Membrires Llorens, un uso acritico di questi strumenti rischia di impoverire il rapporto con il sapere, trasformando la ricerca in un processo di semplice raccolta di risposte e riducendo la capacità di mettere in discussione il pensiero dominante. 

La sfida per le università e il mondo della ricerca, quindi, non è soltanto decidere se utilizzare o meno l’IA, ma sviluppare gli strumenti critici necessari per comprenderne i limiti e continuare a produrre conoscenza in modo autonomo.