
Proponiamo una selezione di brani da L’inganno dell’Intelligenza artificiale, di Emily M. Bender (la studiosa di linguistica computazionale che ha definito l’Ai “pappagallo stocastico”) e Alex Hanna (ed. it. Roma, Fazi, 2026 [2025]), un libro fondamentale per comprendere quali siano le mistificazioni (o “hype”) nate attorno alla bolla dell’Ai e per capire come difendersene.
Naturalmente l’ “hype” fa leva sul conformismo: se si riesce a far passare l’idea che quella dell’ “Intelligenza Artificiale” sia una rivoluzione assolutamente positiva e inevitabile, e che certi software siano utilissimi anche a scuola, chi avrà il coraggio di dissentire?
Secondo Bender e Hanna, una prima forma praticabile di dissenso è quella di porre delle semplici domande. Applicando questo suggerimento nel contesto scolastico, ad esempio, potremmo chiedere:
“Insomma, con l’ ‘intelligenza artificiale’ gli studenti imparano di più o di meno? E in base a cosa lo dici? Valutando cosa?”.
“Cosa succede quando gli studenti, anziché con degli adulti esperti in un campo disciplinare e abituati a parlare con i giovanissimi, si ‘confrontano’ con un simulatore di linguaggio che funziona su base probabilistica?”.
“Qual è la qualità delle ‘conoscenze’ proposte dai Large Language Model?”.
“Come funzionano questi software?”.
“Quali condizioni sono necessarie a farli funzionare, e quali conseguenze producono a livello lavorativo, sociale, ambientale?”.
“Come sono stati progettati, da chi, in base a quali idee? Da dove vengono i dati che rimescolano?”.
“A quali interessi rispondono? Chi li fa funzionare? E in che modo?…”.
***
«Per dirlo senza mezzi termini, “IA” è un’espressione di marketing. Non si riferisce a un insieme coerente di tecnologie. Piuttosto, l’espressione “intelligenza artificiale” viene usata nel momento in cui coloro che costruiscono o vendono un particolare tipo di tecnologie traggono vantaggio dal far credere agli altri che la loro tecnologia sia simile agli esseri umani, cioè sia capace di fare cose che, in realtà, hanno intrinsecamente bisogno del giudizio, della percezione e della creatività umane […].
Mentre l’interesse degli investitori spinge l’hype sull’IA verso nuove vette, quelli che sono entusiasti di questa tecnologia hanno pubblicizzato “soluzioni” di IA per quasi tutti gli ambiti di attività umana. Ci viene detto che l’IA può rafforzare i servizi sociali dove sono carenti e fornire cure mediche e terapie a coloro che non sono abbastanza fortunati da avere accesso a un’assistenza sanitaria di qualità, educazione per coloro che non vivono in un distretto scolastico ben finanziato e servizi legali per le persone che non possono permettersi un avvocato. Ci viene detto che l’IA fornirà versioni personalizzate di tutti questi servizi, rispondendo in modo flessibile ai bisogni dell’utente» (pp.21 e 35).
«Il modo in cui l’interpretazione del linguaggio è integrata e supportata da un contesto condiviso è forse più chiaro nel caso dell’apprendimento della prima lingua.
La ricerca sull’acquisizione del linguaggio nei neonati e nei bambini dimostra che questi non imparano una lingua tramite l’esposizione passiva (come la TV o la radio), nemmeno se i programmi sono creati per i bambini piccoli. Ciò che invece è necessario è l’attenzione condivisa con un caregiver, in cui sia il bambino sia il caregiver prestano attenzione alla stessa cosa e ne sono entrambi consapevoli.
L’attenzione condivisa supporta l’ “intersoggettività”, cioè l’esperienza di essere in relazione con la mente di qualcun altro. In questo stato di intersoggettività, il bambino che sta imparando la lingua ha una miriade di indizi relativi all’intenzione comunicativa del caregiver e può quindi capire in prima battuta a cosa si riferiscono i singoli elementi del linguaggio, a partire da ipotesi sull’intento comunicativo che sta dietro alle espressioni verbali complete.
Anche se l’uso del linguaggio più semplice e fondamentale è quello delle comunicazioni faccia a faccia, una volta che abbiamo acquisito un sistema linguistico, possiamo usarlo per capire oggetti linguistici anche senza la compresenza, anche se siamo distanti nello spazio o nel tempo. Applichiamo però le stesse tecniche per immaginare la mente dietro il testo, costruendo così un modello del terreno comune che abbiamo con l’autore e cercando di intuire che cosa l’autore voglia far capire al pubblico attraverso l’uso delle parole.
I modelli linguistici non dispongono di una soggettività con cui praticare l’intersoggettività, il che è problematico. Nonostante le affermazioni ricorrenti dei ricercatori che si occupano di IA, questi modelli non imparano “allo stesso modo dei bambini”. Il semplice modellare la distribuzione di parole in un testo non dà nessun accesso al significato, niente da cui poter dedurre un intento comunicativo. I modelli linguistici non rappresentano quindi nient’altro che informazioni dettagliate su quali insiemi di parole siano simili e su quali parole appariranno più probabilmente in quali contesti.
Sebbene ciò non implichi significato né comprensione, è abbastanza per produrre testo sintetico plausibile, su quasi tutti gli argomenti immaginabili, il che si rivela essere piuttosto rischioso: ci troviamo davanti un testo che sembra proprio come qualcosa che una persona potrebbe dire e lo interpretiamo automaticamente, seguendo il processo abituale in cui immaginiamo una mente dietro il testo. Ma non c’è nessuna mente e dobbiamo essere consapevoli che dobbiamo mettere da parte quella mente immaginaria che abbiamo costruito».
«Facciamo chiarezza: né i modelli linguistici di grandi dimensioni né altre tecnologie che vengono vendute come “IA” sono coscienti, senzienti o in grado di funzionare come entità indipendenti e pensanti. Nonostante i proclami degli entusiasti, che vengano dalle aziende o dal mondo accademico come Agüera y Arcas e Minsky, le tecnologie che producono testi sintetici o risolvono rompicapo matematici non sono forme di vita artificiale. Sostenerlo, tuttavia, conviene a molte persone: gli imprenditori che hanno un prodotto da vendere, i ricercatori che devono trovare finanziamenti per i loro dipartimenti e i fanatici che fanno parte di istituzioni o che hanno sostenitori che trarrebbero vantaggio dal perpetuarsi di questa finzione.
Questo capitolo si occupa di dimostrare che le affermazioni secondo cui l’IA è senziente o cosciente sono una forma di hype e non hanno alcun fondamento nella realtà. Discuteremo di cosa si nasconde sotto i “modelli linguistici di grandi dimensioni” e di come anche le persone più istruite sono state abbagliate dalla narrazione che presenta queste tecnologie come entità indipendenti e pensanti, magari anche con una consapevolezza soggettiva. Questo particolare tipo di hype sull’IA è ancora più insidioso: nel momento in cui attribuiamo una coscienza fittizia a questi sistemi, stiamo implicitamente svalutando cosa vuol dire essere umani e stiamo dando credito a una corrente di pensiero molto più ampia sulla natura dell’intelligenza che ha radici nell’eugenetica e nelle teorie della razza [oggi incarnate nelle ideologie TESCREAL, “Transumanesimo, Estropianismo, Singolaritanismo, Cosmismo, Razionalismo, Altruismo Efficace e Lungotermismo”, professate da molti boss psicopatici di Big Tech]» (p.46).
«In molti degli usi per cui vengono proposti, gli LLM sono considerati come sistemi di accesso all’informazione, spesso come sostituzione diretta dei motori di ricerca. Questo uso si rifà al sogno di vecchia data di rendere l’accesso all’informazione “senza attrito”: si digita la domanda e si ottiene la risposta. Ma le macchine che producono testo sintetico sono una pessima scelta per questo tipo di uso, per due motivi. Come abbiamo visto, sono intrinsecamente inaffidabili, dato che sono state progettate per inventare cazzate. Ma è il secondo motivo che vogliamo affrontare qui: l’attrito nell’accesso all’informazione non è solamente vantaggioso, ma è di fondamentale importanza.
L’attrito che i sistemi di accesso all’informazione basati sui chatbot cercano di ridurre o di eliminare include il lavoro che ci porta a scegliere quale link, tra quelli riportati dal motore di ricerca, contiene l’informazione che stiamo cercando e a capire in che parte del sito a cui il link ci rimanda possiamo trovare quell’informazione. Questo lavoro è importante per migliorare la nostra capacità di comprensione del panorama informativo. Analizzare una serie di link ci può dare informazioni su quali fonti siano disponibili e, se alcune delle fonti che ci aspettavamo di trovare non sono presenti tra i risultati, possiamo affinare la ricerca. Scegliere un particolare link e valutare ciò che vi troviamo ci permette sia di situare l’informazione che abbiamo trovato all’interno del suo contesto sia
di capire più in profondità come le fonti sono in relazione tra loro e con il nostro bisogno di informazione. Trovare risposte contraddittorie su pagine diverse e, cosa ancora più importante, conoscere la fonte di tutte queste risposte ci permette di sapere quali conoscenze sono oggetto di discussione, chi le sta mettendo in discussione e come ognuna di queste fonti si colloca rispetto alle nostre opinioni.
Per fare un esempio concreto, immaginiamo di fare una ricerca su temi legati alla salute in un motore di ricerca vecchio stile e ricevere una lista di link che include una pagina di un centro medico universitario che si trova nelle vicinanze, una da WebMD, una dal (ciarlatano ed ex candidato senatore per la Pennsylvania) Dr Mehmut Oz, e un link a un forum di discussione in cui persone che vivono percorsi di salute simili interagiscono tra loro. Interpreteremo le informazioni da ognuno di questi siti sulla base di come li valutiamo in quel momento e useremo le informazioni che troviamo per aggiornare la nostra valutazione.
Se invece inviamo la domanda a ChatGPT o a un altro chatbot basato sugli LLM, l’output prodotto potrebbe basarsi su uno qualsiasi di questi siti. Se non possiamo osservare l’informazione nel suo contesto, però, perdiamo sia la capacità di usare il contesto per inquadrare l’informazione sia la possibilità di approfondire la nostra conoscenza delle fonti e, per di più, anche la possibilità di unirci alla comunità di persone che interagiscono sul forum» (pp. 276-277)









