“Intelligenza artificiale”: l’epistemia e le sue maschere

di Walter Quattrociocchi

Riportiamo qui altre riflessioni di Walter Quattrociocchi, professore ordinario di Informatica presso l’università di Roma “La Sapienza”, a proposito di intelligenza artificiale, Large Language Model (Chatgpt, Gemini ecc.) e illusione di conoscenza.

Manuale minimo di fraintendimenti sugli LLM

Negli ultimi mesi, attorno agli LLM, si è formato un ecosistema di idee ricorrenti che trovo poi spesso anche nei commenti. Non le chiamerei argomentazioni nel senso stretto, ma figure retoriche ricorrenti, completamente indipendenti dai dati o dai meccanismi effettivi dei sistemi.

C’è il Cognitivista Magico, convinto che, poiché l’output “assomiglia” al giudizio umano, allora anche il processo debba essere cognitivo. È l’errore più antico: confondere la somiglianza funzionale con l’identità epistemica. Come se imitare la forma fosse sufficiente a ereditare la sostanza.

C’è il Vigilante Epistemico, rassicurato dall’idea che “tanto l’essere umano capirà”. Ogni problema viene spostato dal lato della produzione a una speranza psicologica di ricezione. Peccato che un problema strutturale, quando viene scalato, non si risolva affidandosi alla buona volontà cognitiva degli utenti.

Poi arriva l’Apocalittico Permanente, che vede negli LLM o la fine dell’umanità o la sua redenzione. Salta direttamente al destino dell’uomo, senza mai passare per il funzionamento del sistema. È un modo elegante per evitare l’analisi: se l’esito è cosmico, il meccanismo diventa secondario.

Non manca il Prompt Engineer Totemico, per cui tutto si risolve “scrivendo meglio la domanda”. Scambia una protesi comportamentale con una trasformazione della natura del sistema. Come se aggiustare l’interfaccia potesse modificare ciò che il sistema è in grado di fare epistemicamente.

C’è poi il Filosofo Riconduttivo, infastidito dall’idea che possa esistere qualcosa di nuovo. Ogni fenomeno deve essere ricondotto a Platone, Sailor Moon, o Calogero Dolce Facocero. Spiegare “a chi assomiglia” diventa equivalente a spiegare “che cos’è”. È una forma colta di rimozione del problema e ottima scusa per rimandare di studiare le tabelline.

A quel punto entra in scena l’Abilitante. Ogni critica strutturale viene letta come un tentativo di frenare il progresso. Il vocabolario è sempre lo stesso: potenziale, opportunità, democratizzazione, inclusione, catapulta, giovedi.
Se sollevi un problema epistemico, ti risponde che “così si rischia di non cogliere le possibilità”. È la confusione sistematica tra descrizione di un limite e presa di posizione normativa. L’equivalente paraculo del “non fare domande, fidati.”

Immediatamente dopo compare il profeta del “Vedrete”. Non discute mai il presente. Si proetta e rifugia nel futuro: “vedrete che tra poco”, “questa è solo la prima fase”, “non avete capito dove stiamo andando”. Il futuro diventa uno schermo retorico per evitare il confronto con i meccanismi attuali. Peccato che il fatto che una tecnologia possa evolvere non renda false le sue proprietà presenti.

Più sottile, ma diffusissimo, è l’Agnostico Strategico. Parte da una premessa apparentemente raffinata: “non sappiamo davvero cosa sia la comprensione”. Da lì conclude che non possiamo dire che gli LLM non comprendano o non ragionino. È un uso opportunistico dell’indeterminatezza filosofica: siccome non sappiamo definire tutto, allora vale tutto. Un modo elegante per sospendere ogni distinzione operativa e posizionarsi con arguzia nel circoletto dell’avanguardia della bocciofila

Infine c’è il Già-Visto-Platonicista. Si sapeva già tutto, fin dai tempi di Platone. Anche allora si temeva che le nuove tecnologie cognitive avrebbero distrutto la memoria o il pensiero. Platone rimproverava i suoi amici che mandavano mail e si tagliavano le unghie coi tosaerba atomici. Dunque nulla di nuovo. Confondere l’esistenza di analogie pseudo-culturali con la spiegazione di un meccanismo specifico. Però Platone, che io sappia, non parlava di modelli generativi addestrati su corpora massivi che producono giudizi plausibili su scala industriale.

Il problema non è che queste posizioni esistano.
Il folklore e la sciatteria ci accompagnano da sempre; il problema è più delicato perché continuiamo a confondere come un sistema parla con come un sistema conosce.
Tutto il dibattito sugli LLM resta, così, una discussione sulla superficie del linguaggio.

Quando invece sarebbe molto più utile cercare di capire che tipo di oggetto stiamo guardando.