Riportiamo qui altre importanti considerazioni* di Walter Quattrociocchi, Professore Ordinario di Informatica presso l’Università di Roma La Sapienza, dove dirige il Center for Data Science and Complexity for Society
Io faccio fatica a capire. Tanta fatica. Non capisco proprio la ratio di certi discorsi.
Mi sembra davvero che si sia persa la bussola. In linea di massima, l’università dovrebbe essere un posto in cui ci si forma, si cresce, si impara a ragionare, circolano idee nuove e si fa ricerca.
Provo a spiegarmi.
Giorno di esami, sessione di recupero. Bocciati praticamente più del 60%.
Una studentessa mostra il grafico di una regressione su dei dati. Domanda volutamente semplice: “Mi scrive l’equazione della regressione lineare?”.
Dopo vari tentennamenti, sul foglio compare:
y = x + y
Mi prende malissimo, esco dai panni dell’esaminatore e provo a capire cosa ci sia dietro.
“Perchè fai così? Capisco che tu voglia passare l’esame, ma così che senso ha? Vieni qui, non sai di cosa stai parlando, mostri lacune enormi sui fondamentali. Chi ci guadagna da questo gioco?”
La risposta, in inglese (lingua originale dello spezzone) rende meglio.
“I’ve tried a shortcut using LLM.”
Ecco. È questa cosa qui che non riesco a capire.
Da una parte ci raccontiamo gli LLM come “abilitatori cognitivi”. Tradotto brutalmente, ‘sti cazzi de capicce qualcosa, tanto una supercazzola te la imbastisce il tuo LLM.
Bello.
A parte che già questo, se non sai cosa stai delegando, assomiglia parecchio a una circonvenzione di incapace. Perché basta guardare un po’ più da vicino come funzionano questi sistemi per capire il problema. No tranquilli, non rifaccio per l’ennesima volta il pippone su plausibilità e verifica.
Però, molto più terra terra, la natura umana è quella che è.
Anche Internet, all’inizio, veniva raccontato come l’alba dell’intelligenza collettiva. Filosofi, futurologi, astrologi e fuffari visionari assortiti ci spiegavano che avremmo avuto accesso universale alla conoscenza e che questo ci avrebbe resi tutti più informati, più consapevoli, più intelligenti.
Il risultato è stato gattini, polarizzazione, influencer che fanno fatica a finire l’università però ti spiegano la Scenza (con la S maiuscola, ma rigorosamente senza i), accademici poco performanti nell’accademia che trovano online il canale per sentirsi finalmente importanti.
Non dimentichiamo le famose primavere arabe e che per un lungo periodo, l’immagine con più like su Instagram è stata quella di un uovo.
E quindi cosa ci aspettiamo esattamente che succeda quando diamo alla società uno strumento capace di produrre in pochi secondi enormi quantità di testo che suona bene, ma che è costruito approssimando sequenze plausibili?
Davvero continuiamo a chiamare questa cosa “democratizzazione della conoscenza”?
La conoscenza non è testo disponibile. Non è neanche una risposta ben scritta. Me pare che richieda tra le varie qualche competenza per capire, valutare, contestualizzare e verificare.
Cosa stiamo facendo a queste competenze?
Perché un LLM dovrebbe essere automaticamente un potenziatore cognitivo se chi lo usa non capisce nemmeno la materia sulla quale lo sta interrogando? Che succede pure se dimentica questo dettaglio di ignoranza?
Nel mondo reale vediamo LLM usati per fare porno, video acchiappa-gonzi, corsi per diventare ricchi con gli LLM venduti da gonzi ad altri gonzi, e naturalmente gonzi che spiegano gli LLM.
Producono testo. Questo fanno.
E quel testo va verificato.
Dove è esattamente che ci siamo persi la bussola?
OpenAI pubblica più di settecento documenti di matematica corredati da spiegazioni scritte con del testo completamente sminchiato, accompagnandoli con un linguaggio promozionale non esattamente sobrio. Partono immediatamente i titoli: problemi risolti, nuova era della matematica, rivoluzione.
A me, molto più banalmente, sembra di vedere centinaia di risultati da controllare.
E no, scrivere qualcosa in Lean non chiude automaticamente il problema. Prima bisogna capire quale proposizione sia stata formalizzata, se corrisponda davvero al problema originale, quali assunzioni siano entrate nella formalizzazione e come sia stata costruita. Se pure quella traduzione viene prodotta dal modello, il problema della verifica non sparisce per magia.
Stessa cosa quando succede qualche incidente con agenti autonomi.
Titoli: “Le macchine ci attaccano”, “stanno prendendo il controllo”, “siamo vicini alla fine del mondo”.
Boh, a me parebbe invece molto più impellente capire chi è legalmente responsabile se si mette online un esperimento fatto male, magari anche con una bella componente di marketing, e quell’esperimento provoca danni a terzi.
Perché continuiamo ad antropomorfizzare la macchina e quasi mai a parlare della responsabilità di chi l’ha progettata, distribuita, configurata e messa in funzione?
Se produci un alimento e quell’alimento fa male alle persone, non diciamo che “il cibo si è ribellato”.
Cerchiamo chi l’ha prodotto, quali controlli sono stati fatti, quali norme sono state violate e chi ne risponde.
Con l’AI, invece, sembra che a ogni passaggio si debba trasformare una banalissima questione di competenza, verifica e responsabilità in una favola metafisica sulle macchine.
Forse la scorciatoia è proprio questa.
Intanto i danni sono enormi.
Ipertrofia di testo, mail, articoli, opinioni, recensioni, contenuti. Un’alluvione di roba da leggere, filtrare, controllare e verificare.
Anni di costruzione di competenze trattati come un costo inutile da eliminare. Generazioni a cui si racconta che capire sia opzionale, perché c’è una macchina che produce qualcosa di plausibile al posto loro.
Un racconto demenziale.
E alla fine la domanda forse è molto più semplice di tutte quelle che ci facciamo sull’intelligenza delle macchine: chi ci guadagna?
Ma non c’avete un minimo di dignità? O ci credete davvero?
Non so quale delle due è peggio.