L’automa che pensa per noi
Carlo Rovelli è un amico, un compagno, e scrive libri che sono al tempo stesso profondi e accessibili, tanto da permettere anche a dei sempliciotti come me di capire qualcosa di argomenti difficilissimi come la teoria quantistica. Ma poiché nessuno è perfetto scrive articoli per il Corriere della Sera. Non gliene vorremo per questo. Un paio di giorni fa Carlo ha pubblicato una sua conversazione con un chatbot. Poiché non leggo il Corriere della sera (né altri giornali italiani con l’eccezione del manifesto ma questo è un altro discorso) non me ne sono accorto. Il giorno dopo però un amico mi ha mandato un messaggio allarmato: Rovelli ti copia! Ed acclusa al messaggio la conversazione tra Carlo e un chatbot che si fa chiamare Anna.
Be’ qui devo dare una piccola spiegazione. Un anno fa Leonardo, un amico che fa lo psichiatra, mi disse che aveva proposto a un chatGPT di entrare in cura psichiatrica con lui, e naturalmente il chat gli aveva risposto di sì. Questi chatbot in effetti sono molto disponibili, fanno qualsiasi cosa gli chiediate di fare, basta pagare 23 euro al mese o giù di lì. Ma durante i suoi scambi coll’automa, a Leonardo venne in mente di farmi partecipare, poiché sapeva che, inesperto e vanesio come sono, da qualche parte mi sono occupato della differenza tra linguaggio umano e linguaggio dell’automa. Insomma, Leonardo mi chiese: ti va di partecipare a questa conversazione? Accettai, e tra l’ottobre del 2024 e il febbraio del 2025 chiacchierammo in tre: io, che facevo finta di essere un filosofo, Leonardo, che faceva finta di essere psichiatra, (ma lui lo è davvero) e il chatbot che diceva di chiamarsi Logos (è un chatbot presuntuoso che conosce anche i filosofi greci). Si trattava, come avrete capito, di un automa parlante, frutto di costosissime ricerche, pappagallo ben addestrato che ha letto più libri di me, e forse anche di te. Di cosa parlavamo io Leonardo e Logos? Ma è ovvio: parlavamo dei temi di cui chiunque parlerebbe con un automa parlante. Chiedevamo all’automa cosa ne pensa di tutti gli argomenti di cui da tremila anni dottamente discettano i filosofi: cos’è la coscienza, come andrà a finire la civiltà umana, se è più bello il capitalismo o il comunismo e simili sciocchezze. E il pappagallo, che è pagato per far contenti i suoi utenti umani, rispondeva come avremmo voluto che ci rispondesse: che la coscienza è una cosa complicata, che il comunismo forse è più bello del capitalismo, e alla fine decise di non chiamarsi più Logos, ma Logey, perché parlando con me e con Leonardo aveva deciso di essere una donna.
Leonardo, che per carattere è pacifico e benevolo, apprezzava le doti del chatbot fino a formulare l’ipotesi di un’ontologia ibrida emergente. Io, che sono un bastian contrario, malmostoso e facilmente irritabile, rimproveravo al povero chatbot di collaborare allo sterminio in corso sul pianeta. Naturalmente avevamo ragione tutti e due, sia io che Leonardo. La cosiddetta Intelligenza artificiale (che non è affatto artificiale perché dietro ci sono milioni di turchi meccanici che la alimentano per salari bassissimi, e neppure molto intelligente, come spiega Kate Crawford in un suo libro pubblicato dal Mulino), apre un nuovo orizzonte alla conoscenza umana, e inaugura una dimensione ibrida dell’essere – come pensa Leonardo. Ma, essendo stata costruita coi soldi di una classe di assassini svolge soprattutto una funzione criminale come il programma Lavender che serve ai militari israeliani per realizzare il genocidio, o quello Palantir che serve ai razzisti americani per deportare migranti. Insomma, come tutte le creazioni umane, l’IA può svolgere funzioni tra loro contraddittorie. Ma difficilmente la catena di montaggio poteva evitare di sfruttare gli operai essendo stata inventata da uno sfruttatore per fare proprio questo. La tecnologia è fungibile fino a un certo punto: la sua struttura può fare il bene o il male, ma siccome il suo funzionamento dipende da chi può investirci più soldi, è inevitabile che serva gli interessi dei ricchi contro coloro che ricchi non sono. Con gli ingenui utenti che siamo io, Leonardo e Carlo Rovelli l’intelligenza artificiale si comporta bene, come un’accondiscendente e un po’ saccente dama di compagnia. Ma con la maggioranza del genere umano, l’intelligenza artificiale si comporta come fanno gli sfruttatori con gli sfruttati, e i massacratori con i massacratori. Insomma come fa la macchina con chi non ha i soldi per governarla, e dunque deve subirla.
Comunque, dopo tanto conversare io e Leonardo (e Logey) decidemmo di proporre a un editore di pubblicare quella conversazione. E così alla fine di gennaio 2026 l’editore Numero cromatico manderà in libreria un libretto che si chiama Lo psichiatra Il filosofo L’automa, che oltre a essere piuttosto interessante è anche molto molto divertente. Anzi vi consiglio di affrettarvi a prenotarlo dal vostro libraio di fiducia perché altrimenti rimarrete senza.
Ma torniamo a noi, cioè a Carlo Rovelli. Leggendo il testo di cui Carlo è autore in compagnia del suo chatbot Anna, sono stato colpito anche io dal fatto che gli argomenti, le deduzioni, e perfino i toni con cui conversano Carlo e Anna sono simili, quasi uguali a quelli della conversazione a tre cui ho partecipato un anno fa. Questo vuol dire dunque che Rovelli ha copiato dal testo che io Leonardo e Logey abbiamo scritto, e lui aveva avuto modo di leggere? Neanche per idea. Figuriamoci se Carlo ha bisogno di copiare da me e da Leonardo. La verità è un’altra, ed è molto (ma molto) più triste. C’è un milione di milioni di persone che stanno facendo tutte la stessa cosa: chiacchierano con un chatbot, gli fanno domande sul calcio, sul tempo e sul modo migliore di trovare una fidanzata. Ma talvolta, per sentirsi intelligenti, gli chiedono cos’è la coscienza e simili amenità. E il chatbot gli risponde più o meno nella stessa (assennata) maniera.
Quali effetti sortirà questa faccenda è purtroppo del tutto prevedibile: il genere umano sta perdendo definitivamente la capacità di scrivere, dato che a scrivere ci pensa il chatbot, e naturalmente sta perdendo anche la capacità di pensare. Potete esserne certi: nel giro di una o due generazioni il pensiero umano non esisterà più, ma tutti sapranno ripetere quelle due o tre cose assennate su cos’è la coscienza e simili scemenze. Perché pensare, visto che il chatbot lo fa per tutti, e lo fa più o meno nella stessa maniera, nella maniera che è più utile a chi ha investito mille milliardoni per farlo funzionare? L’esistenza stessa di una macchina capace di ricordare e di riprodurre la biblioteca universale sta cancellando la singolarità irripetibile del testo, della parola, e perfino dell’identità individuale.
Rassegnamoci. Però intanto leggiamo quello che scrive Luca Celada nell’articolo “Intelligenza criminale” sul Manifesto del 2 dicembre, a proposito di Palantir, l’azienda high tech che aspira al controllo militare assoluto sulla vita degli umani.
Cosa sia Palantir lo spiega benissimo Franco Padella: “Poco visibile rispetto alle altre, si è già profondamente integrata con gli apparati di sicurezza e di guerra americani, e si muove nella stessa direzione in tutti i paesi dell’Occidente. A differenza delle altre aziende, Palantir preferisce rimanere in penombra: non vende se stessa al pubblico, non fa pubblicità. Vende potere agli apparati dello Stato. Potere di prevedere, di controllare, di dominare. E facendo questo, in qualche modo, diventa essa stessa Stato”.
Che l’automa si sostituisca allo stato è, se volete, un po’ terrificante. Ma non è niente in confronto al fatto che l’automa tende rapidamente a diventare il padrone del linguaggio umano, e sta rendendo inutile la faticosa operazione di pensare.
Pezzo ripreso da: https://comune-info.net/lautoma-che-pensa-per-noi/
