Tuffi/99

Note depresse sull'IA, Ipnocrazia al quadrato, Andrea Colamedici, Jianwei Xun, IA = clonazione, pensare vs. pappagallare, risorgere ibridati

Apr 12, 2025

Questo è Tuffi! Demordiamo.

Io sono Vittorio Ray, questa è Tuffi, la newsletter de Il Tuffatore.

Questa introduzione circolarmente didascalica e morettianamente autoreferenziale è un tentativo di SEO, se vuoi ti puoi iscrivere qui sotto.

Questo Tuffo mi coglie in una fase particolarmente pessimista sulla tecnologia e sull’IA. Confesso che queste fasi si alternano rapidamente, quindi non escludo prossimi Tuffi di segno totalmente opposto, tecnoentusiasti. Oggi più che mai, desistiamo.

C’è stata una polemica non so quanto trasversale alla sub-bolla che legge questa NL, quindi la riassumo brevemente a beneficio di tutti. Qualche settimana fa (Tuffi/95) abbiamo accennato a un concetto, l’Ipnocrazia, coniato da un poco conosciuto filosofo cinese, Jianwei Xun. Il testo era un po’ circolato, effettivamente il concetto sembrava (e sembra tuttora) avere una sua utilità nel mercato delle idee. Però l’autore, si è scoperto negli scorsi giorni, non esiste. Il libro è stata un’operazione sotto pseudonimo (maledetti pseudonimi, un giorno vi prenderemo) di Andrea Colamedici, filosofo e capo della casa editrice Tlon che aveva pubblicato il libro.

Qui inizia la polemica, perché da varie parti si è gridato allo scandalo deontologico. Cerco di riassumere l’accusa: in un’epoca in cui è sempre più difficile distinguere il falso dal vero, e dove rischiamo di far saltare tutta la nostra epistemologia di base e la fiducia in mia madre che mi videochiama e magari è un deepfake, tu filosofo ed editore responsabile, quoque tu, non puoi farci questo.

Queste accuse, le più note delle quali venute (se mai voleste approfondirle) da Simone Pollo e Guia Soncini, sembrano molto spuntate, noiose, a volte invidiose (discorso lungo), insincere. Perché la cosa più sincera e profonda, da esseri umani, è che iniziamo a rimanerci male. Se anche noi ci caschiamo, se non è solo nonna che manda i codici della carta di credito ma un intero dibattito culturale in più paesi che dibatte di un’idea e di un autore sintetici, non del tutto bio, e soprattutto se non ce ne rendiamo conto per vari mesi, ci sentiamo messi a nudo.

Dall’inizio dell’IA su larga scala, e in particolare della diffusione degli LLM, è iniziato un dibattito morale ma senza una categoria precisa in cui inserirsi. È sempre più chiaro invece che siamo davanti a un problema di bioetica.

Provo un paragone forte, non so quanto fondato ma a cui penso da qualche mese. L’IA è una clonazione che ce l’ha fatta - o ce la sta facendo. Se abbiamo concettualizzato l’uomo come l’unico animale dotato di doppia natura, organica e psichica, la clonazione è il tentativo di replicare la parte organica e l’IA è la replica della psiche. Non so dire, innanzitutto per ignoranza e pigrizia nel cercare, come si arrivò a mettere al bando la clonazione. Per qualche motivo, invece, l’IA è penetrata e si è diffusa molto prima che realizzassimo cosa era. Probabilmente, faccio un’ipotesi, il trentennio di “there is no alternative” e realismo capitalista ci hanno fatto introiettare una ulteriore piatta accettazione e indiscutibilità della tecnica. Ed è chiaro che la tecnica storicamente prima o poi “finds its way” per fregarci e imporsi, però stavolta siamo stati proprio burro per il coltello, rapiti settimana dopo settimana dalla studio-Ghibli-feature di turno.

Qualche giorno fa, sempre sul caso Ipnocrazia e Xun, ho letto un argomento apparentemente intelligente. Diceva: sminuire un libro solo perché è “scritto con l’IA” è come accusare qualcuno di aver usato Word nella scrittura di un testo negli ultimi 40 anni. Word è uno strumento, l’IA è uno strumento.

In parte questo è vero, come sono strumenti gli occhiali, le automobili, etc. D’altronde è evidente a tutti che siamo davanti a un salto sostanziale di questo strumento, che in pochi mesi si è mangiato un’intera funzione, e non una qualsiasi. Forse quella che finora pensavamo più al sicuro, quella che per sempre avremmo ritenuto soltanto nostra, e che ci rendeva i Signori dell’universo.

Il racconto di tutto l'esperimento Ipnocrazia

Qui di solito arrivano quelli che dicono che l’IA non pensa e i modelli LLM sono solo “pappagalli stocastici”. Come se noi sapessimo esattamente cosa siamo, in che misura possiamo dire di “pensare”, e riconoscere in modo evidente la natura diversa del nostro pensare dallo stupido pappagallare stocasticamente. A parlare con Chatgpt, se lei è un pappagallo stocastico, spesso mi sento un fringuello rincoglionito.

Facciamo degli esempi pratici. In molti ormai usano l’IA come assistente di scrittura e ci scrivono tutto. Andiamo oltre e diciamo che a breve tutto sarà scritto dall’IA, cioè in fondo da un unico autore. E questa scrittura sarà sempre disponibile, sempre generabile. Che senso avrà allora leggere? L’attività della lettura a cui siamo abituati, come gran parte dei fatti umani, è sempre stata intrisa di contingenza. Leggiamo un articolo perché è stato scritto ora, perché se ne parla ora, perché l’ha scritto un tizio che oggi è vivo e domani magari sarà morto e non potremo chiedergli spiegazioni su quello che ha scritto. I libri non sono solo libri ma eventi editoriali, eventi che accadono in un punto preciso della linea del tempo. Tutto questo avrà ancora un senso?

Facciamo un’ipotesi tecnoaperturista, per non essere troppo tristi.

Torneremo ad avere la possibilità di essere centrali quando avremo al nostro “interno percepito” la stessa potenza di elaborazione dell’IA, cioè quando potremo di nuovo pensare di essere - o di contenere in noi - l’elaboratore più potente del creato. Quel momento avverrà quando saremo ibridati alle macchine non solo nella produzione ma anche nella fruizione. È chiaro che oggi la lotta è troppo impari, Chatgpt genera lenzuolate di testo in millisecondi e noi continuiamo a leggere con due occhi, lettera per lettera, parola per parola, due pagine al minuto quando va molto bene. Ad oggi non possiamo reggere il confronto. Quando Neuralink o sistemi simili ci permetteranno di uploadare, analizzare e capire Terabyte di informazioni al secondo, quando insomma ristabiliremo un equilibrio tra produzione e fruizione, e tra interno ed esterno a noi, allora forse ne potremo riparlare, di nuovo col sorriso sulle labbra.

p.s.: il prossimo che parla ancora del “problema del consumo energetico e di acqua dell’IA” come un argomento serio e di qualche rilevanza politico-filosofica, cioè che esula dagli uffici planning di Eni Luce & Gas, lo appendiamo per i piedi alla gabbietta dei pappagallini verdi (non-stocastici).

Share Il Tuffatore