Tuffi/131
Eurostack, sovranità digitale europea, Francesca Bria vs. Benjamin Bratton
Questo è Tuffi! Demordiamo.
Io sono Vittorio Ray, questa è Tuffi, la newsletter de Il Tuffatore.
Questa introduzione circolarmente didascalica e morettianamente autoreferenziale è un tentativo di SEO, se vuoi ti puoi iscrivere qui sotto.
Francesca Bria è una brillantissima tecnoburocrate, forse un po’ troppo naive (maledetto Liceo Mamiani, dovevamo aspettarcelo, quante vittime hai mietuto). Abbiamo già tessuto le sue lodi umane in tempi non sospetti (Tuffi/11). Quello che forse manca, alla luce di questo dibattito, è un po’ più di consapevolezza delle scale a cui si opera: il governo di una città risponde a logiche diverse rispetto al governo di uno stato o di un continente. Il sogno iper-colto della city diplomacy che avrebbe illuminato il sentiero di tutti i popoli della Terra, urbanizzata e rurale, verso la pace perpetua e green mi pare sia naufragato insieme a un decennio di belle speranze. E siamo tornati qui, con Trump e Xi che muovono il mondo, e Beppe Sala, Mamdani e Gualtieri che se va bene appianano le buche delle strade e rendono la vita simbolica meno dolorosa ai cittadini.
Francesca Bria, negli ultimi mesi, è tornata alla ribalta delle cronache europee per aver varato una proposta molto ambiziosa: dotare l’Europa di una piattaforma digitale integralmente sovrana, cioè pezzo per pezzo, layer su layer, dalle materie prime ai modelli di IA.
Ne è nato un dibattito molto ampio, il cui punto di arrivo - che non è un punto di arrivo, ma è ancora un dialogo aperto - è rappresentato da un articolo piuttosto critico di Benjamin Bratton (filosofo della tecnologia, californiano), e la controrisposta di Bria, entrambi ospitati da Noema Magazine. Qui sotto, ampi stralci della conversazione, tradotti in italiano e talvolta commentati dal vostro umile tuffatore (commenti in corsivo).
Considerazione preliminare: il problema dell’Europa è che abbiamo un’enorme e ricchissima sovrastruttura morale che non ci permette di fare nessun passo rapido prima di aver verificato tutti i rischi. Abbiamo un’enorme macchina di previsione dei rischi, e questa è il frutto dell’accumulazione di millenni di idee. È come la burocrazia e le leggi che vengono create ma non vengono mai cancellate e quindi si accumulano, si stratificano. non riusciamo a innovare perché lo stesso vale per il campo morale, e ogni nuova idea deve passare il vaglio di questo corpus.
Non abbiamo un orizzonte politico nuovo da costruire, viviamo già nel migliore dei mondi possibili, e chi parla di cambiamento o propone di tornare all’età dell’oro di fine ‘900, o usa la parola cambiamento intendendo che vuole limare alcuni microscopici dettagli di uno stile e un’idea di vita sostanzialmente già perfetti. Nel resto del mondo non stupisce che ci siano tante idee per innovare, le società sono molto più imperfette. Qui siamo (o almeno ci sentiamo) in paradiso e ogni giorno ci svegliamo cercando modi di cambiare il meno possibile, allontanarci il meno possibile dal nostro ramo d’oro.
Bratton: La battaglia europea per l’IA è una causa persa? Non per forza
La visione di Bria non è orientata al futuro. Il piano europeo che propone per il prossimo decennio avrebbe dovuto essere realizzato 15 anni fa. Perché non è stato fatto? L’Europa ha soffocato la propria creatività ingegneristica con regolamentazioni e paralisi dovute al consenso. Il ritardo cautelativo è stato raccontato come un successo dall’Industria della Critica che ha monopolizzato sia il mondo accademico che il dibattito pubblico. L’ossigeno e le risorse sono stati monopolizzati da infiniti gruppi di lavoro delle parti interessate, dibattiti sulla legislazione planetaria e simposi sulla resistenza, il tutto incentivando i talenti europei a fuggire e le piattaforme americane e cinesi a riempire gli spazi. Non è cambiato molto, ed è per questo che lo slancio di questo momento è sia fragile che prezioso”. […]
Crawford è una ricercatrice e autrice australiana, nota soprattutto per “Atlas of AI”, un libro che sovrappone il programma della guerra culturale americana, intorno al 2020, allo spettro amorfo dell’intelligenza artificiale globale. È abilissima a lanciare frasi a effetto come “L’intelligenza artificiale non è né artificiale né intelligente”, un’affermazione che è stata citata così spesso nelle sue interviste che nessuno si ferma a chiederle cosa significhi. Allora, cosa significa? La spiegazione di Crawford è che “l’intelligenza artificiale è sia incarnata che materiale, fatta di risorse naturali, combustibile, lavoro umano, infrastrutture, logistica, storia e classificazioni”. Questo, tuttavia, è esattamente ciò che significa il termine “artificiale”. Lei afferma che l’IA non è realmente intelligente perché funziona semplicemente attraverso una previsione anticipatoria bottom-up delle prossime istanze basata sul riconoscimento di modelli al servizio di obiettivi indipendenti dai mezzi. Ancora una volta, questo è un aspetto centrale di come l’intelligenza (dagli esseri umani ai pappagalli) è stata intesa da tutti, da William James al paradigma dell’elaborazione predittiva nelle neuroscienze contemporanee. […]
In una tavola rotonda su come l’Europa potrebbe costruire il proprio AI Stack, abbiamo ascoltato i punti salienti dell’ultimo decennio dalla stessa classe intellettuale che ha contribuito a convincere l’Europa a rinunciare al proprio futuro. “Come costruire l’Eurostack?” Le loro risposte sono state: resistere in attesa dell’imminente ritorno di un idealizzato socialismo di Stato; dichiarare che l’IA è una stregoneria statistica razzista; fermare la costruzione di data center; e, naturalmente, il comunismo.
Alla fine, penso che il panel abbia fatto un ottimo lavoro nel dimostrare esattamente perché l’Europa non ha l’Eurostack che desidera, solo che non per i motivi che intendevano gli organizzatori”.
Se l’Europa costruirà l’Eurostack che desidera – e di cui dice di aver bisogno — sarà perché avrà creato spazio per una cultura diversa, un discorso e una teoria dell’evoluzione tecnologica aperta ed efficace che non è né una copia degli approcci americani o cinesi, né radicata nelle proprie tradizioni moribonde di colpa, scetticismo e critica istituzionalizzata. Il risultato, l’“Eurostack”, potrebbe non essere nemmeno il riflesso dell’Europa così com’è attualmente, o come si immagina, ma potrebbe piuttosto diventare un mezzo di rinnovamento.
In molti casi, queste escatologie, spesso emanate dai dipartimenti di studi sui media e dalle pagine degli editoriali, non solo sono affermazioni non falsificabili, ma non sono nemmeno destinate ad essere discusse. Questa è la teoria delle vibrazioni: un’espressione dell’ansia dell’élite mascherata da politica di resistenza. È anche un esempio di ciò che il tragico filosofo europeo Walter Benjamin una volta definì “estetizzazione della politica” che in questo caso è il risultato degli strani incentivi che derivano quando il mondo dell’arte fa gli inviti, paga compensi ai relatori e pubblica saggi su come la cultura ci salverà. Il potere estetico del gesto critico viene confuso con la realtà.
Un dibattito vigoroso è importante, ma a volte sembra che “discutere” sia tutto ciò che l’Europa vuole veramente fare. [...] Alcuni potrebbero obiettare che se la “cultura critica” è proprio ciò che viene maggiormente attaccato dall’ascesa del nazionalismo populista, allora non è proprio la critica ciò di cui abbiamo più bisogno, ora più che mai? L’autonomia della cultura non ci allontanerà da questo malessere? Ne dubito. Semmai, l’attuale modalità di populismo e nazionalismo che sta conquistando gran parte del mondo può essere vista come ciò che accade quando la narrazione della realtà preferita da una certa cultura supera qualsiasi interesse per la razionalità coraggiosa e il sobrio apprezzamento dell’intelligenza collettiva come risultato mediato dalla tecnologia. Se il nazionalismo populista è la visione del “determinismo culturale” della realtà in una modalità grottescamente esagerata, non è chiaro perché aumentare ancora l’autarchia della cultura sarebbe invece la soluzione migliore.
Francesca Bria - Rivendicare la sovranità digitale europea
Un tempo il potere geopolitico passava attraverso gli eserciti e i trattati, ma oggi scorre attraverso wafer di silicio, server farm e sistemi algoritmici. Queste infrastrutture e architetture digitali invisibili plasmano ogni aspetto della vita moderna. “The Stack” – strati interconnessi di hardware, software, reti e dati – è diventato il sistema operativo del potere politico ed economico moderno.
L’Europa occupa una posizione paradossale: leader in materia di regolamentazione, ma dipendente dal punto di vista infrastrutturale. Noi europei abbiamo stabilito standard globali attraverso il GDPR e l’AI Act. I nostri istituti di ricerca rimangono di livello mondiale. Eppure solo il 4% dell’infrastruttura cloud globale è di proprietà europea. I governi, le imprese e i cittadini europei dipendono interamente da sistemi controllati da Amazon, Microsoft e Google, aziende soggette ai requisiti di sorveglianza extraterritoriale del CLOUD Act statunitense. Quando utilizziamo i “nostri” servizi digitali, in realtà stiamo utilizzando infrastrutture americane regolate dalla legge americana per gli interessi americani. […] Nel XXI secolo, chi controlla l’infrastruttura digitale controlla le condizioni di possibilità della democrazia stessa. L’Europa si trova di fronte a una scelta: costruire una capacità tecnologica sovrana o accettare la colonizzazione digitale.
Comprendere le realtà materiali dell’infrastruttura dell’IA – i suoi costi ambientali, le dipendenze lavorative e le concentrazioni di potere – non è “allarmismo”, ma un prerequisito per uno sviluppo sostenibile e democratico. E l’ecosistema tecnologico indipendente emergente in Europa dimostra che la costruzione democratica è già in atto quando creiamo le condizioni giuste.
Nota mia: non mi pare esista o stia “emergendo”. Il fatto che lei lo abbia molto meritevolmente pensato e disegnato su carta non implica la sua esistenza, come la prova ontologica di Dio non implica il suo salto sul piano della realtà. Il fatto che sia pensabile non vuol dire che allora esiste anche.
Liquidare la regolamentazione come una patologia europea – secondo la battuta di Bratton, «l’UE ha una regolamentazione sull’IA ma non molta IA da regolamentare» – rivela una profonda superficialità. La regolamentazione non è il problema. Il problema è la mancanza di applicazione e l’assenza di una politica industriale su larga scala. Infatti, se la regolamentazione europea fosse così inefficace, perché l’amministrazione Trump è arrivata al punto di minacciare divieti e sanzioni contro le autorità di regolamentazione europee che hanno osato attuare leggi sul digitale? Proprio perché una regolamentazione efficace è vista a Washington come un ostacolo diretto alla supremazia tecnologica degli Stati Uniti.
Le radici della difficile situazione dell’Europa vanno ricercate, in primo luogo, nella morsa dell’ortodossia neoliberista sul pensiero economico europeo. Ciò ha causato decenni di austerità e ha reso l’Europa il simbolo dell’iperglobalizzazione: libero scambio senza politica economica, divieto di aiuti di Stato, dogmi dell’economia del trickle-down, assenza di investimenti pubblici a lungo termine e rifiuto sistematico della politica industriale. Tutto questo era il vangelo predicato dagli Stati Uniti, anche se Washington proteggeva i propri interessi di sicurezza nazionale e sovvenzionava la Silicon Valley. In altre parole, l’Europa ha interiorizzato l’ideologia della neutralità del mercato mentre altri praticavano il capitalismo strategico. [...] La politica della concorrenza, invece di impedire il dominio delle Big Tech attraverso un’azione antitrust audace, ha impedito la formazione di campioni europei mentre le aziende americane raggiungevano dimensioni monopolistiche. Gli europei sono stati ammoniti che la politica industriale violava i principi di mercato proprio dagli americani che la praticavano sistematicamente.
Ma il dominio dell’IA ora è intriso di ideologia. I decreti esecutivi di Trump impongono che i sistemi di IA siano “liberi da pregiudizi ideologici”, vietando l’“IA woke” negli appalti federali e definendo la diversità e l’equità come distorsioni che “sacrificano la veridicità”. Il piano d’azione statunitense sull’IA esporta “il suo intero stack tecnologico di IA – hardware, modelli, software, applicazioni e standard – a tutti i paesi disposti ad aderire all’alleanza americana sull’IA”. Non si tratta solo di chip, ma dell’intero stack, con i valori e il controllo americani integrati in ogni livello. […]
Trump lo ha detto chiaramente: dazi “consistenti” contro qualsiasi paese che regoli le aziende tecnologiche statunitensi. Pertanto, l’Europa non può stabilire regole nel proprio mercato senza subire sanzioni economiche. Un ordine esecutivo a Washington – non a Bruxelles o Berlino – potrebbe tagliare l’accesso a sistemi critici che gestiscono le nostre industrie, i nostri ospedali e le nostre elezioni. Non si tratta di un deficit commerciale, ma di un deficit di sovranità.
Fino a qui tutto abbastanza ok, tranne il fatto che “solamente ora” l’IA è diventata ideologica (salutiamo i moderatori di Facebook). Ma va bene. Adesso però inizia la parte debolissima: il problema dei consumi elettrici, dei petrodollari “riciclati”, BlackRock e compagnia cantante. Questa parte non è più tollerabile, è un peso di cui dobbiamo sbarazzarci, non serve a nulla, è solo la coda di paglia di chi non ha fatto i compiti e cerca di ridimensionare il problema davanti a tutte le ingiustizie che ci sono nel mondo.
I numeri sono sbalorditivi. L’addestramento dei modelli di frontiera consuma enormi risorse computazionali: l’addestramento di GPT-4 ha richiesto un consumo di elettricità pari al consumo annuale di migliaia di famiglie americane. Le emissioni di Google sono aumentate di quasi il 50% negli ultimi cinque anni, principalmente a causa dei calcoli dell’IA. Entro il 2030, si prevede che i data center consumeranno almeno il 3% dell’elettricità globale, con i carichi di lavoro dell’intelligenza artificiale che ne rappresenteranno la maggior parte. Già oggi in Irlanda i data center consumano più di un quinto dell’energia elettrica nazionale e, secondo alcune previsioni, tale percentuale è destinata ad aumentare a un terzo entro il 2030. Crisi simili emergono a Francoforte, Amsterdam, Londra e ovunque si concentri l’infrastruttura cloud.
Seguite i soldi: BlackRock sta investendo centinaia di miliardi di dollari per la costruzione di nuovi data center, i fondi sovrani sauditi riciclano i profitti derivanti dai combustibili fossili in iniziative legate all’intelligenza artificiale, mentre i fondi sovrani degli Emirati Arabi Uniti cercano coperture tecnologiche contro la transizione energetica.
I costi umani rivelano dinamiche di economia politica simili. I lavoratori kenioti che guadagnano salari minimi etichettano i contenuti per addestrare i sistemi di ChatGPT. I bambini congolesi estraggono il cobalto per le batterie dei data center. I moderatori filippini sviluppano traumi a causa dell’esposizione infinita alla violenza e agli abusi affinché l’IA possa apparire “sicura”. Questi sistemi dipendono da eserciti nascosti di lavoratori sfruttati che svolgono un “lavoro fantasma” che fa sembrare l’IA magica.
Nota: Hai voglia a dire “il giusto prezzo del carbonio”, il frame è sbagliato. Non esiste AI verde o AI fossile, quella è l’energia elettrica. Tu a casa non fai il ciambellone grigio o verde a seconda del vento che c’era nella produzione di elettroni nel momento in cui hai acceso il forno. Il ciambellone è lo stesso, e la sua bontà prescinde dal colore degli elettroni. Dipende da cose più specifiche, dalla bontà delle uova, della farina, ecc. Dobbiamo essere seri, non è il momento di essere approssimativi e megalomani nel nostro desiderio di giustizia e bontà. Ci sentiamo illuminati in quanto europei e vogliamo che il mondo si salvi dalla crisi climatica? Bene, dobbiamo costruire delle leve di potenza dalle quali far valere (enforzare) le nostre idee. Non convinceremo nessuno facendogli pena. Non vinceremo nessun premio con la nostra IA lentissima e poco intelligente ma armata delle migliori intenzioni e spinta da energia verde certificata.
Il crescente fabbisogno energetico dell’IA sta già riportando l’industria al nucleare: Amazon, Google e Microsoft stanno investendo miliardi in piccoli reattori modulari. Quando Peter Thiel confonde Greta Thunberg con l’Anticristo per aver difeso l’azione per il clima, la posta in gioco è chiara: la transizione verso le energie rinnovabili è vista come una minaccia all’innovazione. Eppure la base rinnovabile dell’Europa non è una debolezza, ma il fondamento stesso dell’IA sostenibile.
Non c’è contraddizione tra l’adozione dell’agenda verde e una forte politica industriale incentrata sull’IA. Con l’aumento dei costi del carbonio e la scarsità delle risorse, l’IA alimentata dai combustibili fossili diventerà sempre più fragile. Alimentando i data center con energia pulita, limitando l’uso dell’acqua e fissando il prezzo del carbonio al suo costo reale, l’Europa può trasformare i vincoli in punti di forza. […]
Ogni grande laboratorio di IA dipende ora da persone e istituzioni che si oppongono alla governance democratica. Ciò che sta emergendo non è un bene comune planetario, ma un nuovo complesso tecnologico-militare finanziato da capitali allineati con ideologie autoritarie e legittimato attraverso la retorica patriottica.
Quando i critici liquidano le preoccupazioni relative alla parzialità dell’IA, al capitalismo di sorveglianza e alla monopolizzazione delle piattaforme come estremismo ideologico, rivelano la loro fedeltà a questo tipo di controllo oligarchico. Etichettare tutte queste critiche come “lysenkoismo” o “marxismo woke” ignorando i rischi reali della cattura dell’IA riecheggia il nuovo maccartismo di Trump contro minacce immaginarie.
Qui sotto ha pienamente ragione Bria:
L’EuroStack si basa sull’ecosistema tecnologico, industriale e di ricerca indipendente dell’Europa, fondamento della sovranità digitale democratica che collega domanda e offerta. Alcuni sostengono che l’Europa dovrebbe concentrarsi sulla “diffusione” dell’IA piuttosto che sulle infrastrutture, trattando l’informatica come un “bene comune planetario” a cui accedere. Bratton accetta questo quadro: l’Europa come consumatore, non come costruttore.
Ma questo impianto non coglie il punto. La sovranità delle infrastrutture è agency politica. Il controllo determina se la tecnologia serve obiettivi sociali, economici ed ecologici o se tali obiettivi vengono rimodellati dagli imperativi delle Big Tech.
Forse quello che manca è fare l’ultimo passetto: la sovranità in fondo in fondo viene dalle armi, che Bria aveva citato all’inizio del pezzo dicendo che “Un tempo il potere geopolitico passava attraverso gli eserciti […]”, e invece è ancora così e sempre lo sarà. E se non saranno esclusivamente le armi da fuoco, lo sarà almeno una armificazione di tante altre cose che oggi ci sembrano teneri oggettini o softwarini civili.
Da quei rapporti di forza discende tutto il resto. Quindi l’ipotesi di Bria è giusta, ma la sinistra dovrebbe rompere il tabù della forza. La forza esiste, è una categoria dell’esistenza, e se vogliamo essere sovrani dobbiamo anche esercitare la forza - in modo democratico, se così riteniamo. Quindi lo Stack dovrebbe addirittura partire dall’uso militare. Armi ne facciamo ancora parecchie. Purtroppo attualmente le vendiamo a etnostati per i loro intenti genocidari, e anche questo in fondo è il risultato di rapporti di forza, ricatti morali, ecc.
Per finire cito, se può essere utile a inquadrare da sinistra il fenomeno e stare meno male, una frase di Chavez: il nostro esercito è il popolo in armi.
Tutto questo detto, e pur con tutti i caveat di sopra, se domani F. Bria mi invita a imbracciare le armi del pensiero e mi offre un lavoro per rilanciare la sovranità digitale europea, io mi arruolo immantinente.