Sticker

Oggi che l’utopia di Bacone – comandare alla natura
nella prassi – si è realizzata su scala tellurica, diventa
palese l’essenza della costrizione che egli imputava
alla natura non dominata. Era il dominio stesso. […]
Di fronte a questa possibilità l’illuminismo al servizio
del presente si trasforma nell’inganno totale delle masse.
M. Horkheimer, T. W. Adorno, Dialettica dell’illuminismo.

Com’è noto, gli algoritmi predittivi di “intelligenza artificiale” impastano, per così dire, informazioni passate e attuali per sfornare previsioni circa il possibile comportamento futuro degli individui. Lavoratori, delinquenti, consumatori, investitori, automobilisti, malati: l’elenco delle categorie passibili di trattamento predittivo è praticamente infinito. Soprattutto la Cina sta investendo molte risorse sul controllo sociale basato sugli algoritmi predittivi; ma si tratta solo dell’avanguardia capitalistica, non di una maligna (“illiberale”) eccezione. Perché di questo si tratta, ossia del perfezionamento della “vecchia” pratica orientata a un controllo sociale degli individui sempre più accurato e invasivo. Naturalmente controllare significa anche plasmare gli individui, i quali grazie al processo di standardizzazione/massificazione operato dalla società capitalistica sono, per dirla con Horkheimer e Adorno, più impotenti di quel che sappiano confessarsi, e quindi più prevedibili e docili nei confronti del Dominio. È su questo materiale umano che “lavorano” gli algoritmi predittivi, i quali lungi dall’essere i responsabili dei pericoli insiti al loro sempre più massiccio uso, come invece pensano i soliti feticisti tecnologici, sono piuttosto l’espressione più verace della realtà sociale che rende possibile un determinato uso della “tecnologia intelligenza”.

La prassi sociale capitalistica ci ha gettato in una dimensione esistenziale deterministica perché non solo non controlliamo le forze sociali fondamentali che plasmano sempre di nuovo la vigente Società-Mondo, ma ne siamo piuttosto controllati sempre più puntualmente e in ogni aspetto della nostra vita, anche in quello che ci appare meno interessante dal punto di vista degli interessi sociali – che ingenuità! L’Intelligenza Artificiale in generale, e quella basata sugli algoritmi predittivi in particolare, non si pongono in rottura con il passato della società borghese, ma ne assecondano invece le tendenze totalitarie e illiberali attive da sempre, già nell’epoca in cui l’illuminismo poneva l’emancipazione dell’umanità dal cieco dominio dell’ignoranza e dei pregiudizi in termini di rivoluzione culturale. Si è visto, soprattutto nel corso del XX secolo, che una mera rivoluzione culturale nulla può contro l’esistenza del dominio di classe, ossia contro la causa delle nostre molteplici disgrazie. L’umanità si è liberata dal cieco dominio della natura; si tratta di liberarsi dal cieco dominio della società classista.

Gli illuministi del XVII e del XVIII secolo avevano tutti i motivi per entusiasmarsi alla vista delle trasformazioni politiche, economiche, scientifiche, tecnologiche, culturali e “antropologiche” che segnarono il loro tempo; i loro tardi e nostalgici epigoni del XXI secolo appaiono, almeno agli occhi di chi scrive, semplicemente ridicoli.

Noi abbiamo a che fare con una realtà sociale radicalmente e necessariamente disumana, e una critica sociologica che non assuma questa consapevolezza come proprio punto di partenza si preclude la possibilità di afferrare le cause dei fenomeni indagati, e si limita a restituirci una semplice descrizione dei fatti, magari appesantendola con piagnistei etici buoni solo a sottolineare l’impotenza concettuale e politica di quella critica. Scrive ad esempio Helga Nowotny nel suo ultimo saggio Le macchine di Dio (Luiss University Press): «Più il processo decisionale viene trasferito agli algoritmi predittivi, maggiore è il potere che essi eserciteranno, finché non saranno completamente radicati nel tessuto sociale della società. C’è il rischio di tornare a una visione deterministica della società».

macc di dio1 Ora, non sono gli algoritmi predittivi che plasmano il nostro futuro, che ci impediscono di agire secondo il nostro “libero arbitrio”, e questo semplicemente – e banalmente – perché la cosiddetta Intelligenza Artificiale non ha una sua autonoma volontà, ma agisce, ovviamente, come un qualsiasi strumento fabbricato dall’uomo, risponde cioè alla volontà umana. Sotto questo fondamentale aspetto è persino sciocco parlare di Intelligenza, sebbene si abbia l’accortezza di definirla “Artificiale”. L’intelligenza, se vogliamo dare un significato non feticistico alle parole che usiamo, è tutta dalla parte di chi progetta e produce in vista di un qualche obiettivo le cosiddette macchine intelligenti. Si tratta piuttosto di indagare la natura sociale di quell’umanissima intelligenza, e questo problema ci riconduce senza alcuna mediazione alla Società-Mondo richiamata prima, la quale è dominata dal rapporto sociale capitalistico: è a questo rapporto sociale che dobbiamo connettere l’uso che questa società fa anche degli algoritmi predittivi.

Noi «ci troviamo alla mercè della nostra stessa fiducia verso le previsioni algoritmiche», come scrive l’autrice del libro citato, proprio perché non padroneggiamo le forze sociali dominanti su scala planetaria e “biopolitica” (*), né ne comprendiamo il significato storico-sociale. «Il processo decisionale» non è nelle nostre mani, nella nostra disponibilità già da moltissimo tempo.

I feticisti della tecnologia (quelli che vedono la cosa ma non il rapporto sociale che la rende significativa sul piano storico, sociale e politico) sono rimasti brutalizzati dall’accelerazione che il Capitale ha impresso al processo sociale negli ultimi trent’anni, ma non comprendendone il significato, e quindi la connessione intima con le “leggi di sviluppo” del capitalismo, credono che il mondo sia entrato in un’epoca postcapitalistica che rende inservibili le vecchie griglie concettuali, a partire ovviamente dalle “vecchie” concezioni anticapitalistiche. D’altra parte non ci si può aspettare altro da chi non ha compreso gli ultimi due secoli di storia mondiale segnata dal dominio capitalistico. Il futuro dell’umanità oggi è chiuso dentro il cerchio stregato di rapporti sociali disumani a causa del Capitale, con ciò che ne segue su ogni aspetto della nostra vita quotidiana, non certo a causa dagli algoritmi predittivi o di altre “diavolerie” tecnologiche presenti e future. È questa cattiva realtà che «illumina di cruda luce» la nostra pessima condizione umana.

(*) «Novissimum organum. È stato dimostrato da tempo che il lavoro salariato ha foggiato le masse dell’età moderna, e ha prodotto l’operaio come tale. In generale, l’individuo non è solo il sostrato biologico, ma – nello stesso tempo – la forma riflessa del processo sociale, e la sua coscienza di se stesso come un essente-in-sé è l’apparenza di cui ha bisogno per intensificare la propria produttività, mentre di fatto l’individuo, nell’economia moderna, funge da semplice agente del valore. […] Decisiva, nella fase attuale, è la categoria della composizione organica del capitale. Con questa espressione la teoria dell’accumulazione intendeva “l’aumento della massa dei mezzi di produzione a paragone della massa della forza-lavoro che li anima”. Quando l’integrazione della società, soprattutto negli stati totalitari, determina i soggetti, sempre più esclusivamente, come momenti parziali nel contesto della produzione materiale, la “modificazione nella composizione organica del capitale” si continua negli individui. Cresce così, la composizione organica dell’uomo. […] La tesi corrente della “meccanizzazione” dell’uomo è ingannevole, in quanto concepisce l’uomo come ente statico, sottoposto a certe deformazioni ad opera di un “influsso” esterno, e attraverso l’adattamento a condizioni di produzione esterne al suo essere. In realtà, non c’è nessun sostrato di queste “deformazioni”, non c’è un’interiorità sostanziale, su cui opererebbero – dall’esterno – determinati meccanismi sociali: la deformazione non è una malattia che colpisce gli uomini, ma è la malattia della società, che produce i suoi figli come la proiezione biologistica vuole che li produca la natura: e cioè “gravandoli di tare ereditarie”» (T. W. Adorno, Minima moralia, p. 278, Einaudi, 1994). Mutatis mutandis, la riflessione di Adorno è molto più vera oggi di quanto non lo fosse più di settanta anni fa.