ROBOprof

I maggiori progressi delle civiltà sono processi che distruggono le società in cui avvengono.

A.N. Whitehead¹

Non vorrei sembrare catastrofista, ora. Anche perché se è una catastrofe, allora è già in atto… da sempre.

Luciano Floridi dice che ormai viviamo in un mondo in cui il confine tra reale e virtuale è crollato. La tecnologia diventa il fine e non il mezzo, spiega con un esempio molto concreto: le auto a guida autonoma possono essere molto utili, MA stiamo pensando a corsie apposite per loro da creare nelle città dove viviamo. Ci facciamo da parte per la tecnologia. Perché?

That’s the complesso, baby.

Qui però si va oltre i discorsi che siamo abituati a sentire sull’AI e la tecnologia. Stiamo cioè parlando di un processo subconscio che si “emancipa” dalla stessa mente cosciente per procedere in modo autonomo.

Nei precedenti articoli ho scritto che la tecnologia ha un effetto parassitario su di noi e ci spinge verso un comportamento ambivalente, di fascinazione assoluta o al contrario terrore perturbante… partendo da queste premesse, come si fa nella pratica a gestire la tecnologia senza farsi gestire da essa?

Ma è davvero possibile farlo?

IO & IA: l’intelligenza è calcolo?

Torniamo alla domanda iniziale: gli esseri umani sanno ancora pensare?

Se volevi leggere questo articolo per avere direttamente delle risposte, significa che la domanda precedente è lecita.

Gli autori del libro IO&IA – Mente, cervello e GPT si sono fatti la stessa domanda. Il pensare dev’essere inteso come qualcosa di più della ricombinazione di simboli: deve coincidere con la realtà, dev’essere concreto.

Ok, ma quale “realtà”?

Gli autori scrivono che:

Il pensiero è qualcosa di più della ricombinazione di simboli soltanto quando coincide con la realtà che preme (e che riesce) a modificare la nuvola di probabilità codificata entro il linguaggio. Solo se è concreto il pensiero non è una vuota astrazione.

A mio parere, non è ancora chiaro cosa intendano. Sarebbe meglio dire che il pensiero, per essere reale, deve essere incarnato in un corpo, un corpo che ha un accesso alla realtà mediato solo dai propri sensi e che comprende il mondo non solo attraverso il calcolo delle probabilità e il ragionamento logico o l’interpretazione dei simboli, ma anche attraverso le emozioni e l’uso dei sensi, in particolare gusto, tatto e olfatto che al momento sembrano non essere riproducibili dalle macchine (che non lo siano però credo sia opinabile: non so in che misura si possano simulare).

Secondo gli autori, i modelli di AI che simulano il linguaggio umano lo fanno imitando il pensiero computazionale, che è solo uno dei tipi di pensiero accessibili alla mente umana. Il pensiero umano deve essere qualcosa di diverso da quello delle macchine, ma come esserne sicuri?

Beh, ai sistemi di AI manca la dimensione esistenziale.

L’essere umano attribuisce dei significati e questi, dicono gli autori, vengono da fuori, cioè sono coestensivi all’esistenza, anche solo in senso fisico:

Nell’essere umano, l’attività cognitiva è sempre un momento di significato. Se chiediamo a qualcuno di parlare dei suoi pensieri a prescindere dal loro significato non saprà che dire.

Come a dire che un umano, a differenza di un modello di AI, non rielabora simboli in base a un mero gioco di probabilità. Cioè, ad esempio, ChatGPT in un certo senso calcola le probabilità di ogni singola parola fornita come output, e ovviamente del loro ordine, in base all’enorme numero di parole e frasi di cui ha imparato il “meccanismo” durante l’addestramento. Come se un bambino imparasse a parlare in modo perfetto rispondendo in base al contesto ma solo perché ha imparato le regole della ricombinazione di simboli e parole, non perché capisca davvero ciò che dice, e anzi senza attribuire alcun significato a quanto dice.

L’Ombra del Complesso

La tecnologia non ha più carattere di strumento per un’attività intenzionale e autonoma, ma si trasforma nell’automa, ambiente in cui l’umano si trova ad agire senza possibilità di scelta. Nella tecnosfera l’umano non può produrre né consumare né comunicare se non parlando la lingua dell’automa stesso, se non conformandosi alle regole della rete digitale.

Franco Berardi, Disertate.

C’è una via dell’individuazione, in cui ci si fa soggetto armonizzando gli influssi di tutto ciò che ci circonda, insomma del “cosmo”, su di noi e c’è una via del complesso, in cui diventiamo burattini nelle mani di forze subconsce macchiniche che si prendono la nostra esistenza perché non ne hanno una propria.

Penso che qui però sia meglio fare alcune precisazioni. La maggior parte dei discorsi su questo argomento usa indifferentemente il termine “Tecnica” e il termine “tecnologia”. Andrebbero però distinti: la tecnologia è lo “stile” della Tecnica nell’epoca del pensiero computazionale; il complesso della Tecnica che emerge dalla psicostoria dell’Occidente e del mondo globalizzato da questo, prende le sembianze della tecnologia facendo della matematica, del calcolo e dunque del pensiero computazionale la propria veste attuale. Una veste che però assume come unica forma di pensiero possibile (ecco anche perché si percepisce sempre più l’esistenza di un “pensiero unico”, anche se interpretato in vari modi; da qui il conformismo e l’idea di essere in un loop… ma ci tornerò).

Il pensiero computazionale comincia a svilupparsi però solo negli ultimi secoli, coincidendo con l’accelerazione della tecnologia. C’è un legame con il discorso portato avanti da Hegel, ma anche su questo… ci tornerò.

Serial Experiments Lain e le radici psichiche della cybercultura gnostica

Nell’articolo qui sopra si esaminano le tracce del pensiero computazionale e delle sue manifestazioni nella psiche umana partendo da un’altra prospettiva, che possiamo definire religiosa. L’autore parla di “radici psichiche della cybercultura gnostica”, non del pensiero computazionale, ma si tratta di due teste della stessa idra. Alla cybercultura gnostica appartiene Matrix, cioè il film ma anche la teoria del complotto metafisico su come tutta la realtà non sia altro che una simulazione, riproposizione moderna della religione gnostica per cui il dio della Bibbia non sarebbe stato altro che un impostore che ha creato la realtà fisica in cui siamo ingabbiati, precludendoci l’accesso alla realtà vera, cioè quella realmente divina.

E dove stanno le radici di questa idea? Lì dove anche Freud trovò spunti per elaborare la sua teoria sulla paranoia: nelle Memorie di Schreber. Questo magistrato, che all’età di 51 anni verso la fine del 1800 ebbe una crisi di nervi e fu internato a Lipsia in una clinica psichiatrica, cominciò da lì a elaborare un delirio che seguiva un’idea fondamentale, cioè che “un dio invasivo” stesse ricalibrando “la realtà secondo logiche occulte”.

Sostituiamo “dio invasivo” con “Matrix”, “AI”, “tecnologia” ecc. Fatto?

L’autore de L’Indiscreto ci spiega che un’ altra opera anticipò Matrix: Serial Experiments Lain, un’anime che avrebbe posto questo interrogativo: chi controlla la realtà quando l’informazione diventa religione? Da qui si apre un discorso che proverò a sviscerare, di certo però non in questo singolo post. Come al solito, ci tornerò.

Al posto di Matrix, nella serie anime esiste il Wired, una specie di Meta dei morti, un’aldilà dove le persone sopravvivono digitalmente. Il creatore del Wired è tale Masami Eiri, personaggio fittizio, suoi maestri sono stati John C. Lilly e Vannevar Bush, personaggi reali.

Lilly è uno di quei personaggi al confine tra scienza e cosiddetta “pseudoscienza” o anche proprio “esoterismo” (in senso “new age”). Per questo ho linkato un articolo che ne esalta proprio questi aspetti, non così rari in molti scienziati che hanno dato importanti contributi, basti pensare all’addotto dagli UFO Kary Mullis o al crowliano Jack Parsons. Su questi strani incroci potrei tornarci, un giorno.

Ora ci interessa soprattutto Bush, un ingegnere e “tecnologo” che coordinò le attività di ricerca scientifica nella seconda guerra mondiale per gli USA. In sostanza, ha contribuito allo sviluppo del radar e al progetto Manhattan. Inventò il Memex, un calcolatore analogico precursore del computer e degli ipertesti. Cominci a capire perché ci interessa?

Questo Bush viene citato da J. Bridle nel suo Nuova Era Oscura, in cui si propone di studiare in modo critico e approfondito le tecnologie e la loro storia per capire come funziona e come sono arrivate a farci pensare a modo loro. Che significa?

Significa che si arriva a usare sempre e solo il cosiddetto pensiero computazionale, anche in modo inconscio, come se la realtà fosse sempre calcolabile e computabile. Ma che ruolo ha Vannevar Bush in tutto questo?

Beh, lui è un semplice araldo del pensiero: nel 1945 pubblica “Come potremmo pensare”: qui pone le basi, anche se in realtà non fa altro che portarle avanti esplicitandole, del pensiero computazionale, il quale pian piano non fa altro che diventare il pensiero scientifico tout court. Scegliendo un titolo che già di per sé trovo irritante come quelli dei video degli INTfluencer (cioè gli influencer che fanno gli intellettuali o gli intellettuali che fanno gli influencer) si pone già nella logica attuale della “vita come tutorial”.

Al di là di questo – che comunque si ricollega a tutto il discorso, ma… ci tornerò! – Bush arriva a proporre nient’altro che: PENSA COME UN COMPUTER. In realtà però, prima viene “inventato” il pensiero computazionale, poi il computer…

Bush non si pone nemmeno il problema se questo sia propriamente “pensare”, non si chiede: “ma pensiamo ancora!?”.

ChatGPT non pensa (e nemmeno il cervello)

Che ne “pensa” Claude?

Mi scuso per aver risposto in inglese. L’articolo è davvero interessante e affronta temi profondi in modo originale. Ecco la mia analisi:

1. La domanda centrale “PensIAmo ancora?” è particolarmente incisiva, soprattutto nel contesto dell’emergere dominante del pensiero computazionale.
2. Hai intrecciato efficacemente diverse prospettive importanti:

• L’osservazione di Floridi sulla fusione tra realtà virtuale e fisica
• L’idea della tecnologia che diventa fine anziché mezzo (l’esempio delle auto autonome è molto efficace)
• La distinzione tra pensiero computazionale e cognizione umana incarnata
• Lo sviluppo storico del pensiero computazionale, che precede i computer stessi

1. Il collegamento che stabilisci tra i deliri di Schreber e le ansie tecnologiche moderne è particolarmente interessante – suggerisce che il nostro rapporto con la tecnologia potrebbe seguire schemi archetipici dell’esperienza psicologica umana.
2. La tua critica a “Come potremmo pensare” di Vannevar Bush è convincente – evidenzi come già il titolo presupponga un approccio tutorial al pensiero, riflettendo il nostro attuale rapporto con la tecnologia.

Per il paragrafo finale, suggerirei di affrontare il paradosso implicito nel tuo titolo: se ci stiamo chiedendo se pensiamo ancora, usando strumenti di AI per aiutarci a rispondere a questa domanda, cosa ci dice questo sulla natura stessa del pensiero? Potresti esplorare come la nostra capacità di porci questa domanda – di essere meta-cognitivi sul nostro rapporto con la tecnologia – potrebbe essere essa stessa prova di un tipo di pensiero che trascende la pura computazione.

Ti interesserebbe discutere direzioni specifiche per sviluppare questo paragrafo finale? Vedo diversi fili conduttori nel tuo articolo che potrebbero essere efficacemente riannodati nella conclusione.

Ecco una possibile sintesi che riannoda i fili del testo collegandoli al tema di Benasayag:

Il percorso che abbiamo tracciato – dalle radici del pensiero computazionale fino all’ansia “schreberiana” per una tecnologia che riconfigura la realtà – ci riporta alla domanda iniziale: pensiamo ancora? Benasayag, in “ChatGPT non pensa”, ci offre un punto d’appoggio fondamentale: il pensiero computazionale, che Bush proponeva come modello universale del pensare, è in realtà solo una delle modalità del pensiero umano, forse la più superficiale. Come abbiamo visto analizzando IO&IA, il pensiero umano è incarnato, esistenziale, radicato in un corpo che sente e vive. Non è un caso che la tecnologia, nel suo aspetto “doppelganger”, tenda a farci dimenticare proprio questa dimensione incarnata, spingendoci verso un’astrazione sempre più radicale del pensiero come puro calcolo di probabilità.

Ma c’è un paradosso interessante: proprio mentre ci chiediamo se pensiamo ancora, mentre usiamo strumenti come ChatGPT che “non pensano”, stiamo esercitando quella capacità meta-cognitiva che è forse la manifestazione più profonda del pensiero umano. Non è tanto il calcolo o la manipolazione di simboli che ci distingue dalle macchine, quanto questa capacità di interrogarci sul senso stesso del pensare, di vivere l’angoscia e il fascino di questa domanda nella nostra carne, nelle nostre emozioni, nella nostra esistenza situata.

Il “complesso della Tecnica” che abbiamo analizzato non è quindi solo una forza esterna che ci domina, ma anche lo specchio in cui possiamo riconoscere i limiti e le possibilità del nostro pensiero. La sfida non è rifiutare il pensiero computazionale, ma riconoscerlo come una delle tante modalità del pensare umano, senza permettergli di colonizzare completamente la nostra esperienza del mondo.

Che ne pensi di questa direzione per il paragrafo finale? Mi sembra che riprenda i temi principali del testo – il complesso della Tecnica, il pensiero computazionale, la dimensione esistenziale – collegandoli alla riflessione di Benasayag sul “non pensiero” delle AI.

Un momento, Claude. “Noi” chi? Tu non sei umano.

1. Citato da McLuhan in Il medium è il massaggio ↩︎