La ragione digitale e la ragione di sangue

Dieci punti per una cultura che non deleghi il proprio significato.

Il numero #780 de la Lettura (Corriere della Sera) analizza il rapporto tra libro e intelligenza artificiale generativa, dipingendo le biblioteche fisiche come spazi di resistenza umana contro la proliferazione di contenuti sintetici. Attraverso i contributi di Paolo Giordano, Cory Doctorow, Zack Kass ed Éric Sadin, il settimanale esplora i rischi antropologici legati alla standardizzazione del pensiero e alla perdita di senso critico.

I nodi cruciali del confronto? La standardizzazione contro l’errore generativo, la velocità del consumo contro la lentezza della comprensione, le biblioteche come spazi politici e fisici, il rischio dell’omologazione del pensiero. What else?

Ci ho riflettuto e tanto, non senza fatiche biografiche. Non credo che la questione decisiva dei prossimi anni sarà stabilire se l’intelligenza artificiale sia destinata a sostituire scrittori, studiosi, giornalisti, insegnanti, artisti, ricercatori. 

Formulata così, la domanda appartiene ancora a un immaginario piuttosto slombato della tecnica, nel quale ogni nuova macchina arriva per occupare il posto di qualcuno e ogni trasformazione viene letta come una partita a somma zero tra l’uomo e il suo utensile. Rarefazione di un problema assai più complicato. Sono certo che le riflessioni dei nostri autori partano e giungano altrove, tuttavia...

La questione mi sembra un’altra e, forse, più fine, meno disponibile a una risposta affrettata. Dovremo capire quale rapporto intendiamo costruire con una forma di intelligenza di natura differente, operativa, che non è più soltanto uno strumento per eseguire operazioni, ma partecipa sempre più direttamente alla produzione dei linguaggi attraverso i quali descriviamo il mondo. Scrive, sintetizza, traduce, compara, ricombina, propone interpretazioni, individua relazioni. Entra perciò in quella zona delicatissima nella quale le società costruiscono la propria rappresentazione della realtà.

Per questo non mi interessa opporre una cultura umana a una cultura artificiale. Mi interessa capire se sia possibile organizzare una collaborazione, inevitabilmente conflittuale, tra quella che chiamerei ragione digitale e ciò che, per comodità ma non soltanto per metafora, chiamerò ragione di sangue.

La prima dispone di una memoria sterminata, di velocità, capacità combinatoria, ricorsività, disponibilità quasi istantanea, prestazioni prodotte attraverso processi computazionali e probabilistici che non coincidono con l’esperienza che simulano linguisticamente.

La seconda possiede qualcosa di molto meno efficiente e proprio per questo difficilmente surrogabile: un corpo, una biografia, il trascorrere del tempo, la paura, il desiderio, la responsabilità delle conseguenze, l’esperienza dell’errore, la consapevolezza della morte, la stratificazione delle interpretazioni successive.
Non si tratta di decidere quale delle due debba prevalere. Si tratta di capire quale patto culturale possiamo stipulare tra loro. Ed ecco il consueto manifesto, la sintesi delle provocazioni, proposte per brevità. Succinte e sufficientemente disinvolte. 

Più annotazioni assetate che risposte rigorose, ma ci provo.

1. Non confondere l’accesso alla conoscenza con il possesso della conoscenza.

L’intelligenza artificiale modifica radicalmente il costo dell’accesso alle informazioni e, con esso, una parte importante del lavoro intellettuale. Possiamo interrogare in pochi secondi patrimoni concettuali che un tempo avrebbero richiesto giorni di ricerca, ottenere confronti, ricostruire genealogie linguistiche, attraversare discipline lontane tra loro. Sarebbe ingenuo considerare tutto questo una degradazione della cultura soltanto perché avviene rapidamente.

Ma l’accessibilità non coincide con l’appropriazione.
Possedere culturalmente un concetto significa averlo attraversato abbastanza a lungo da riconoscerne le condizioni, i limiti, le contraddizioni e possibilmente anche la storia. C’è una distinzione che considero essenziale: l’informazione non è ancora conoscenza e la conoscenza, aggiungerei, non è ancora necessariamente coscienza.

L’IA può diminuire enormemente la distanza tra noi e un’informazione. Non può però abolire la distanza che separa un’informazione dalla sua comprensione.
Quella distanza dobbiamo ancora percorrerla noi.

2. Difendere la lentezza senza trasformarla in una religione.

Ci siamo abituati a identificare l’innovazione con l’accelerazione. Più rapidamente troviamo, produciamo, comunichiamo, più ci sembra di essere avanzati. Eppure, la storia della cultura suggerisce che esistano operazioni intellettuali che dipendono proprio dalla permanenza, dalla rilettura, dalla possibilità di sostare dentro una contraddizione senza essere costretti a risolverla immediatamente.

Il libro continua ad avere una funzione importante non perché la carta possieda qualche virtù morale, ma perché una forma lunga costringe il pensiero a misurarsi con la durata. Questa dimensione viene associata alla consequenzialità logica, alla capacità di seguire argomentazioni complesse e alla lettura profonda.

Non dobbiamo tuttavia costruire una nuova opposizione moralistica fra il libro virtuoso e lo schermo colpevole. Anche un libro può essere mediocre e una conversazione con un’IA può diventare intellettualmente fertilissima.
Occorre piuttosto preservare il diritto alla durata: la possibilità che alcune idee non vengano immediatamente sintetizzate, che alcune domande restino aperte, che un ragionamento possa impiegare cinquanta pagine per arrivare là dove un riassunto pretenderebbe di condurci in cinque righe.

L’efficienza serve a risparmiare tempo. La cultura (cultura accademica o scientifica, la cultura colta o alta cultura, la cultura popolare o di massa / pop culture, la cultura tradizionale o folcloristica) deve anche insegnarci per che cosa valga la pena spenderlo.

3. Usare l’IA per aumentare le domande, non soltanto per moltiplicare le risposte.

Per molto tempo abbiamo immaginato le tecnologie cognitive come macchine delle risposte. Credo che questa sia una concezione limitante.
La funzione culturalmente più interessante dell’intelligenza artificiale potrebbe consistere precisamente nel contrario: aumentare la nostra capacità di formulare domande.
Una buona interrogazione non dovrebbe limitarsi a chiedere una soluzione, ma mettere alla prova un’ipotesi, cercarne le obiezioni, confrontarla con tradizioni disciplinari differenti, scoprire ciò che abbiamo dimenticato di chiedere. Filosofia, antropologia, neuroscienze, economia, letteratura, semiotica e biologia possono così entrare più facilmente in contatto, a condizione che chi interroga sappia riconoscere la differenza fra una connessione sorprendente e una connessione semplicemente plausibile.

Il punto di partenza è l’automazione che sa produrre risposte e sintesi, mentre una parte decisiva dell’esperienza culturale consiste ancora nel costruire le domande attraverso cui la complessità diventa pensabile.
Il futuro dell’intellettuale potrebbe quindi dipendere meno dalla quantità delle cose che sa e molto di più dalla qualità delle domande che riesce a mettere al lavoro.

4. Pretendere la provenienza, perché una cultura senza genealogia diventa un presente infinito.

Ogni cultura ha bisogno di genealogie. Una frase non nasce semplicemente perché è linguisticamente possibile. Proviene da storie, conflitti, testi, istituzioni, classi sociali, esperienze individuali. Ogni concetto porta con sé usi precedenti e spesso anche le tracce delle battaglie attraverso cui ha conquistato il significato che oggi gli attribuiamo.

L’intelligenza artificiale tende invece, per propria natura operativa, a rendere contemporaneo ciò che contemporaneo non è: può avvicinare testi distanti secoli e tradizioni inconciliabili con una fluidità straordinariamente produttiva ma anche pericolosa, se ci dimentichiamo che le idee possiedono una data, un luogo, una funzione e talvolta persino degli avversari.
Il sapere codificato svolge allora una funzione politica oltre che conoscitiva: conserva coordinate storiche sufficientemente stabili da impedirci di abitare soltanto l’attualità.

Dovremo quindi chiedere sempre più spesso non soltanto “che cosa significa?”, ma “da dove proviene?”, “chi lo ha detto?”, “in quale contesto?”, “contro quale altra idea?”, “attraverso quali passaggi è arrivato fino a noi?”.
Una cultura senza provenienza rischia di diventare una cultura senza responsabilità.

5. Conservare l’attrito.

L’intelligenza artificiale possiede una caratteristica seducente: tende a ridurre l’attrito cognitivo. Traduce ciò che non comprendiamo, sintetizza ciò che è lungo, ordina ciò che appare disperso, semplifica ciò che è difficile.
Questo è uno dei suoi maggiori vantaggi che però può diventare anche uno dei suoi maggiori pericoli.

Una parte della formazione culturale nasce infatti precisamente dall’incontro con ciò che resiste alla comprensione. Una poesia che non afferriamo immediatamente, un filosofo irritante, un romanzo che procede lentamente, un teorema che non riusciamo a dimostrare, una lingua che ancora non possediamo: sono esperienze nelle quali la difficoltà non rappresenta semplicemente un ostacolo da eliminare.

È parte dell’apprendimento.
Non tutto ciò che può essere reso semplice deve necessariamente esserlo.
La collaborazione tra ragione digitale e ragione di sangue dovrebbe allora includere una specie di ecologia dell’attrito: lasciare che la macchina elimini la fatica inutile, ma non permetterle di eliminare quella fatica attraverso la quale il pensiero modifica se stesso.

6. Restituire un corpo alla cultura.

Qui si trova forse la differenza più radicale. Noi pensiamo con un organismo.
Pensiamo diversamente quando abbiamo vent’anni o settanta, quando siamo sani o malati, quando siamo soli o innamorati, quando rischiamo qualcosa, quando abbiamo paura di perderlo. La nostra ragione è attraversata da una fisiologia e da una mortalità che non costituiscono incidenti esterni del pensiero, ma parte della sua stessa condizione.

La ragione digitale non soffre le conseguenze delle proprie formulazioni. 

Non trascorre una notte insonne per una parola sbagliata, non deve convivere con la vergogna di una parola sbagliata, non invecchia insieme alle idee che aveva difeso, non deve incontrare domani la persona che oggi ha giudicato.
Per questo, nella futura economia della cultura, l’esperienza non dovrà essere considerata un residuo imperfetto rispetto al dato, ma una forma specifica di conoscenza.
La ragione digitale può elaborare le tracce della vita. 

La ragione di sangue continua ad avere il compito di viverla.

7. Non consegnare all’algoritmo il diritto dell’ultima parola.

Ogni società costruisce dispositivi ai quali attribuisce autorevolezza. Furono gli oracoli, le biblioteche, le accademie, le università, le enciclopedie, i giornali, gli esperti. L’intelligenza artificiale rischia di diventare il nuovo dispositivo di legittimazione proprio perché parla con una forma particolarmente persuasiva di neutralità.
Ma una risposta linguisticamente equilibrata non è necessariamente una risposta neutrale.

Anche una macchina che sappia ricostruire perfettamente le alternative disponibili non può essere trasformata nel luogo in cui deleghiamo la scelta fra quelle alternative, specialmente quando esse implicano valori, conflitti distributivi, responsabilità politiche o conseguenze sulle vite altrui.

Possiamo delegare calcoli, comparazioni, classificazioni, ipotesi ma dobbiamo essere molto più cauti nel delegare il giudizio.
Non perché l’essere umano sia naturalmente saggio, cosa che la storia renderebbe difficile sostenere, ma perché soltanto chi può essere chiamato a rispondere delle conseguenze dovrebbe possedere il diritto di assumere la decisione finale.

8. Ricostruire l’intellettuale come figura di connessione.

Ho sempre condiviso la critica dello specialismo che merita, nell’epoca dell’IA, di essere ripensata radicalmente: quando il sapere si frammenta in competenze sempre più specifiche, aumenta il rischio che nessuno riesca più a ricostruire l’insieme.

Paradossalmente l’intelligenza artificiale potrebbe offrirci una possibilità imprevista.
Proprio perché facilita l’attraversamento delle discipline, può permettere a chi possiede una formazione solida di tornare a esercitare una funzione di connessione: mettere in relazione tecnica e politica, economia e antropologia, neuroscienze e pedagogia, ecologia e infrastrutture, informatica e filosofia morale.

Non servono tuttologi; servono persone capaci di abitare le frontiere fra i saperi senza fingere di possederli interamente.
In questa prospettiva l’intellettuale non perde la propria funzione. Cambia funzione. Non è più soltanto colui che dispone di informazioni difficilmente accessibili agli altri; è colui che prova a riconoscere quali informazioni debbano essere messe in rapporto, quali contraddizioni non debbano essere nascoste e quali domande una società non dovrebbe permettersi di dimenticare.

9. Difendere la scarsità dentro l’abbondanza.

Stiamo entrando in un’epoca nella quale produrre parole, immagini, musiche, riassunti, presentazioni e probabilmente interi libri costerà sempre meno. 

È una democratizzazione straordinaria della capacità espressiva, ma produce una conseguenza sulla quale riflettiamo ancora troppo poco: quando la produzione diventa quasi infinita, il valore si sposta dalla generazione alla selezione.

È un rischio sul quale mi capita di tornare con una certa ostinazione: la capacità di generare rapidamente una quantità enorme di testi può tradursi in sovrapproduzione culturale, mentre la risorsa realmente contesa diventa l’attenzione.
Forse il gesto culturale del futuro non consisterà sempre nell’aggiungere, ma potrà consistere nel sottrarre.

Scegliere dieci libri invece di generare cento sintesi. Salvare una frase invece di produrne mille. Decidere che un testo non è ancora pronto. Rinunciare a pubblicare qualcosa soltanto perché possiamo farlo. 

Riconoscere che la disponibilità tecnica della produzione non costituisce, da sola, una ragione sufficiente per produrre.
Dopo secoli nei quali la cultura è stata condizionata dalla scarsità dei mezzi di produzione, dovremo imparare una disciplina molto differente: costruire sintesi di significato dentro l’abbondanza delle forme.

10. Stipulare un patto, non dichiarare una resa.

Non credo dunque serva organizzare una resistenza dell’umano contro la macchina. Sarebbe probabilmente inutile e culturalmente povero. Né credo sia interessante consegnarsi all’idea opposta, quella secondo cui ogni nuova possibilità tecnica debba essere accettata come una specie di destino.

Occorre qualcosa di più difficile: un patto.
Alla ragione digitale possiamo affidare una parte crescente del lavoro della memoria, del confronto, dell’esplorazione, della traduzione, della correlazione, forse persino del dubbio metodico. Alla ragione di sangue dovremo continuare a chiedere la responsabilità, il giudizio, la capacità di attribuire valore, la consapevolezza delle conseguenze e soprattutto la facoltà di decidere quando una risposta, benché possibile, non sia ancora sufficiente.

I libri continueranno ad avere importanza precisamente dentro questo patto. 

Non necessariamente perché siano destinati a vincere una competizione con strumenti più rapidi, ma perché incarnano una particolare tecnologia della durata, della stabilità e della contestualizzazione. Li definirei con una metafora, come dighe e ghiacciai, rispetto all’acqua corrente dell’informazione digitale: riserve nelle quali ciò che sappiamo può sedimentare e attraversare il tempo.

Attenzione, però. Neppure il libro basta. Nessun supporto, analogico o digitale, per quanto durevole, autorevole o capace di custodire memoria, garantisce da solo l’esistenza di una cultura. Un archivio conserva; una cultura sceglie, ordina, esclude, rimette in discussione. E soprattutto decide, non senza conflitto, che cosa del passato debba continuare a parlare nel presente e che cosa, invece, debba essere interrogato proprio perché non può più essere semplicemente ripetuto.

La cultura comincia forse in questa distanza fra ciò che riceviamo e ciò che decidiamo di farne. Quando qualcuno stabilisce che una parola, un’opera, un sapere meritino di essere trasmessi e qualcun altro domanda secondo quale criterio e nell’interesse di chi; quando una generazione eredita il vocabolario della precedente ma scopre che quelle stesse parole, spostate nel proprio tempo, non significano più esattamente le stesse cose; quando la memoria diventa anche critica della memoria stessa e non più venerazione lagnosa o astuta. Non si eredita veramente se non si accetta, almeno in parte, di contraddire ciò che si eredita.

Per questo una cultura ha certamente bisogno di archivi, ma anche di conflitti intorno agli archivi; di memoria, ma anche della facoltà di scegliere, gerarchizzare e perfino dimenticare; di strumenti cognitivi sempre più potenti, ma soprattutto di persone che abbiano ancora ragioni sufficienti per interrogarli. Perché la questione decisiva consiste nel comprendere da quale posizione lo interroghiamo, per quali fini e dentro quali rapporti con gli altri.

È qui che torna il sangue di cui dicevo. Non il sangue come retorica dell’autenticità, né come rivendicazione sentimentale della superiorità dell’umano sulla macchina. Il sangue come limite materiale del pensiero: corpi che hanno un’età, occupano luoghi, dipendono da altri corpi, lavorano, desiderano, subiscono conseguenze; persone che non possono limitarsi a contemplare tutte le possibilità disponibili perché, prima o poi, sono costrette a sceglierne alcune e a rinunciare alle altre. 

Una macchina può aiutarci a rappresentare una contraddizione con precisione crescente; resta agli esseri umani stabilire se quella contraddizione debba essere semplicemente descritta oppure affrontata, e accettare il prezzo eventuale di quella decisione. Senza indulgere in alcun bozzettismo morale.

Forse è precisamente qui che dovremo imparare a essere meno difensivi. 

Non difendere l’umano come un territorio che arretra ogni volta che la tecnica conquista una nuova competenza, ma chiedere all’umano qualcosa di più esigente della semplice differenza dalla macchina: una posizione, un criterio, una responsabilità, la capacità di dichiarare quali fini considera desiderabili e quali conseguenze è disposto ad assumere.

Perché, se la macchina potrà progressivamente aiutarci a sapere quasi tutto ciò che è disponibile sapere, la cultura continuerà a cominciare nel punto assai meno rassicurante in cui quel sapere non basta più e occorre decidere che cosa farne.
La crescente delega al digitale non ci obbliga a essere meno umani. 

Ci obbliga, forse, a definire con maggiore precisione che cosa intendiamo conservare dell’umano quando una quota crescente delle sue prestazioni intellettuali può essere riprodotta altrove.

E qui l’intelligenza artificiale potrebbe rivelarsi, oltre che una macchina potentissima, uno specchio piuttosto severo.
Perché quando avremo delegato alla macchina una parte crescente della memoria, il calcolo, la sintesi, la ricombinazione delle parole e persino alcune forme della loro invenzione, non per questo avremo delegato la responsabilità di decidere che cosa quelle parole debbano significare nella vita comune. 

Resterà una domanda che nessuna crescita della potenza computazionale potrà rendere superflua: che cosa vogliamo farne, e soprattutto a vantaggio di chi?

La risposta non sarà contenuta nell’algoritmo, perché appartiene a un altro ordine di realtà: quello delle persone che prendono posizione e ne sopportano le conseguenze, dei libri assimilati e talvolta dimenticati, degli errori che hanno avuto un costo, delle convinzioni mutate nel tempo, delle generazioni che si contraddicono anziché succedersi ordinatamente, degli intrecci delle circostanze, delle coscienze subalterne o imparaticce. Appartiene ai corpi, cioè a ciò che occupa un luogo, ha bisogni, incontra limiti, entra in conflitto con altri corpi e non può sottrarsi indefinitamente alla responsabilità delle proprie scelte.

Occorreranno ancora volontà determinate, interessi riconoscibili, fini sufficientemente chiari da trasformare ciò che la tecnica rende possibile in qualcosa che valga la pena volere. E vivere.
Avremo bisogno della ragione digitale, certamente. Ma perché quella ragione possa entrare nella cultura e non restare soltanto potenza disponibile, avremo ancora bisogno del sangue.