Emanuele Severino e il destino della tecnica nell'epoca dell'intelligenza artificiale
Nel 1998 Emanuele Severino pubblicava Il destino della tecnica, un'opera nella quale indagava le ragioni profonde del progressivo dominio dell'apparato scientifico-tecnologico sulla civiltà occidentale. A quasi trent'anni di distanza, nell'epoca dell'intelligenza artificiale generativa, alcune sue riflessioni assumono una pertinenza sorprendente. Severino aveva colto la tendenza della tecnica a trasformarsi da strumento al servizio dell'uomo in una potenza che persegue indefinitamente il proprio accrescimento. La sua analisi si spinge fino a interrogare il rapporto tra linguaggio, conoscenza e intelligenza artificiale, prefigurando un apparato capace di incrementare autonomamente le proprie capacità cognitive. Rileggere oggi queste pagine permette di riconoscere, al di sotto delle innovazioni tecnologiche contemporanee, una trasformazione della quale stiamo ancora cercando di comprendere la portata filosofica.
III) Ma evitare che il fine ostacoli e indebolisca il mezzo significa assumere il mezzo come scopo primario, cioè subordinare ad esso ciò che inizialmente ci si proponeva come scopo. Le grandi forze della tradizione occidentale si illudono dunque di servirsi della tecnica per realizzare i loro scopi: la potenza della tecnica è diventata in effetti, o ha già incominciato a diventare, il loro scopo fondamentale e primario. E tale potenza – che è lo scopo che la tecnica possiede per se stessa, indipendentemente da quelli che le si vorrebbero assegnare dall’esterno – non è qualcosa di statico, ma è indefinito potenziamento, incremento indefinito della capacità di realizzare scopi. Questo infinito incremento è ormai, o ha già incominciato ad essere, il supremo scopo planetario. Ogni altro scopo è più o meno consapevolmente, più o meno direttamente subordinato a questo scopo supremo: la crescita infinita della potenza; che ormai non può più prodursi al di fuori dell’apparato della tecnica. In tale subordinazione consiste la dominazione della tecnica nel nostro tempo, la sua destinazione al dominio. Questo, anche se il dominio della tecnica ha un significato essenzialmente più profondo di quello che emerge dall’interpretazione scientistica e tecnicistica della tecnica.
E. Severino, Il destino della tecnica, Rizzoli, 1998, ed. BUR 2009, cap. I, «Tecnica e telematica», capoverso 5.
Il rovesciamento del rapporto tra mezzi e fini costituisce il centro dell'argomentazione severiniana. Oggi, la competizione per lo sviluppo di modelli di IA sempre più potenti sembra esprimere precisamente questa dinamica. Imprese, istituzioni scientifiche e Stati investono nell'intelligenza artificiale per perseguire determinate finalità, mentre l'accrescimento delle capacità tecnologiche assume progressivamente il carattere di un obiettivo strategico autonomo. Per Severino, tuttavia, il dominio della tecnica richiede anche una conoscenza sempre più estesa della realtà sulla quale essa esercita la propria potenza.
Tra quanto è implicato dalla destinazione della tecnica al dominio si trova anche il principio che, per dominare, la tecnica deve conoscere il dominato. Altrimenti ne è dominata. È necessario che lo conosca, proprio per distanziarsene e porlo sotto di sé. Dominata dalla tecnica è – o ha già incominciato ad esserlo – l’intera storia del Pianeta: sono dominati tutti gli scopi che lungo di essa l’uomo è andato proponendosi. Ed è dominata anche la forma attualmente vivente della storia dell’uomo, cioè la totalità delle pratiche (linguistiche, fisiche, ecc.) dell’umanità vivente. Il crescente dominio della tecnica implica dunque una memoria crescente del dominato e quindi un’organizzazione sempre più efficace della memoria. Nella sua forma più potente tale organizzazione si presenta oggi come apparato informatico-telematico, dove la mnemotecnica è guidata dalle competenze della scienza moderna.
Tale apparato non ha soltanto la possibilità di diventare l’inventario globale della conoscenza umana, ma ha anche la possibilità di recepire e di rendere oggetto di memoria le pratiche linguistico-conoscitive di tutti i soggetti non scientifici collegati alla rete telematica. Le pratiche linguistico-conoscitive non scientifiche appartengono infatti agli oggetti primari della conoscenza e della memoria scientifica; e le pratiche non scientifiche attivamente introdotte nella rete telematica hanno una specificità che non è posseduta da quelle che si lasciano passivamente conoscere dall’iniziativa scientifica.
E. Severino, Il destino della tecnica, cit., cap. I, «Tecnica e telematica», capoversi 6–7.
Queste considerazioni acquistano particolare interesse nell'epoca dei Large Language Models. Le immense quantità di testi e informazioni digitalizzate sulle quali vengono addestrati i modelli generativi costituiscono una parte di quella memoria tecnologica delle pratiche linguistico-conoscitive descritta da Severino. Attraverso l'apprendimento automatico, le regolarità presenti in tali pratiche vengono incorporate in rappresentazioni computazionali capaci di sostenere la produzione di nuovi contenuti linguistici. La memoria dell'apparato diventa così una delle condizioni della sua capacità generativa. Già allora Severino intravedeva inoltre le tensioni derivanti dall'appropriazione economica di questo patrimonio conoscitivo.
Poiché non c’è dominio tecnologico senza memoria delle procedure di dominio della tecnica, non c’è dominio tecnologico senza memoria del dominato. E nemmeno può esserci dominio tecnologico se la memoria globale telematica viene conquistata e manipolata dalle forze che intendono servirsi della tecnica per realizzare i loro scopi specifici. Lo stato di anarchia in cui Internet oggi si trova è la condizione perché ciò che ha la possibilità di essere la più alta forma disponibile di memoria globale dell’umanità divenga proprietà privata e strumento di profitto – cioè impiegato in vista di uno scopo diverso da quello costituito dall’indefinito potenziamento della tecnica. È quindi prevedibile un conflitto per il controllo e il dominio “ideologico” (cioè non tecnologico) della memoria globale.
E. Severino, Il destino della tecnica, cit., cap. I, «Tecnica e telematica», capoverso 9.
La concentrazione delle infrastrutture computazionali e il controllo dei dati necessari all'addestramento dei sistemi di IA ripropongono oggi alcune delle tensioni individuate da Severino tra l'interesse particolare e l'espansione generale della potenza tecnologica. Ma la questione si approfondisce ulteriormente quando l'oggetto del processo tecnico diventa il linguaggio stesso, fino a investire una delle dimensioni fondamentali attraverso le quali l'uomo interpreta la realtà e costruisce il proprio rapporto con il mondo.
La filosofia contemporanea tende ad emarginare il “pensiero” in favore del “linguaggio”. Ma il rapporto del linguaggio alla tecnica è analogo al rapporto che con essa intrattiene il pensiero, perché il linguaggio ha ereditato i caratteri che l’idealismo attribuiva al pensiero. Anche del linguaggio le filosofie della “svolta linguistica” affermano che non è un mezzo di cui l’uomo possa disporre, non è uno strumento nelle mani dell’uomo, ma è piuttosto esso, il linguaggio, a disporre e a servirsi dell’uomo. Non è l’uomo il soggetto e il padrone del linguaggio: l’uomo non parla, ma «il linguaggio parla», dice Heidegger. E anche se Heidegger tende a condurre il linguaggio lontano dalla tecnica, ciononostante il linguaggio svolge nei confronti dell’“uomo” e delle forze della tradizione occidentale, che del linguaggio intendono servirsi (l’“uomo” è appunto un esito del modo in cui tali forze interpretano la realtà), la stessa funzione che la tecnica svolge nei loro confronti. Il linguaggio appare, ancor più radicalmente del pensiero, come il divenire che travolge ogni limite; e soprattutto quando il linguaggio è il linguaggio della tecnica. La quale, a sua volta, è potenza suprema solo in quanto, come si è rilevato (cfr. capp. I-III), ha un carattere pubblico, ossia è comunicazione linguistica.
E. Severino, Il destino della tecnica, cit., cap. XIV, «Scuola, tradizione e tecnica», capoverso 28.
In questo passaggio Severino accosta l'autonomizzazione filosofica del linguaggio all'autonomizzazione della tecnica. La comparsa dei modelli linguistici generativi conferisce a tale accostamento una nuova possibilità interpretativa, poiché una parte significativa della produzione e dell'elaborazione linguistica diventa realizzabile mediante procedure artificiali. Il confronto deve naturalmente rispettare la distanza tra la concezione heideggeriana del linguaggio e il funzionamento computazionale degli LLM. È tuttavia nello stesso capitolo che Severino formula una considerazione ancora più sorprendente, riferendosi esplicitamente all'intelligenza artificiale e alla possibilità che l'apparato tecnico si costituisca come una forma superiore di intelligenza.
Rispetto alla dimensione fenomenologica, l’affermazione dell’esistenza dell’Apparato scientifico-tecnologico, come forma sociale, è dunque una interpretazione; come è una interpretazione l’affermazione dell’esistenza della coscienza altrui, della “volontà generale”, dello Stato, della società, del denaro. Durkheim ritiene che alla società come tale sia possibile attribuire una forma di coscienza distinta dalle coscienze individuali. Le tecniche dell’“intelligenza artificiale” (che danno luogo a una situazione epistemologica dove diventano incerti i confini tra intelligenza naturale e intelligenza artificiale) tendono a trasformare l’Apparato stesso nella suprema “intelligenza artificiale”. Ma, già nella situazione presente, che l’Apparato come tale sia “Intelligenza” è un’interpretazione che può essere costruita secondo le stesse procedure concettuali che portano alla costruzione dell’interpretazione in base alla quale si afferma che esiste la coscienza altrui, lo Stato, la società, eccetera. E l’analogia tra queste diverse forme di interpretazione è destinata a rafforzarsi man mano che l’Apparato diventa, come tale, “Intelligenza artificiale” suprema, ossia produce se stesso come forma suprema dell’“Intelligenza artificiale”.
Appunto in questa direzione è rintracciabile il congiungimento tra l’“Io trascendentale” e l’Apparato, inteso come intelligenza autoproducentesi e incrementante all’infinito la propria capacità di pensare.
E. Severino, Il destino della tecnica, cit., cap. XIV, «Scuola, tradizione e tecnica», capoversi 47–48.
È forse il passaggio più impressionante dell'intero libro alla luce degli sviluppi contemporanei. Severino riconosceva già nel 1998 l'incertezza epistemologica dei confini tra intelligenza naturale e artificiale e contemplava la possibilità di un apparato capace di produrre e incrementare la propria intelligenza. Oggi, i sistemi artificiali vengono progressivamente impiegati anche nella progettazione di algoritmi, nella produzione di dati sintetici e nell'automazione di attività di ricerca e sviluppo. L'idea severiniana di un'intelligenza che partecipa alla propria produzione trova qui un interessante termine di confronto, pur senza implicare che le tecnologie attuali abbiano raggiunto un'autonomia illimitata. Resta però una questione più radicale, che riguarda il rapporto tra la crescente efficacia dei sistemi artificiali e la verità delle conoscenze che producono.
Col tramonto dell’epistéme l’etica non ha più alcun fondamento assoluto; e d’altra parte nemmeno il sapere scientifico è in grado di fondare la propria potenza. Innanzitutto, perché la scienza, ormai, sa di non possedere alcuna conoscenza incontrovertibile della realtà. Sa soltanto, ormai, che applicando certe strutture concettuali riesce di fatto a trasformare la realtà e a dominarla. Ma perché tali strutture siano in grado di trasformarla rimane un problema, e la loro potenza rimane, appunto, un fatto non garantito da alcun fondamento assoluto. Accade che, usando le strutture concettuali fisico-matematiche, e non quelle, poniamo, della magia e della religione, si ottengano risultati mai prima raggiunti. Ma che alla concettualità scientifica sia garantita tale potenza, questo la scienza non lo può dire, perché altrimenti ritornerebbe alla pretesa epistemica di mostrare definitivamente e in modo assoluto la verità. La scienza è potente proprio perché ha voltato le spalle a quella “verità assoluta” che impedisce alla scienza di estendere indefinitamente la sua potenza sulle cose.
E. Severino, Il destino della tecnica, cit., cap. XVII, «Epistéme, scienza, destino», capoverso 25.
La distinzione tra efficacia operativa e verità assume un significato particolarmente rilevante nell'intelligenza artificiale. Le prestazioni di un modello, per quanto elevate, rimangono dipendenti dalle condizioni del suo addestramento, dalle rappresentazioni apprese e dai contesti nei quali viene impiegato. La potenza generativa e inferenziale degli LLM rende evidente quanto sia necessario distinguere la capacità di produrre risposte dalla giustificazione epistemica del loro contenuto. Questa tensione si colloca all'interno di una questione filosofica ancora più ampia, che Severino sviluppa nelle pagine conclusive dell'opera attraverso la figura del «paradiso della tecnica».
La potenza della specializzazione scientifica è resa possibile dall’isolamento ontologico, e il nostro tempo procede ormai verso il “paradiso della tecnica”. Tramonta il Dio della tradizione occidentale e albeggia il Dio della tecnica, scompare il paradiso cristiano e si profila il paradiso dell’Apparato scientifico-tecnologico. C’è posto, in quest’ultimo paradiso, per ciò che è stato costruito dall’uomo in vista del paradiso ultraterreno – per esempio la bontà, la bellezza, la sapienza, la trascendenza religiosa. C’è posto per tutti i “valori” della tradizione occidentale, meno che per la verità dell’epistéme. Al centro del paradiso della tecnica rimane la volontà di incrementare all’infinito la capacità di realizzare scopi; e tale volontà è pura volontà di trascendenza, soddisfa cioè le istanze più profonde di trascendenza che sono espresse dalla coscienza religiosa, artistica, filosofica. L’incremento infinito della potenza riguarda le potenze del “corpo” e quelle dello “spirito”, ed è la capacità di produrre prospettive e esperienze sempre nuove e più ampie. Il bisogno di portarsi al di là di ogni esperienza è soddisfatto dalla potenza di realizzare nuovi scopi. Il “bisogno di Dio” è innanzitutto il bisogno di essere una potenza che cresce indefinitamente su se stessa e che conduce sempre al di là di ogni scopo realizzato.
E. Severino, Il destino della tecnica, cit., cap. XVIII, «Parmenide e la tecnica», capoverso 35.
La promessa di un accrescimento indefinito delle possibilità umane, oggi riproposta anche nelle prospettive più ambiziose sull'intelligenza artificiale generale e sulla superintelligenza, sembra richiamare questa figura severiniana. Il «paradiso della tecnica» rappresenta tuttavia un orizzonte intrinsecamente problematico, poiché l'espansione della potenza scientifica non può offrire, secondo Severino, quella verità incontrovertibile che la civiltà occidentale ha progressivamente abbandonato. La riflessione si conclude così con un ammonimento che conferisce all'intera opera una profondità ulteriore.
La felicità che esso produce è senza verità, e pertanto è insicura, e dunque angosciosa già in relazione all’assenza della verità dell’epistéme. Quanto più in alto il paradiso della tecnica si porta, quanto maggiore è la felicità e la pienezza materiale e spirituale che esso produce, tanto più è angosciosa la conoscenza, da esso posseduta, della possibilità che esso frani e precipiti. Un paradiso “illusorio”, almeno quanto quello cristiano.
E. Severino, Il destino della tecnica, cit., cap. XVIII, «Parmenide e la tecnica», capoverso 37, estratto iniziale.
A quasi trent'anni dalla pubblicazione, Il destino della tecnica offre dunque una prospettiva filosofica di straordinaria attualità per comprendere la rivoluzione dell'intelligenza artificiale. La progressiva integrazione di linguaggio, conoscenza e capacità generativa nell'apparato tecnologico sembra rendere sempre più riconoscibile la traiettoria descritta da Severino. La tecnica giunge oggi a intervenire sulle condizioni cognitive attraverso le quali gli esseri umani producono conoscenza e sviluppano ulteriore tecnologia. L'eventualità che l'intelligenza artificiale contribuisca crescentemente alla produzione e al perfezionamento di se stessa conferisce a questa trasformazione una profondità storica ancora difficile da valutare. Resta allora aperta la domanda filosofica fondamentale, se l'indefinito accrescimento della capacità di conoscere e trasformare il mondo possa davvero coincidere con una più profonda comprensione del suo significato.
