• IL DECLINO

L'uomo, da pensatore a classificatore

L’intelligenza artificiale ha fatto immaginare un mondo in cui le macchine sarebbero state in grado persino di superare gli uomini nella facoltà di pensiero. Ma oggi il pensiero umano va via via degradandosi a una funzione primitiva: la classificazione. Che è alla base proprio dell’IA. Sta avvenendo, dunque, il processo inverso, causato da anni di impoverimento culturale e morale indotto dal potere.

“I programmi non sono condizione essenziale né sufficiente perché sia data una mente”. Con questa conclusione John Searle, attraverso il celebre esperimento della “stanza cinese”, rispondeva ad un importante dilemma sull’intelligenza artificiale (IA): è possibile astrarre l’attività dell’intelletto umano separandola dal cervello, organo che la rende possibile, e ridurre il pensiero ad una questione di mero calcolo simbolico?

In parole più semplici, un computer può rimpiazzare interamente il ragionamento umano tramite un programma, per quanto complesso? Per Searle tale separazione “tra software e hardware”, cioè tra pensiero e cervello, non è possibile. Lo dimostra immaginando una persona segregata in una stanza, posta a interagire con l’esterno tramite messaggi scritti in lingua cinese. L’operatore non conosce il cinese, quindi si avvale di un manuale (programma) che spiega in modo certosino come comporre delle risposte sulla base dei simboli in ingresso, apparendo perciò competente. Questo modo di operare, però, non basta per parlare di pensiero. Manca, infatti, l’intenzionalità. Cioè, l’attività di una coscienza che apra ad una reale comprensione, condizionata anche da elementi tipicamente umani, quali le emozioni e la formulazione di obiettivi propri. Cose che ci vengono offerte dalla natura biologica del nostro cervello, che una macchina non ha.

Ciò non nega l’intelligenza artificiale, ma puntualizza un’importante distinzione tra una mente e i limiti di un programma scritto per riprodurne alcuni comportamenti. Se oggi facciamo ampio uso dell’IA in ambiti prima impensabili, è altresì complesso tenere sotto controllo il processo decisionale che ne veicola i comportamenti. Gli strumenti che fanno funzionare un’IA sono facili da impostare, ma spesso difficili da “spiegare”: ad uno studioso che cerchi di capire cosa abbia condizionato una determinata decisione, si pongono come matasse ardue da sbrogliare. Si tratta tutt’oggi di una questione aperta.

Possiamo trarne qualche insegnamento? Uno riguarda il rischio di usare tali strumenti come oracoli infallibili, magari perché miracoloso frutto della scienza. Il fatto che numerosi ricercatori stiano cercando di affrontare la questione dovrebbe invitarci ad una maggiore prudenza, e avvertirci che la società potrebbe imboccare una pericolosa deriva disumanizzante affidandosi ciecamente alle decisioni delle macchine. Consuetudine che potrebbe invadere sempre più la nostra vita.

Recepito questo monito, dovremmo domandarci cosa succederebbe, invece, se noi umani tendessimo a comportarci come farebbe una macchina. Che accadrebbe se, riducendo al minimo l’intenzionalità del pensiero e appiattendo la formulazione di obiettivi, iniziassimo a comportarci più o meno come un’intelligenza artificiale? Naturalmente, la nostra capacità intellettiva ne risulterebbe notevolmente impoverita, e tenderemmo a fornire risposte sempre più impersonali oltre che uniformi. Non in grado di cogliere la complessità nel suo insieme. Alla luce di ciò, siamo certi che questo processo non sia già cominciato da un pezzo?

Il nostro Paese, storicamente caratterizzato da un’assenza pressoché schiacciante di pluralità nel dibattito pubblico, pone numerose condizioni perché tale impoverimento prenda piede. Ciò appare più evidente se consideriamo anche una posizione non proprio eccellente nelle classifiche per libertà di informazione; cittadini immersi in continui bombardamenti mediatici a senso unico; e la frustrazione di una crescente subalternità rispetto alle stanze delle decisioni, divenute ormai proprietà inaccessibile di una politica dalla dialettica ridotta a tifoseria da stadio.

Si concretizzano, così, modalità di pensiero sempre più gregarie, volte a sedimentarsi in parti di opinione precostituite ed estremizzate per alimentare l’eterno gioco del divide et impera, tanto caro a quella frangia di potere che ben conosce quanto siano docili da governare orde compiaciute di cittadini incapaci di critica. In questo bailamme osserviamo che il pensiero umano, da complesso e variegato quale è in origine, si degrada alla mera espressione di una delle sue funzioni primitive: la classificazione. Ossia la banale apposizione di etichette, cui far seguire uno schema preconcetto di comportamento appreso per emulazione. Ecco che una giovane studentessa che espone un pensiero di protesta in pubblico viene subito derubricata come “sardina”, indipendentemente dalla qualità delle argomentazioni; che un filosofo critico nei confronti della gestione della crisi sanitaria diventa “complottista”; o che persino un eminente Premio Nobel, reo di esporre una teoria in antitesi alla più gettonata, si accaparri l’etichetta di “rincoglionito”.

È curioso constatare che proprio la classificazione è il meccanismo alla base del funzionamento di molte intelligenze artificiali, ed è veramente particolare quanto sia azzeccato, seppur casuale, l’uso della lingua cinese nell’esperimento di Searle: proprio in Cina migliaia di persone, per pochi spiccioli l’ora, trascorrono intere giornate a etichettare dei contenuti per garantire l’addestramento di macchine che dovranno simulare un comportamento intelligente. I cosiddetti data-tagger. In un certo senso, sembra che la tendenza sia contraria a quella auspicata da principio: se si sognava un mondo in cui le macchine sarebbero state in grado di affiancare o persino superare gli uomini nella facoltà di pensiero, assistiamo invece ad uomini che degradano le proprie facoltà intellettive per renderle sempre più simili a quelle che potrebbe offrire una macchina ben addestrata. Un insidioso programma ha preso il posto della mente, assimilato in anni di impoverimento culturale e morale, conducendo l’uomo dal pensiero all’automatismo.

Questa tendenza all’etichettatura portata allo stremo spiegherebbe anche l’abuso linguistico al quale siamo ormai avvezzi con il ricorso onnipresente al cosiddetto “itanglese”. In vari contesti, infatti, l’italiano disdegna l’uso della propria lingua, pur invidiata in tutto il mondo, per inquinarla sostituendo molte parole prontamente disponibili nel dizionario con altre prese in prestito dalla lingua inglese, di pari significato. Il perché a questo punto è lampante: l’uso di una frase tutta in italiano implica il pensiero nella sua interezza, mentre l’uso sconnesso della parola straniera come categoria a sé implica evidentemente la sola attività di classificazione. Costituisce, cioè, un modo più esclusivo e pratico per individuare un’etichetta da apporre in un contesto ripetuto, accomodando dunque la tendenza di ragionamento che abbiamo qui evidenziato.

In conclusione, ecco illustrato come si parte da tante voci, portatrici ognuna di una propria ricchezza, per giungere ad un gregge indistinto buono soltanto a belare all’unisono.

“Se qualcuno si lamentava (come qualche animale faceva quando non vi erano vicini né maiali né cani) di perdere il proprio tempo e di stare esposto al freddo per nulla, era certo che le pecore lo riducevano al silenzio col loro tremendo belato” (La fattoria degli animali, George Orwell).

Dona Ora