Gli algoritmi domineranno il mondo?

La nostra è probabilmente una delle ultime generazioni di Homo sapiens: entro un paio di secoli, il mondo sarà dominato da esseri che differiscono da noi più di quanto noi differiamo dai Neanderthal o dalle scimmie. Questa sorprendente affermazione si deve a Yuval Noah Harari (1976), storico israeliano e professore alla Hebrew University a Gerusalemme. Autore di tre bestseller - Sapiens. Da animali a dèi; Homo Deus. Breve storia del futuro e 21 Lezioni per il XXI secolo, che hanno venduto oltre 20 milioni di copie -, Harari è considerato il guru del cosiddetto transumanesimo ed è spesso ospite delle grandi aziende tecnologiche della Silicon Valley, quali Google e Facebook. Nel 2018 e nel 2020 è stato anche ospite del World Economic Forum di Davos.

 A suo dire, i segni di questa rivoluzione sono tra noi e l’autorità sta già passando dagli uomini agli algoritmi che, presto, domineranno il mondo. Per millenni, l’umanità ha creduto nell’origine divina dell’autorità, ma negli ultimi due o tre secoli, con l’affermarsi dell’umanesimo, la fonte dell’autorità - dalle nuvole ove era confinata - è discesa agli uomini. Gli ultimi secoli, infatti, hanno visto l’apogeo dell’autorità umana, che si è manifestata sotto forma di diverse ideologie, quali l’umanesimo liberale e l’umanesimo socialista, dove l’uomo è divenuto la fonte suprema dell’autorità nei campi politico, economico, artistico ed etico.

In politica ciò è evidente nelle democrazie liberali, dove gli elettori costituiscono l’autorità suprema: di fronte a un problema da risolvere, non ci si rivolge infatti a un panel di premi Nobel, ma al corpo elettorale che deciderà il da farsi, non in base al pensiero razionale, ma ai propri sentimenti. In economia vale lo stesso principio, e tutti conoscono l’espressione “il cliente ha sempre ragione”: in un’economia di tipo umanistico liberale, i consumatori rappresentano quindi la più alta autorità. Anche nel campo artistico vale lo stesso principio: “la bellezza sta negli occhi di chi guarda”, non esisterebbe quindi un metro oggettivo per stabilire che cosa siano l’arte o la bellezza. “Arte”, allora, è tutto ciò che noi decidiamo lo sia: esempio emblematico è Fontana - in realtà un comune orinatoio - del pittore dadaista francese Henri-Robert-Marcel Duchamp (1887-1968). Lo stesso principio si applica in campo etico: non dobbiamo preoccuparci di che cosa dicano il Papa, la Bibbia o altre autorità religiose, l’unica cosa che conta sono i nostri sentimenti e le preferenze individuali.

La minaccia a questa visione umanistica viene ora dai laboratori di ricerca, perché sempre più scienziati ci stanno dicendo che essa è basata su una concezione obsoleta dell’Homo sapiens. Ritenendo che i sentimenti umani fossero la suprema fonte dell’autorità, l’umanesimo si basava sulla fede nel libero arbitrio, ossia sulla capacità degli umani di scegliere liberamente. Oggi, invece, gli scienziati ci dicono che il libero arbitrio non esiste perché la scienza conosce solo processi deterministici e processi casuali o le loro combinazioni: la libertà, quindi, non ha alcun significato dal punto di vista fisico o biologico; essa non è che un mito, proprio come Dio, l’Inferno e il Paradiso.

Le implicazioni di tali affermazioni, che negano l’esistenza del libero arbitrio e riducono la libertà a mito, sono ovviamente gravissime e foriere di pesanti conseguenze sociali e politiche. Viene inferto un colpo mortale alle radici giudaico-cristiane della civiltà occidentale e alla dignità stessa dell’uomo. Non sorprende, peraltro, che i tecnocrati della Silicon Valley e le élite politiche ed economiche collegate a think tank come il World Economic Forum promuovano idee e progetti funzionali ai propri obiettivi di ingegneria sociale.

Secondo Harari, i sentimenti degli esseri umani - ma ciò vale anche per gli altri animali - sono reali perché si tratta di algoritmi che si sono perfezionati in milioni di anni di selezione naturale: quindi è stato saggio affidarsi a loro, finora. Oggi, però, non c’è più alcun motivo di considerarli la massima autorità: in essi, infatti, non c’è nulla di metafisico o di soprannaturale, sono semplicemente algoritmi biochimici che servono a calcolare le probabilità di successo nei processi decisionali.

Disponendo di una sufficiente potenza di calcolo e di dati a sufficienza - i cosiddetti big data - sarà infatti possibile creare algoritmi in grado di comprendere gli esseri umani assai meglio di quanto possano fare essi stessi. La logica conseguenza, a quel punto, è che gli algoritmi diventeranno la fonte suprema dell’autorità e il concetto stesso di libertà sarà completamente svuotato. Ironicamente, quell’autorità che secoli fa discese “dalle nuvole” risale ora nel cloud: questa visione è ormai dominante, com’è dimostrato dai rapporti sempre più stretti tra aziende infotech e aziende biotech.

Fino all’inizio del XXI secolo, l’idea secondo cui i sentimenti e gli stessi organismi sono algoritmi non aveva avuto un grande impatto a livello pratico sia perché non era possibile raccogliere dati sufficienti sia perché non si disponeva comunque della potenza di calcolo necessaria per analizzarli. Oggi, però, grazie a una sempre migliore comprensione del corpo, del cervello e dei processi decisionali umani e, allo stesso tempo, grazie allo sviluppo dell’informatica, abbiamo imparato a progettare algoritmi sempre migliori. Oggi queste due onde di marea si stanno fondendo e il muro che separa le biotecnologie dall’informatica sta crollando. Grazie ai dati, alla conoscenza della biologia e alla potenza di calcolo, aziende come Facebook, Amazon o Google ci conosceranno meglio di quanto noi conosciamo noi stessi.

Harari chiama dataismo questa nuova ideologia che vede nei dati la fonte suprema dell’autorità. In buona sostanza, le persone non dovranno più affidarsi alla propria ragione o ai propri sentimenti, ma piuttosto all’intelligenza artificiale. Basandosi sulle nostre ricerche, già ora Amazon è in grado di suggerirci i titoli di libri che potrebbero interessarci. Immaginiamo però un lettore Kindle, dotato di sensori biometrici, e quindi in grado rilevare le pulsazioni cardiache, il livello di adrenalina, le variazioni della pressione e l’attività cerebrale: in base a tali informazioni, Amazon potrebbe comprendere le emozioni che proviamo nella lettura di ogni singola frase. Mentre noi leggeremo i libri, i libri leggeranno noi. Ovviamente, analoghi sensori potrebbero essere utilizzati in qualsiasi contesto: sono evidenti le possibilità di controllo invasivo che tali sistemi potrebbero fornire a un regime totalitario.

Harari prevede che in un prossimo futuro ci rivolgeremo sempre più all’intelligenza artificiale per risolvere ogni tipo di problema personale, come per esempio decidere se sposarci o meno, e con chi. Il sistema, avendoci seguiti per tutta la vita, conoscerà tutte le e-mail che abbiamo scritto, avrà ascoltato tutte le nostre telefonate, conoscerà la mappa del nostro DNA e il contenuto delle nostre cartelle cliniche, saprà quali libri abbiamo letto, quali film abbiamo visto e quali emozioni hanno suscitato in noi. Naturalmente, avrà le stesse informazioni anche sul nostro partner e su tutte le persone che ci circondano.

Grazie alla conoscenza completa di noi stessi, il cloud potrà rispondere a ogni nostra domanda o fornirci i migliori consigli possibili. Peraltro, non è nemmeno necessario che il sistema sia infallibile: è infatti sufficiente che sbagli meno di noi.

È evidente come tutto ciò possa prefigurare un sistema distopico, caratterizzato da tecnologie di sorveglianza basate su sistemi biometrici e sulla censura dei social media, che diffonderanno solo informazioni provenienti da fonti autoritative. Secondo Harari, gli sviluppi che si verificheranno nel XXI secolo potrebbero rendere obsoleta l’idea stessa secondo cui «ogni umano sia un individuo prezioso in un modo unico e irripetibile, e che le sue libere scelte rappresentino l’origine ultima dell’autorità» (Cfr. Yuval Noah Harari, Homo Deus: Breve storia del futuro, Edizione italiana Bompiani, Milano 2021, pag. 373).

Se tale distopia dovesse malauguratamente realizzarsi, almeno pro tempore, la democrazia, il libero mercato e le altre istituzioni liberali difficilmente potrebbero sopravvivere.