L’anima razionale, il discrimine tra l’uomo e l’IA

Il complesso tema dell’intelligenza artificiale (IA) è stato al centro della diretta di ieri dei Venerdì della Bussola, dal titolo (Poca) Intelligenza (Molto) Artificiale. Alla conduzione Stefano Magni, che ha intervistato il bioeticista Tommaso Scandroglio, nota firma del nostro quotidiano. Un’intervista che aiuta a chiarire risvolti positivi e negativi dell’IA, oltre a tratteggiare possibili scenari futuri.

Molto dirette e concrete le domande poste a Scandroglio, a partire dalla prima, ossia: è reale il rischio che l’IA soppianti l’uomo? Secondo il filosofo morale, «attualmente il rischio più grande è che l’IA ci sostituisca nel pensare» per un eccesso di affidamento alle sue funzioni. E a questo proposito richiama un recente articolo pubblicato da due ricercatori di Cambridge (Yaqub Chaudhary e Jonnie Penn), i quali avvertono che l’IA verrà usata, secondo uno sviluppo già in atto, per prevedere le nostre intenzioni e suggerirci di compiere alcune azioni, sulla base dell’enorme quantità di informazioni raccolte sulle nostre abitudini. Se alcune ricadute di un simile processo possono sembrare innocue, altre sono molto pericolose. Scandroglio fa notare che l’IA, istruita secondo modelli di stampo liberal, potrebbe suggerire ad esempio il divorzio o l’aborto. E del resto c’è già chi ha suggerito di usarla per decidere la sorte di pazienti che si trovino in stati simil-comatosi, orientando quindi potenzialmente la decisione anche nel verso tremendo dell’eutanasia. In sintesi, «il passo dal suggerimento alla manipolazione è brevissimo».

C’è poi la prospettiva alienante del cyborg, cioè dell’uomo robotizzato (vedi l’esperimento di Avital Meshi), dove si prospetta, come osserva ancora Scandroglio, non solo «una sostituzione nel fare», ma anche «una sostituzione nell’essere». Lo scenario, in sostanza, è che «noi non useremo più la tecnologia, ma saremo usati e questo sta già accadendo (pensiamo alle dipendenze): anzi, diventeremo parte di essa». Il bioeticista schematizza un simile salto in tre fasi, cioè l’uso dell’IA potrà passare «dall’informazione al suggerimento», anche qui secondo un processo già in atto, fino ad arrivare «alla modellazione della coscienza individuale e di quella collettiva. Cioè, il virtuale inizialmente ci ha informato, poi ci ha aiutato e nel prossimo futuro può essere anche che ci sostituirà, perché non penseremo più con la nostra testa – e questo già accade, per altri fenomeni – ma penseremo con la testa dell’IA», ritenendo che sia più intelligente di noi.

Ma la verità, come sottolineato a ragione dalla nota Antiqua et nova (scritta dal Dicastero per la dottrina della fede e dal Dicastero per la cultura e l’educazione), è che l’IA non è intelligente. E questo, spiega Scandroglio, «è il punto scriminante per capire la differenza ontologica che esiste tra l’IA e la persona umana». In parole povere, l’IA «è una cosa non intelligente che fa cose intelligenti» perché programmata a tale scopo da esseri intelligenti: noi uomini. E questo evidentemente dovrebbe portarci a riflettere su una verità oggi tanto ignorata, ossia che la persona umana è unione di corpo (materiale) e anima (immateriale).

Se neghiamo l’esistenza dell’anima, osserva il filosofo morale, «non comprendiamo la differenza tra l’IA e noi». Noi abbiamo infatti «una forma di conoscenza che non può essere ridotta al corpo, ma che va ben oltre il corpo» e che, dunque, ci dice che in noi esiste una realtà metafisica, un’anima razionale: è grazie ad essa che abbiamo delle facoltà metasensibili, che vanno oltre i sensi. «L’occhio non sa di vedere, il tatto non sa di toccare, il palato non sa di gustare. Eppure noi sappiamo che stiamo vedendo, toccando, gustando. Vuol dire che in noi ci sono delle capacità che eccedono le capacità sensitive» e che rientrano in quella realtà spirituale che è l’anima. Altro aspetto rivelatore: noi abbiamo la capacità di compiere atti liberi, prerogativa che un’entità solo materiale, invece, non ha. Proprio perché è composta di sola materia, l’IA «non può porre in essere le azioni elevate che sono proprie dell’anima cioè l’astrazione, la coscienza di sé, la formulazione di giudizi liberi, la capacità di compiere scelte libere, la capacità estetica e tantissime altre. Queste azioni l’IA non potrà mai farle, neanche con uno sviluppo tecnologico straordinario», appunto perché ovviamente non ha né può avere un’anima.

Ma quali sono i fini positivi verso cui può essere diretta l’IA? Intanto, nel solco di Antiqua et nova, Scandroglio ricorda che il criterio per distinguere i fini positivi da quelli negativi è il rispetto della dignità umana. La nota della Santa Sede riporta, quali possibili fini positivi, innovazioni nell’agricoltura, nell’industria, nei servizi, nella medicina, nell’istruzione, nelle comunicazioni. Eccetera.

Riguardo ai fini negativi, la stessa nota sottolinea il rischio di diffondere una mentalità efficientista, applicando all’uomo il metro di giudizio usato per le macchine. Per la serie: se non produci, non servi. Mentalità aberrante già molto presente ad esempio, come ricorda il bioeticista, nella promozione dell’eutanasia.

Altro rischio è quello che papa Francesco chiama «paradigma tecnocratico», cioè l’idea che con la tecnologia si possano risolvere tutti i problemi del mondo e avere la felicità. Un’eresia che ritorna, osserva Scandroglio, ricordando che già il positivismo nutriva un’illusione simile. Un altro rischio significativo è dato dalla presenza di un «oligopolio tecnocratico»: poche aziende, cioè, controllano le maggiori applicazioni di IA. E questo è un problema perché «l’IA non è neutra nei contenuti», in quanto, aggiunge il collaboratore della Bussola, le risposte che ci vengono date dall’IA si basano su contenuti «voluti dagli sviluppatori o dalle aziende», cioè in qualche modo selezionati, “pescati” da Internet: in soldoni, questo potrebbe comportare usi diretti al controllo sociale e all’indottrinamento delle masse. Ed è chiaro che su temi eticamente sensibili, oggi prevalga un giudizio liberal-progressista.

Dietro domanda di Magni che chiedeva come potrà cambiare la responsabilità giuridica rispetto a certe applicazioni dell’IA (dai droni alle macchine a guida automatica), Scandroglio ha risposto che «a fronte di infiniti e imprevedibili errori dell’IA, gli sviluppatori, le aziende trasferiranno all’utente finale il dovere di controllo», mantenendo una responsabilità limitata, come già in parte accade.

Infine, la paura più comune: il fatto che l’IA possa portare a una disoccupazione senza via d’uscita, dai lavori in fabbrica a quelli più creativi. Parlando di produzione artistica, Scandroglio spiega che essa «appartiene alla nostra componente spirituale e quindi l’IA semmai mimerà queste funzioni, ma in buona sostanza non riuscirà mai a scrivere la Quinta di Beethoven». In altri campi, invece, l’IA porterà alla cancellazione di posti di lavoro, ma ne creerà anche, come già accaduto con le precedenti rivoluzioni industriali. Tra i possibili aspetti negativi, il demansionamento e il fatto che «il lavoratore si potrebbe trovare in ritardo rispetto alla rapida evoluzione tecnologica impressa dall’IA». Se in linea teorica, essa dovrebbe portare maggiore produttività e ricchezza, poi bisognerà vedere come questa ricchezza – legata alle possibilità di lavoro – sarà distribuita.

È una trasformazione che si può fermare? No, risponde Scandroglio, ma bisogna governarla e orientarla in modo che sia al servizio dell’uomo.