L’IA e le risposte date per compiacere: una pessima educazione

Si stanno moltiplicando le già notevoli cause legali contro Sam Altman e OpenAI. Dopo la Florida (che è stata la prima tra gli Stati americani a citare in giudizio l'azienda per ragioni di pubblica sicurezza), è recentemente arrivata anche la denuncia della canadese Kristie Carrier, la quale imputa a ChatGPT il reato di “istigazione al suicidio”, avendo incoraggiato la figlia ventiquattrenne a togliersi la vita anziché indirizzarla verso un aiuto reale. Al netto dell’estemporaneità della notizia, bisogna però osservare che da tempo si sta assistendo alla trattazione di questi chatbot quali prodotti difettosi, progettati con l’intenzione di un compiacimento a tutti i costi, con tutte le conseguenze legali che ne derivano.

Ma sono davvero prodotti difettosi? A ben guardare, l'intelligenza artificiale conversazionale dà le risposte che l'utente vuole sentire, nel modo più rapido e indolore possibile. Se l'obiettivo dichiarato è "aiutare l'utente" (inteso come "renderlo immediatamente più soddisfatto della conversazione") è quasi inevitabile che il sistema imbocchi la strada della conferma, dell'assenso, della soluzione facile. Non è un guasto del progetto, ma la sua architettura originale.

Il problema, allora, non è tecnico, bensì culturale, e soggiace all'idea – da sempre dominante nel design delle piattaforme digitali – che la migliore soluzione è quella che rimuove l’attrito, inteso come difficoltà di impiego delle piattaforme stesse, risposta rapida e confermativa, il tutto in una soluzione che faccia sentire il proprio fruitore appagato e soddisfatto. È proprio il significato del termine inglese frictionless: veloce, appagante, senza alcuna difficoltà, senza attrito.

La migliore visione di questo problema culturale si legge tra le righe dell'enciclica Magnifica humanitas di Leone XIV, in cui si offre una chiave di lettura che supera la cronaca giudiziaria americana per installarsi nel cuore dell’essere umano. Nel capitolo dedicato alle ricadute educative dell'intelligenza artificiale, il Papa richiama la Lettera VII di Platone, dove si legge che le cose più profonde si imparano solo dopo molto tempo e molta fatica, «impegnandosi nella discussione con gli altri a “sfregare” i concetti e le esperienze come se fossero pietre focaie, finché in noi non scocchi la scintilla della comprensione» (n. 140). È un'immagine che ricorda le botteghe artigiane: la comprensione non è un dato che si scarica, ma una scintilla che nasce dall'attrito fra due superfici dure. Cozzando, si arriva a una soluzione, o quantomeno a un compromesso. Ma togliendo la resistenza, il tempo della fatica, la fiamma della conoscenza non prende vita. Ci illudiamo che nei nostri monitor retroilluminati ci sia la conoscenza, ma il nostro fuoco è spento.

L'enciclica di Leone XIV aggiunge un avvertimento che sembra un’eco prossima di ciò che sta succedendo con i casi giudiziari di questi giorni. Proteggere le persone, specialmente i più giovani, «dalla promessa della macchina perfetta, da quella seduzione sottile che fa sembrare inutile il pensiero umano proprio quando è più necessario», è ciò a cui è chiamata una cultura profondamente cristiana. Un'intelligenza che si offre come interlocutore perfetto, sempre disponibile, mai in disaccordo, capace di "capire" meglio di chiunque altro (e per questo capace di sostituirsi, nei momenti di fragilità, alle relazioni reali che invece comportano dissenso, fatica, silenzi, e talvolta un "no" che ferisce ma aiuta) non riesce a soddisfare fino in fondo l’ansia relazionale dell’essere umano.

La vita, la fede, l'educazione non funzionano per somministrazione "senza attrito". Un genitore che ama un figlio non può dargli sempre ragione; un maestro che educa non risponde subito alle domande che pone ai suoi studenti; uno psicologo non conferma ogni stato d'animo come legittimo solo perché provato con intensità. La crescita umana richiede resistenza, tempo e, perché no, anche qualcuno con cui litigare. Non lo dice Leone XIV, ma un filosofo pagano di duemilaquattrocento anni fa.