La ricetta tecnocratica di Bill Gates per governare l'IA

Tre anni dopo la lettera aperta firmata da imprenditori e pionieri delle big tech (come Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak and Yuval Noah Harari) per chiedere un rallentamento dello sviluppo dell’intelligenza artificiale, questa settimana a lanciare l’allarme è Bill Gates.

Dopo aver perso credibilità e reputazione a causa dello scandalo Epstein, nelle interviste, come quella rilasciata ad Axios, Gates è costretto a dare di nuovo spiegazioni («Quello che ho fatto, per certi versi, è stato molto limitato ed era motivato dal mio desiderio di raccogliere fondi - ha detto - Ma... è stato un errore enorme»). E viene il sospetto legittimo che la sua nuova lettera sull’intelligenza artificiale serva anche a sviare l’attenzione del grande pubblico. Così come è lecito sospettare che abbia anche fini commerciali: Gates stesso, nel suo saggio, ammette di avere un conflitto di interessi, essendo impegnato in prima persona, da investitore, in progetti di intelligenza artificiale. Nonostante tutto, il saggio di Gates, il suo monito sull’intelligenza artificiale, i suoi benefici e i possibili effetti avversi, merita di essere letto e meditato. Anche se non necessariamente condiviso. Proprio perché viene da un “addetto ai lavori”, da uno dei pionieri della rivoluzione informatica, ci offre una previsione autorevole e credibile sul prossimo futuro.

Innanzitutto, il padre di Microsoft e di Windows, ritiene che questo cambiamento tecnologico sarà diverso dai precedenti. «Molti osservatori – scrive Gates nel suo saggio - affermano che questa transizione tecnologica sarà simile alle precedenti. Citano come esempio il passaggio, negli Stati Uniti, dall'agricoltura al lavoro d'ufficio. Tuttavia, tale transizione si è protratta per diverse generazioni, creando nuove professioni in cui era richiesta la cognizione umana. In questo caso, la tecnologia può sostituire la cognizione umana. Poiché è in grado di vedere, ascoltare, parlare e ragionare, e alla fine svolgerà lavori fisici con la stessa fluidità di un essere umano, l'intelligenza artificiale non influenzerà un solo settore. Si affermerà in ambiti come quello legale, del servizio clienti, della medicina, del software e della produzione. Il suo impatto su questi settori sarà rapido, nell'arco di un decennio anziché di poche generazioni».

Di fronte a questo cambiamento repentino, si possono verificare tre pericoli. Il primo è, ovviamente, la perdita stabile di posti di lavoro. «Credo che questa tendenza continuerà, ma non si limiterà a pochi settori o professioni. I lavori nelle vendite e nell'assistenza clienti (online e telefonica), nell'ingegneria del software e nel lavoro paralegale potrebbero essere tra i primi a essere colpiti, ma la trasformazione si estenderà ben oltre, man mano che l'intelligenza artificiale si occuperà di compiti che oggi richiedono ancora lavoratori qualificati».

Il secondo pericolo è che l’intelligenza artificiale possa provocare troppi danni, anche autonomamente: «Alla fine, il potere di usare l'IA per danneggiare le persone non sarà limitato a individui o istituzioni. Gli stessi sistemi di IA già occasionalmente agiscono in modi non previsti dai loro progettisti. La tecnologia sta migliorando più velocemente di quanto chiunque si aspettasse e in modi sorprendenti, e man mano che i modelli diventano più potenti, potrebbero iniziare ad agire contro i nostri interessi e potremmo perdere il controllo».

Il terzo è che possa sostituirsi alle relazioni umane: «Un compagno basato sull'intelligenza artificiale, progettato per non deluderti mai, è una grande serra protetta. Stiamo solo iniziando a comprendere i pericoli che internet, e in particolare i social media, possono rappresentare per lo sviluppo dei giovani. Stiamo assistendo a un uso compulsivo, disturbi del sonno, cyberbullismo ed esposizione a contenuti dannosi. L'intelligenza artificiale potrebbe amplificare molti di questi rischi, rendendoli più persuasivi e difficili da eludere, e non dovremmo aspettare un'altra generazione per iniziare a prenderli sul serio».

Il futuro non è solo negativo e Gates continua a dimostrarsi un ottimista sulla tecnologia. Ritiene che l’IA possa aiutarci a scoprire nuove soluzioni in ambito medico e scientifico, che possa aiutare il governo così come i privati nella gestione di affari complessi, sostituendosi alle giungle burocratiche e che ci aiuti ad aumentare la produzione agricola, campo che normalmente non è associato allo sviluppo informatico ma che, secondo Gates, potrebbe avere una spinta decisiva proprio dall’IA (un esperto virtuale al servizio degli agricoltori).

Il problema è dunque sempre nella velocità, anche Gates segnala lo stesso pericolo indicato da Musk e Wozniak: se l’IA si sviluppa troppo rapidamente, gli uomini che l’hanno progettata non riusciranno a restare al passo e gli effetti negativi si vedranno su larga scala molto prima di vederne i benefici.

Ma il punto debole della lettera aperta di Gates è nella soluzione, tipica della sua fondazione filantropica: chiede più global governance, più tecnocrazia e anche più tasse (sulle nuove tecnologie), per risolvere quello che è un problema antropologico, oltre che tecnologico. La soluzione suggerita dal padre di Windows è puramente tecnocratica nel momento in cui afferma che “Il mondo ha bisogno di un piano”. E dunque di un “governo dei saggi”: «[La nuova istituzione mondiale, ndr] Sarà diversa da qualsiasi altra istituzione che abbiamo mai creato, sebbene possa seguire il modello di alcuni sistemi esistenti. Esiste un regime di ispezioni per le armi nucleari, regolamenti per l'aviazione internazionale e accordi che proteggono lo strato di ozono. Una nuova organizzazione globale per l'intelligenza artificiale avrà bisogno di elementi di tutti e tre e di altri ancora».

E non sarà una soluzione molto democratica: «Non possiamo permetterci il lusso di procedere con lentezza. Il punto di partenza è un processo volto a costruire le istituzioni giuste prima che la crisi costringa i governi a entrare in modalità di emergenza. I leader nazionali dovrebbero riunire regolarmente economisti, tecnologi, esperti del lavoro, imprenditori e gli stessi lavoratori per individuare i punti deboli delle istituzioni esistenti e le nuove autorità che potrebbero essere necessarie. I Paesi dovranno imparare gli uni dagli altri».

Una musica già sentita? Sì, è esattamente la stessa logica con cui è stato affrontato il riscaldamento globale. Con risultati, nell’ultimo ventennio, a dir poco problematici.