“L’umanità si trova in un momento decisivo della propria storia”. Apre così la Dichiarazione di Roma per una pace disarmata e disarmante nell’era dell’intelligenza artificiale, delle armi nucleari e autonome, dei nuovi protocolli digitali e dei modelli emergenti di sviluppo digitale, firmata oggi in Campidoglio al termine della Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War. Frutto di tre giorni di lavori tra Castel Gandolfo e Roma, il documento – sottoscritto da trenta Premi Nobel, capi di Stato e di governo emeriti e leader religiosi, e ispirato alla Magnifica humanitas di Papa Leone XIV – fissa sei principi per una governance condivisa dell’intelligenza artificiale e del rischio nucleare.
Il controllo umano non si delega alle macchine
“Disarmare la prossima corsa agli armamenti”, tanto nucleare quanto digitale. È questo l’obiettivo dichiarato nelle prime righe del testo, che fissa sei principi: disarmo, sviluppo responsabile, uso responsabile, governance, leadership, disarmo nucleare. Il documento chiede che nessuna organizzazione avvii, e nessun governo autorizzi, processi di auto-miglioramento ricorsivo completamente automatizzati nei sistemi di intelligenza artificiale privi di strumenti per monitorarli e, se necessario, interromperli. Un punto viene ribadito senza margini: la decisione finale di impiegare un’arma nucleare non deve mai essere affidata a un sistema automatizzato. Il card. Baldassare Reina, vicario generale di Sua Santità per la diocesi di Roma, intervenendo alla presentazione in Campidoglio, lo ha tradotto in termini operativi: la Dichiarazione impegna i firmatari a impedire che l’intelligenza artificiale possa “autorizzare o attivare autonomamente l’uso di armi nucleari”. Per il cardinale,
la pace non può essere fondata sull’equilibrio della paura, e la convergenza tra intelligenza artificiale e sistemi nucleari rappresenta una delle sfide più gravi del nostro tempo.
Il testo chiede inoltre trasparenza agli sviluppatori dei modelli più avanzati e un trattato che vieti l’integrazione irresponsabile dell’IA nei sistemi di comando e controllo nucleare. Agli Stati con arsenali nucleari viene chiesto di sottoporsi a verifiche di sicurezza – le “fail-safe review” – e di adottare il “two-person rule”, che affida sempre ad almeno due persone la decisione sull’uso della forza nucleare.
Tre giorni tra Castel Gandolfo e Roma
Tutto è cominciato il 14 luglio a Borgo Laudato si’, nei Giardini pontifici di Castel Gandolfo, dove trenta Premi Nobel, una trentina di ex capi di Stato e di governo, venti esperti di intelligenza artificiale – tra cui rappresentanti di OpenAI, Google DeepMind, AARU e Anthropic – e trenta tra università e centri di ricerca tra i più autorevoli al mondo hanno discusso di governance tecnologica e disarmo. In apertura dei lavori, il card. Fabio Baggio, pro-prefetto del Dicastero per il servizio dello sviluppo umano integrale, ha ricordato che la pace non è soltanto assenza di guerra. Il card. Silvano Maria Tomasi, nunzio apostolico, ha osservato che
l’intelligenza artificiale sta ridefinendo il concetto stesso di sicurezza, quando “il linguaggio della deterrenza è tornato a dominare le relazioni internazionali”.
Tra i firmatari figurano anche esperti di disarmo come Rose Gottemoeller, ex vicesegretaria Nato, e Siegfried Hecker, ex direttore del Los Alamos National Laboratory. L’Assemblea, promossa dalla Nobel Laureate Assembly for the Prevention of Nuclear War insieme a Pugwash, IPPNW e altre organizzazioni, con la Fondazione Domus Communis come segreteria generale, si è chiusa con i saluti del sindaco di Roma, Roberto Gualtieri, e l’intervento di Sharon Stone, nominata Nuntius Magnifica Humanitas in richiamo all’omonima enciclica di Leone XIV. “Ci rivolgiamo, come esseri umani, ad altri esseri umani: ricordate la vostra umanità e dimenticate il resto”: le parole di Bertrand Russell e Albert Einstein, richiamate nelle righe conclusive del testo, restano l’appello ultimo affidato ai firmatari della Dichiarazione di Roma.
Link copiato negli appunti