Idee
“Il controllo umano sull’uso della forza è appeso a un filo, e sono gli esseri umani, non le macchine, a dover mantenere il controllo sulle decisioni di vita e di morte”. E’ l’appello che la Rete Italiana Pace e Disarmo a fianco della campagna Stop Killer Robots ha lanciato all’ultima sessione del Gruppo di esperti governativi (GGE) sui sistemi d’arma autonomi letali (LAWS), riunito presso la sede Onu di Ginevra, nell’ambito della Convenzione su Certe Armi Convenzionali (CCW). È l’ultimo appuntamento tecnico prima della Conferenza di Riesame della CCW (16-20 novembre 2026), quando gli Stati saranno chiamati a una decisione politica cruciale: avviare o meno veri e propri negoziati per un trattato che regoli e vieti i cosiddetti “killer robot”. “Eravamo presenti a Ginevra – spiega al Sir Francesco Vignarca, coordinatore delle campagne della Rete italiana pace e disarmo – proprio per evitare che oltre un decennio di lavoro comune venisse diluito all’ultimo minuto. Il messaggio è stato netto”.
Partiamo dalle basi: cosa sono i “killer robot” e quanto sono già una realtà?
I “killer robot”, o più correttamente sistemi d’arma letali autonomi (Laws), sono tecnologie militari capaci di selezionare e attaccare obiettivi senza un controllo umano significativo. Non è più fantascienza: come abbiamo sottolineato come Rete Italiana Pace e Disarmo alla vigilia della sessione di Ginevra, armi autonome e sistemi abilitati dall’intelligenza artificiale sono già testati e impiegati sui campi di battaglia. Il punto cruciale è proprio questo: si tratta di macchine che, una volta attivate, possono decidere da sole chi colpire. Che non sia un’ipotesi teorica lo dimostra un episodio drammatico avvenuto pochi giorni prima dell’incontro all’ONU: il New York Times ha riferito della morte di tre civili in Ucraina causata da un drone autonomo russo. Il drone era stato programmato da operatori umani per dirigersi verso una determinata area, ma una volta arrivato in prossimità ha scelto da solo il bersaglio (verosimilmente delle bombole di propano) sulla base del proprio addestramento a riconoscere e colpire quel tipo di obiettivo. Il risultato è stato la morte di tre persone.
Episodi come questo sono destinati a ripetersi, in assenza di regole.
Quanto è reale questo pericolo?
Il pericolo è insieme etico, giuridico e umanitario. Sul piano umanitario, delegare a un algoritmo la decisione su un obiettivo significa moltiplicare il rischio di errori, di violazioni del diritto internazionale umanitario e di vittime civili, come già stiamo vedendo. Ma la questione più profonda è di principio: si sta erodendo il controllo umano sull’uso della forza. Le macchine non possono e non devono mai decidere chi vive e chi muore è la linea rossa etica, umanitaria e giuridica che non possiamo superare.
C’è consapevolezza nella comunità internazionale?
La preoccupazione ha ormai un’eco che va ben oltre la società civile e unisce istituzioni, mondo scientifico e comunità religiose. Lo scorso luglio, a Castel Gandolfo, l’Assemblea Globale dei Premi Nobel su Intelligenza Artificiale e Guerra Nucleare (ispirata all’enciclica Magnifica humanitas di Papa Leone XIV) ha riunito oltre 200 tra premi Nobel, scienziati, ex capi di Stato e leader religiosi.
È una prospettiva che a Ginevra ha trovato spazio significativo anche nell’intervento della Santa Sede, che ha ricordato come le questioni sollevate da queste armi siano molto più ampie della sola conformità al diritto umanitario. Come ha affermato Papa Leone XIV, il giudizio morale non può essere ridotto a un calcolo, perché coinvolge la coscienza, la responsabilità personale e il riconoscimento dell’altro come persona: nessun algoritmo può rendere la guerra moralmente accettabile, e l’IA non elimina l’intrinseca disumanità del conflitto. Anzi: la moltiplica, perché a questi aspetti già di per sé preoccupanti si lega anche l’allarme, condiviso dalla nostra Rete, per il legame sempre più pericoloso tra IA in ambito militare e armi nucleari.
Come è andata la sessione di Ginevra? Si riuscirà ad andare verso un bando?
Il bilancio è agrodolce. La sessione conclusiva del Gruppo di esperti governativi (GGE), tenutasi dal 31 agosto al 4 settembre, era l’ultimo appuntamento tecnico prima della Conferenza di Riesame della CCW del 16-20 novembre. Il segnale politico positivo è stato forte: già il primo giorno oltre 70 Stati hanno dichiarato di essere pronti ad avviare i negoziati su un trattato, sulla base del pacchetto di elementi elaborato in questi anni, disposti a risolvere le questioni aperte durante il negoziato stesso. Un salto enorme, se pensiamo che si è passati dai 42 Stati della dichiarazione congiunta guidata dal Brasile del settembre 2025 agli oltre 70 di oggi. La nota amara è che il Gruppo è comunque riuscito ad adottare un rapporto finale, ma il documento non riflette pienamente il lavoro svolto in tre anni. Nelle discussioni informali dell’ultima notte, a porte chiuse e senza la presenza della società civile, sono stati cancellati elementi importanti: i paragrafi sulle considerazioni etiche, i riferimenti a concetti come affidabilità, prevedibilità e tracciabilità, oltre alle revisioni legali dei sistemi dopo eventuali modifiche. Sul fronte di divieti e restrizioni il Gruppo non è andato molto oltre il richiamo ai principi generali del diritto umanitario. Stati fortemente militarizzati come Cina, Russia e Stati Uniti hanno sfruttato la regola del consenso per far prevalere le proprie posizioni. Va detto con chiarezza che il testo ufficiale definitivo non è ancora stato diffuso; quindi, ci basiamo sulle versioni circolate e sulle valutazioni delle organizzazioni presenti.
La lezione è netta: un ennesimo mandato per “continuare a discutere” non basterà più. Dopo oltre dieci anni, solo l’avvio di veri negoziati su uno strumento giuridicamente vincolante permetterà di superare le divergenze.
E all’Italia cosa chiedete?
All’Italia chiediamo coerenza, a Ginevra e in Parlamento. Registriamo con favore che il nostro Paese abbia dato il proprio assenso alla dichiarazione congiunta cross-regionale (promossa tra gli altri da Brasile, Irlanda e Norvegia) a sostegno dell’avvio dei negoziati. Ora serve continuità su quattro punti concreti: rafforzare il testo in discussione anziché indebolirlo e sostenerlo come base di una norma di messa al bando; avviare senza rinvii il negoziato per un Trattato, con un mandato chiaro e a tempo definito; prevedere anche a livello nazionale il divieto dei sistemi d’arma autonomi antipersona, garantendo un controllo umano significativo sull’uso della forza; e confermare una posizione italiana favorevole ai negoziati, con un Parlamento che assuma un ruolo attivo e trasversale. Su quest’ultimo punto stiamo lavorando, dopo la conferenza ospitata a inizio 2026 in Senato, alla costruzione di un intergruppo parlamentare. L’Italia ha l’occasione di stare dalla parte giusta della storia: le macchine non decidano su vita e morte.
