Idee
C’erano una volta le leggi della robotica, formulate dal grande scrittore e scienziato Isaac Asimov: la prima e più importante stabiliva che un robot non potesse mai recare danno a un essere umano. Oggi in Ucraina armi sempre più efficaci e autonome solcano i cieli a caccia di esseri umani. E dall’interno dell’industria dell’intelligenza artificiale arrivano allarmi altrettanto radicali: dimettendosi da Anthropic – l’azienda che ha creato Claude, uno dei generatori di linguaggio più potenti e diffusi – il ricercatore Jacob Coxon ha sostenuto che entro la fine del decennio i sistemi di IA potrebbero diventare così potenti da riuscire a sterminare l’intero genere umano.
Ne parliamo con Alberto Pagani, già parlamentare e componente della Commissione Difesa, oggi advisor e docente a contratto presso l’Università di Bologna nell’ambito della strategia, della sicurezza e dell’intelligence.
Cosa cambia davvero nella guerra quando entra in campo l’intelligenza artificiale? È soltanto un’arma come le altre, magari più potente, oppure muta la natura stessa del conflitto?
«La natura del conflitto non cambia, le guerre sono tutte disumane. All’inizio di 2001: Odissea nello spazio Kubrick mette in scena questo concetto: i primi ominidi, ancora simili a scimmie, si scontrano per una risorsa scarsa, una pozza d’acqua. Un australopiteco scopre che un osso può essere un’arma e lo usa per uccidere il rivale. Poi lo lancia in aria, in trionfo: mentre cade, l’immagine dell’osso che ruota si trasforma in una stazione spaziale che orbita intorno alla Terra. Kubrick dice: non siamo evoluti, siamo solo meglio armati».
Lei parla di hyperwar: cosa significa? E come evitare che la velocità delle macchine superi la capacità umana di controllo?
«Hyperwar è l’incubo nel quale l’evoluzione tecnologica ci porta: una guerra a velocità macchina, cioè in millisecondi, dove il controllo diventa illusorio perché le decisioni sono già prese prima che un essere umano possa comprenderle. Io vedo un solo modo per evitarla, ed è politico: un rallentamento forzato attraverso un accordo tra le grandi potenze su vincoli internazionali, tempi di risposta, ridondanza umana – cioè la necessità del doppio comando – e algoritmi interpretabili. L’assurdo è che tutti concordano sul fatto che un’hyperwar incontrollata sia pericolosa, ma nessuno vuole essere il primo a rallentare. Ma se andiamo avanti così forse solo un incidente, un’escalation IA non voluta, ci dimostrerà che il pericolo comune è maggiore del vantaggio competitivo. Leggo sempre quello che scrive padre Paolo Benanti, che usa il termine “algoretica”: bisogna umanizzare le macchine, non “macchinizzare” l’uomo».
Le armi autonome possono selezionare e colpire un bersaglio senza intervento umano. Qual è il limite da non oltrepassare? E chi risponde quando decide un algoritmo?
«Nessun sistema deve poter selezionare e colpire un bersaglio senza approvazione umana preventiva o senza possibilità di veto umano in tempo reale. Il punto decisivo è la scelta di aprire il fuoco, non quella di identificare il bersaglio. Un essere umano deve autorizzare consapevolmente l’azione, non ratificarla dopo. Il problema della responsabilità, invece, è irrisolvibile algoritmicamente. Se un’IA sbaglia il targeting e uccide dei civili, chi è responsabile? Il programmatore, il comandante, il governo? La catena si rompe. Un algoritmo non può assumersi responsabilità. L’unica soluzione credibile è un vincolo legale internazionale: ogni arma che può colpire deve avere dietro una decisione umana consapevole e tracciabile. Tecnicamente questo vincolo è garantibile, ma politicamente non è vincolante se non c’è un trattato. E nessuno lo sottoscriverà finché riterrà di avere un vantaggio nel violarlo».
Quanto l’IA sta rendendo più efficace la guerra “ibrida” e cognitiva, fatta di cyberattacchi e disinformazione?
«L’IA autonomizza la ricerca delle vulnerabilità cyber, accelera gli exploit e rende scalabile l’attacco su migliaia di bersagli contemporaneamente. Da tattica diventa un’arma di massa. Lo stesso vale per la disinformazione: l’IA può profilare i cittadini attraverso dati rubati e comportamenti online, individuare vulnerabilità psicologiche e distribuire messaggi personalizzati che sfruttano pregiudizi e bias cognitivi (distorsione del pensiero che ci porta a interpretare la realtà in modo non oggettivo). È un micromarketing di precisione militare applicato alla mente civile. La disinformazione umana era lenta e quindi la guerra cognitiva era costosa; l’IA l’ha resa economica, veloce e scalabile a interi Paesi. Contemporaneamente ha distrutto la verificabilità: non sai più se ciò che vedi è vero. È il dominio nel quale l’IA è già operativa, a differenza dei droni autonomi che sono ancora in sperimentazione».
Se un Paese europeo subisse insieme un attacco alle infrastrutture, una campagna di disinformazione e un’incursione di migliaia di droni, l’Italia sarebbe preparata?
«L’Italia non è assolutamente preparata ad affrontare uno scenario simile. È ancora vulnerabile nella protezione delle infrastrutture critiche dagli attacchi informatici, malgrado l’applicazione della direttiva europea NIS2 stia portando progressi; non ha capacità autonome sufficienti a proteggere lo spazio aereo e, per quanto riguarda la vulnerabilità cognitiva, non credo di dover spiegare nulla: basta guardare la televisione e i social network. C’è l’influenza russa che imperversa e una quantità impressionante di persone in buona fede che abbocca e la rilancia. I sovietici li chiamavano “utili idioti”».
Cosa significa oggi difendere un Paese: servono più armamenti oppure bisogna investire in cybersicurezza, intelligence e infrastrutture?
«Serve tutto, perché non sono strumenti alternativi ma complementari. La guerra ibrida si combatte nelle “zone grigie” e usa tutto insieme: attacchi cyber e terrorismo, disinformazione e, come vediamo in Ucraina, armi tradizionali. Quando metti le inferriate alle finestre per proteggere la tua casa dai ladri non puoi tralasciare quella del bagno: o le proteggi tutte oppure ti conviene risparmiare i soldi e sperare che non vengano i ladri».
Come si prepara una difesa credibile senza alimentare una spirale nella quale ogni Paese si senta costretto ad armarsi sempre di più?
«La pace si costruisce promuovendo la cooperazione internazionale, con il dialogo e la buona volontà: non tutti gli uomini però sono di buona volontà, perché nel mondo terreno c’è il bene e
c’è anche il male. Ogni giorno dobbiamo ostinatamente lavorare per la pace, ma possiamo
anche aver bisogno delle armi per difenderla dai malvagi».
Che ruolo possono giocare UE e Italia nella definizione di regole internazionali sull’impiego militare dell’intelligenza artificiale?
«Le regole le dettano Stati Uniti e Cina. L’Europa può coordinarsi internamente e imporre che i sistemi IA acquistati rispettino vincoli di controllo umano, creando mercati per IA “governance-friendly”, ma oggi non ha un peso decisionale paragonabile: non ci sono grandi player europei dell’IA e, senza credibilità militare, nessuno l’ascolta. Per questo bisogna mettere in comune la politica estera e la difesa. L’Europa che vogliamo è una grande potenza civile che lavora per promuovere la pace e la sicurezza internazionale. Per farlo deve essere libera, quindi autonoma dal bisogno di essere difesa da altri, e unita».
