Fatti
(Bruxelles) Dall’analisi delle immagini raccolte dai droni alla sorveglianza, dall’intelligence all’individuazione di possibili obiettivi, fino ai sistemi di comando e controllo, l’intelligenza artificiale è ormai entrata in maniera capillare nelle attività militari. Ma cosa accade quando un algoritmo orienta una scelta che può portare all’uso della forza? La questione non riguarda soltanto le capacità della tecnologia, ma la qualità del controllo umano su decisioni potenzialmente irreversibili. È questo il nodo al centro di uno studio commissionato dal Parlamento europeo e dedicato al “controllo umano e ai sistemi militari abilitati dall’Intelligenza artificiale”. Il documento, elaborato da un’esperta, la ricercatrice Netta Goussac per la sottocommissione per i Diritti umani, chiede all’Unione europea di non limitare il dibattito alle cosiddette armi autonome, tenuto conto che i sistemi di intelligenza artificiale possono “influenzare l’intera catena che conduce all’impiego della forza”, dalla raccolta dei dati alla selezione dei bersagli, dalla valutazione dei rischi fino alle decisioni operative. Tema, questo, divenuto di stretta attualità nelle ultime settimane, alimentato da un ampio dibattito su scala europea.
L’uomo “nel circuito” non basta più. Il rapporto insiste su un punto: la presenza formale di un essere umano non garantisce, da sola, un controllo effettivamente altrettanto umano. Un operatore può trovarsi a validare un’indicazione prodotta da un sistema complesso senza disporre delle informazioni o dell’autorità necessarie per verificarla, secondo la tesi di Goussac. E in questo caso,
l’intervento umano rischia di trasformarsi in una ratifica automatica priva di una reale valutazione.
Affinché il controllo sia veramente “significativo”, il report esorta a mettere in atto comportamenti basati su prevedibilità, affidabilità e tracciabilità, così da sapere chi ha deciso, sulla base di quali informazioni e con quali conseguenze. Perché, in altre parole, non basta premere un pulsante: il giudizio umano richiede conoscenza, tempo, libertà di valutazione. E soprattutto, la reale possibilità di dire “no”.
Quando la velocità diventa un rischio. La principale promessa dell’Ia in campo militare è la rapidità: algoritmi capaci di analizzare enormi quantità di dati possono comprimere in pochi secondi processi che prima richiedevano ore, se non giorni. Eppure, proprio questa accelerazione rischia di entrare in conflitto con il dovere di valutare con prudenza la necessità e la proporzionalità di un’azione, la distinzione tra obiettivi militari e civili, e tutte le conseguenze prevedibili per le persone.
Lo studio mette in guardia dalla tendenza degli esseri umani ad affidarsi eccessivamente alle indicazioni della macchina,
soprattutto in condizioni di stress, pressione temporale e apparente affidabilità del sistema, un fenomeno noto come “automation bias”. Nell’analisi di Goussac, un algoritmo che assegna una probabilità, costruisce una graduatoria o segnala una persona come possibile minaccia può trasmettere un’impressione di oggettività che non corrisponde necessariamente alla complessità della realtà.
Diritti, dignità e responsabilità. Fuori dai contesti armati, i software di intelligenza artificiale possono essere impiegati nelle operazioni antiterrorismo, nel controllo delle frontiere, nella sorveglianza marittima, nella gestione delle migrazioni, nell’ordine pubblico. In questi ambiti il diritto internazionale impone regole particolarmente rigorose per la tutela della persona, ma è proprio l’uso di modelli predittivi, sistemi di profilazione o strumenti di raccomandazione dei bersagli che può rendere complicato accertare se tali diritti siano effettivamente rispettati. C’è poi una questione di dignità.
Delegare a un processo algoritmico decisioni che incidono sulla vita e sull’integrità delle persone rischia di ridurre le singole individualità a dati,
immagini, comportamenti osservati o punteggi di rischio, aprendo la strada a quella che lo studio presenta come una possibile “disumanizzazione digitale”. Quanto al tema della responsabilità, quando un danno deriva da un sistema basato sull’Ia, la catena coinvolge programmatori, fornitori di dati, imprese tecnologiche, produttori, responsabili degli acquisti, comandanti e operatori. All’orizzonte, almeno due rischi: che nessuno risponda davvero, oppure che la responsabilità venga scaricata sull’ultimo anello, cioè sull’operatore umano, anche quando non ha avuto un effettivo controllo sul risultato.
Una sfida per l’Europa. Lo studio propone che il Parlamento europeo aggiorni la propria posizione sull’Ia, con un passaggio particolarmente significativo che riguarda il regolamento sull’intelligenza artificiale noto come Ai Act. Il testo, ad oggi, esclude dal proprio ambito di applicazione i sistemi utilizzati esclusivamente per finalità militari, di difesa o di sicurezza nazionale, motivo per cui il rapporto suggerisce di elevare gli standard in esso contenuti – trasparenza, gestione del rischio e supervisione umana – a parametro di riferimento anche per i sistemi finora esclusi. Lo sviluppo dei sistemi “intelligenti” ha da tempo accantonato la scelta tra tecnologia e umanità, portando a interrogarsi su quanto l’innovazione debba restare al servizio della responsabilità, del diritto e della dignità di ogni persona. E laddove un algoritmo entri nella catena dell’uso della forza, quale livello di concretezza, verificabilità e giudizio debba rimanere in capo all’essere umano.
