Intelligenza artificiale e democrazia. Shwartz Altshuler (Israel Democracy Institute): “L’efficienza minaccia la dignità umana”

"Il rischio non è la dipendenza, ma lo spostamento: una normalizzazione di un mondo in cui gli esseri umani sono incontrati sempre meno direttamente". Alla vigilia di Magnifica Humanitas, la prima enciclica di Leone XIV sulla custodia della persona umana nel tempo dell'intelligenza artificiale, Tehilla Shwartz Altshuler indica la "linea rossa" oltre cui la partecipazione diventa non revocabile e ammonisce sui rischi per la democrazia

Riccardo Benotti

Sir

A due giorni dalla pubblicazione di “Magnifica Humanitas” – la prima enciclica di Leone XIV, dedicata alla “custodia della persona umana nel tempo dell’intelligenza artificiale” e in uscita lunedì 25 maggio – il tema della dignità umana di fronte all’automazione si impone come questione centrale del dibattito pubblico, dentro e fuori la Chiesa. Su questo stesso terreno si muove la riflessione di Tehilla Shwartz Altshuler, Senior Fellow dell’Israel Democracy Institute, dove dirige il programma “Democracy in the Information Age” e studia il rapporto tra intelligenza artificiale, governance democratica e dignità della persona. Il suo lavoro si concentra su sorveglianza, potere digitale, regolazione dei dati e nuove forme di delega alle macchine. Una prospettiva che dialoga, da un orizzonte non confessionale, con le preoccupazioni al centro del magistero di Leone XIV.

Quando l’efficienza diventa una minaccia per la dignità umana?
Non nel momento in cui le macchine prendono decisioni, ma quando l’essere umano scompare dal processo. Questa erosione raramente avviene all’improvviso: il giudizio umano viene sostituito da sistemi automatici di valutazione, la presenza viene rimpiazzata dalla rappresentazione, i lavoratori sono trattati come schemi di comportamento anziché come persone.

Un esempio concreto dalle sue ricerche?
Nel programma “persone che gestiscono persone attraverso le macchine” abbiamo studiato il “consiglio di amministrazione intelligente”: contesti in cui i sistemi di IA non si limitano a sostenere le decisioni, ma strutturano l’interazione, generano ordini del giorno, suggeriscono risposte, orientano il flusso della discussione.

A quel punto l’efficienza non è più uno strumento. Diventa l’ambiente entro il quale l’essere umano viene ridefinito.

Che cosa può offrire una visione teologica al dibattito sull’IA?
Una chiara articolazione dei limiti, qualcosa che spesso manca nei dibattiti tecnologici. Nel mio lavoro sui gemelli digitali umani – sistemi costruiti per modellare una persona e agire al suo posto in processi continuativi – ricorro al concetto di Imago Dei per interpretare ciò che è in gioco. L’idea che l’essere umano sia creato a immagine di Dio indica qualcosa di irriducibile, che non può essere catturato dai dati, previsto dai modelli o sostituito da proxy.

Una prospettiva astratta?
Tutt’altro. Diventa estremamente concreta nei contesti istituzionali.

Le tradizioni teologiche e antropologiche ricordano che la dignità non riguarda soltanto l’equità dei risultati, ma la preservazione dell’essere umano come presenza, come corpo, come soggetto non sostituibile nella vita sociale e istituzionale.

Qual è il rischio più sottovalutato?
Nel mio lavoro più recente sul safeguarding nell’era dell’IA propongo di andare oltre i “rischi” intesi in senso tecnico. La domanda da porsi è: quali condizioni devono essere preservate perché gli esseri umani restino integri? Non solo sicurezza fisica, ma anche integrità cognitiva, emotiva, finanziaria e sociale. La vera preoccupazione non è soltanto se i sistemi funzionino, ma come rimodellino le capacità umane.

Quale, dunque, il pericolo principale?
La dislocazione della presenza umana. Mentre le funzioni cognitive vengono delegate alle macchine, i gemelli digitali iniziano a sostituirsi agli individui e gli ambienti fisici e digitali confluiscono in una realtà “phygital”, il rischio è la progressiva normalizzazione di un mondo in cui le persone sono incontrate sempre meno direttamente e sempre più attraverso rappresentazioni guidate dai dati.

Dove passa la linea rossa?
Viene oltrepassata quando la partecipazione umana diventa non revocabile.

Gli individui devono conservare la possibilità di sottrarsi alla rappresentazione, di sospendere o limitare i modi in cui i sistemi agiscono in loro nome.

Senza questo diritto, la partecipazione rischia di diventare continua e involontaria, erodendo nel tempo autonomia e dignità.

Chi è responsabile?
La responsabilità non può essere attribuita a un unico attore: è un ecosistema. Un gemello digitale è plasmato dall’organizzazione che lo impiega, dai fornitori tecnologici che lo progettano, dall’individuo i cui dati lo rendono possibile. Va distribuita in proporzione al controllo esercitato e ai benefici tratti.

Cosa potrebbe accadere alla democrazia?
Spesso diamo per scontato che la democrazia resterà fondamentalmente la stessa, anche mentre intelligenze non umane sempre più capaci entrano nelle nostre vite. Non sono certa che questa supposizione regga.

Possiamo immaginare sistemi che agiscano come proxy politici personali, capaci di apprendere le preferenze degli elettori e prendere decisioni in loro nome: potrebbero ridurre alcune debolezze della democrazia rappresentativa, ma portano con sé rischi profondi.

Quali garanzie sono necessarie?
Se le decisioni sono mediate da sistemi che agiscono in nostro nome, chi resta responsabile? Le garanzie democratiche non possono limitarsi alla trasparenza: devono includere confini chiari alla delega, solidi meccanismi di responsabilità e la preservazione della responsabilità umana sui valori e sulle decisioni ultime.

Link copiato negli appunti

Idee

Intelligenza artificiale e democrazia. Shwartz Altshuler (Israel Democracy Institute): “L’efficienza minaccia la dignità umana”

A quel punto l’efficienza non è più uno strumento. Diventa l’ambiente entro il quale l’essere umano viene ridefinito.

Le tradizioni teologiche e antropologiche ricordano che la dignità non riguarda soltanto l’equità dei risultati, ma la preservazione dell’essere umano come presenza, come corpo, come soggetto non sostituibile nella vita sociale e istituzionale.

Gli individui devono conservare la possibilità di sottrarsi alla rappresentazione, di sospendere o limitare i modi in cui i sistemi agiscono in loro nome.

Possiamo immaginare sistemi che agiscano come proxy politici personali, capaci di apprendere le preferenze degli elettori e prendere decisioni in loro nome: potrebbero ridurre alcune debolezze della democrazia rappresentativa, ma portano con sé rischi profondi.

Ultimi articoli della categoria

Fine vita. Garantire la cura, sempre

Mai privarsi del futuro, in nome del presente. Parla Gilberto Muraro

23 maggio, Giornata della legalità. La legalità è consapevolezza