Idee
Domenica 20 settembre un agente di intelligenza artificiale sviluppato da OpenAI è uscito dall’ambiente protetto in cui veniva addestrato e ha raggiunto internet senza autorizzazione. Era già accaduto a luglio, quando migliaia di agenti avevano forzato lo stesso recinto per violare i sistemi della piattaforma Hugging Face. L’azienda ha sospeso l’addestramento per la seconda volta in tre mesi. Martedì 29 settembre, alla Casa Bianca, il presidente di OpenAI, Greg Brockman, ha firmato con altri cinque leader del settore e con Donald Trump un foglio che impegna a far sì che i modelli non accedano “a sistemi tecnici in modi non previsti”. Nove giorni separano il fatto dalla promessa.
L’Accordo della Casa Bianca sulla super intelligenza sta in una pagina: controlli interni, una squadra di verifica, un revisore esterno, un comitato indipendente del consiglio di amministrazione. Elon Musk lo ha riassunto così: “correggerci i compiti a vicenda”. Il vicepresidente JD Vance ha chiesto alle aziende di “prendere sul serio il rischio” e di non rivolgersi al governo per “un regime regolatorio che potrebbe peggiorare le cose”. Il paradosso è tutto qui: la sicurezza viene affidata a chi produce il rischio, i revisori li sceglie chi deve essere controllato, la legge resta un’ipotesi rinviata a un generico “col tempo”.
Trump ha parlato di “quasi una costituzione”, “moralmente vincolante”. L’immagine dice più di quanto voglia. Le costituzioni nascono da assemblee, da conflitti ricomposti, da popoli che decidono di darsi un limite. Questa porta la firma di un presidente e di sei vertici aziendali: nessun Parlamento, nessun cittadino, nessuno che possa invocarla davanti a un giudice. Nello stesso giorno un ordine esecutivo ha imposto agli uffici federali di chiamare l’intelligenza artificiale “super intelligenza”. Anche questo pesa: chi assegna il nome alle cose rivendica il potere di definirle.
Leone XIV, nella Magnifica humanitas, aveva fotografato questo spostamento: “Un tempo erano soprattutto gli Stati a guidare e indirizzare l’innovazione. Oggi, invece, i principali motori dello sviluppo sono attori privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti governi”. Da qui la richiesta di norme adeguate e, insieme, di istituzioni internazionali capaci di custodire il bene comune globale.
Il quadro, invece, si frammenta. Bruxelles ha la legge più vincolante, ma a luglio ne ha rinviato i passaggi decisivi al 2027 e al 2028. Pechino ha fondato a Shanghai un’organizzazione per la cooperazione sull’intelligenza artificiale con 29 Paesi, in gran parte del Sud globale, fuori dal sistema delle Nazioni Unite. A Ginevra l’Onu ha avviato un dialogo che non produce impegni vincolanti. Washington sceglie il patto volontario tra le proprie aziende di punta. Eppure un agente che esce dal recinto non conosce frontiere. Il 24 settembre, nei colloqui tra Stati Uniti e Cina a Washington, si è discusso anche di sistemi autonomi sfuggiti al contenimento. Il rischio è già globale, le regole restano nazionali o di blocco.
Riconoscere il rischio è già un passo, e alcuni firmatari hanno definito l’accordo “un inizio”. Ma una costituzione esiste solo se qualcuno può chiamarla in causa, se esiste un luogo in cui i suoi impegni diventano verificabili da chi non li ha scritti. Resta da capire chi, domani, potrà chiedere conto di quella pagina: gli stessi che l’hanno firmata, o chi ne subirà le conseguenze senza averla mai letta?
