Tropical beach

Cosa possono insegnarci le armi nucleari sulla regolamentazione dell’IA

Quando il governatore dell’Illinois JB Pritzker parla della minaccia dell’intelligenza artificiale, propone un paragone sempre più comune: si tratta di un pericolo “a livello di armi nucleari.”

Il paragone non è fuori luogo. Se la comunità internazionale ha trovato modi per contenere una tecnologia potenzialmente catastrofica una volta, forse quegli accordi possono aiutarci a limitarne un’altra.

Il problema è che, sebbene la non proliferazione nucleare possa essere un quadro utile per riflettere sulla regolamentazione dell’IA, non è necessariamente un buon quadro. Non perché le tecnologie siano troppo diverse, ma perché la non proliferazione nucleare non ci ha effettivamente liberati dalla prospettiva di una guerra nucleare.

Tuttavia, il lavoro incompleto della governance nucleare offre una lezione importante per chi ora affronta il rischio dell’IA: imparare a convivere con una tecnologia pericolosa non è la stessa cosa che eliminare la sua minaccia.

Quello che potremmo effettivamente fare, però, è eliminare l’incertezza su chi sta costruendo l’IA, cosa l’IA è capace di fare e quando l’IA espone le persone a rischi. Gli Stati Uniti hanno fatto proprio questo con le armi nucleari declassificando informazioni riguardo la dimensione e le condizioni del proprio arsenale, incoraggiando le altre potenze nucleari a fare lo stesso.

Dare priorità alla trasparenza sull’IA non eliminerebbe i pericoli del tutto, ma potrebbe aiutarci a proseguire in modo più collettivo nel tentativo di gestire i rischi molto reali di questa tecnologia emergente.

Ciò che l’analogia nucleare-IA coglie nel giusto… e nel sbagliato

Confronti tra IA e armi nucleari sono emersi non solo da politici e commentatori, ma anche da chi è in cima alla catena di ricerca dell’IA all’avanguardia. Per alcuni leader dell’IA, le armi nucleari rappresentano anche un modello ideale di supervisione.

In un saggio del 2023, Sam Altman, Greg Brockman e Ilya Sutskever di OpenAI hanno chiesto qualcosa di simile a una [International Atomic Energy Agency] (IAEA) per gli sforzi di superintelligenza. L’autorità internazionale da loro proposta avrebbe lo scopo di “ispezionare i sistemi, richiedere audit, testare la conformità agli standard di sicurezza” e limitare come i sistemi più potenti potrebbero essere impiegati.

L’obiettivo di tali misure è rendere lo sviluppo della superintelligenza sicuro, piuttosto che impedirlo, proprio come i regimi di non proliferazione non arrivano a vietare le armi nucleari in modo assoluto. Altman e i suoi colleghi sostengono che la tecnologia potrebbe offrire benefici enormi, mentre fermarne la creazione sarebbe rischioso e difficile da prevedere.

Non tutti coloro che invocano una governance nucleare tracciano la linea nello stesso punto. A settembre, il ricercatore di IA Yoshua Bengio ha detto al Consiglio di Sicurezza dell’ONU che “l’IA di frontiera dovrebbe essere autorizzata come… medicina, aviazione ed energia nucleare per incentivare uno sviluppo sicuro.” Ha anche chiesto una restrizione universale sullo sviluppo dell’IA, più ampia di quelle imposte sulle armi nucleari: “Nessuno, nessuna azienda e nessuno Stato, dovrebbe sviluppare un sistema di IA che possa causare danni su larga scala.”

Il vero problema di tali schemi potrebbe essere capire come verrebbero applicati — e da chi. Certamente, ci sono oggi meno stati in possesso di armi nucleari rispetto a quanti ce ne sarebbero potuti essere se la non proliferazione non fosse diventata una priorità politica degli Stati Uniti. Tuttavia, questo non è stato il risultato di abilità diplomatiche o di un contenimento di buona fede. Nei casi più importanti è stato il risultato della coercizione degli Stati Uniti e dei suoi alleati.

Come hanno spiegato in Foreign Affairs Christopher David LaRoche e Ankit Panda, due esperti nucleari del Carnegie Endowment for International Peace: “Corea del Sud e Taiwan hanno rinunciato a programmi di armi nascendi dopo una forte pressione degli Stati Uniti… e una minaccia di ritirare l’appoggio militare se non si fossero allineati. I raid aerei israeliani hanno eliminato i programmi iracheno e siriano; la Libia ha ceduto i propri sotto pressione sostenuta degli Stati Uniti e della Gran Bretagna.”

In altre parole, a meno che gli Stati Uniti non cerchino di andare in guerra per impedire ai paesi di tutto il mondo di accedere all’IA di frontiera, la non proliferazione nucleare non è lo stampo ideale per la regolamentazione dell’IA. Inoltre, anche davanti a un robusto regime di non proliferazione, alcuni stati sono riusciti a sfuggire alle maglie — India, Israele, Corea del Nord e Pakistan hanno ciascuno acquisito armi nucleari.

Nonostante ciò, oggi ci sono ancora meno armi nucleari nel mondo rispetto al picco della Guerra Fredda. Ma anche i piani migliori potrebbero non durare per sempre. Gli accordi di controllo degli armamenti che hanno reso possibile un tale disarmo sono tutti crollati — sia a causa di imbrogli, rinunce o trattati scaduti. Inoltre, oltre all’aumento del numero di stati in possesso di armi nucleari, la Cina ne ha triplicato il numero solo in questo decennio.

Questo è il risultato di un regime costruito per gestire una tecnologia, piuttosto che eliminarla. Un analogo regime di non proliferazione per l’IA di frontiera governerebbe chi può costruire i sistemi più potenti, mantenendo irrisolta la domanda se qualcuno dovrebbe avere quella opzione in primo luogo.

Un analogo regime di non proliferazione per l’IA di frontiera governerebbe chi può costruire i sistemi più potenti, mentre lascerebbe irrisolta la domanda se qualcuno dovrebbe avere quella opzione in primo luogo.

La lezione più grande è per gli Stati Uniti

Oggi, la minaccia di una guerra nucleare persiste. Tuttavia, la non proliferazione nucleare ci offre una lezione potente: gli Stati Uniti, in particolare, hanno un ruolo enorme nel plasmare il futuro della regolamentazione dell’IA di frontiera.

“Nel dominio nucleare, in particolare, gli Stati Uniti hanno storicamente avuto una forte funzione di norm-entrepreneurship,” mi ha detto Panda. “Quello che gli Stati Uniti fanno per quanto riguarda le armi nucleari viene notato dagli altri paesi e spesso adottato da altri paesi.”

Questo, storicamente, ha comportato leadership nella trasparenza, ha detto Panda. “Gli Stati Uniti, a loro credito, sono molto più trasparenti di ogni altro Paese nucleare quando si tratta di parlare di cose come comando e controllo e di ciò che facciamo e non facciamo.” Per esempio, gli Stati Uniti declassano regolarmente e pubblicano dati riguardo alla dimensione del proprio stockpile di armi nucleari, agli inventari di materiale fissile e agli impianti di produzione.

In modo analogo, gli Stati Uniti potrebbero guidare il mondo nella trasparenza sull’IA di frontiera che stanno perseguendo, sui limiti che potrebbero imporre a quella tecnologia e sulle salvaguardie in atto per tenerla sotto controllo.

Questo potrebbe prendere forma in diversi modi, a cominciare dall’uso dell’IA da parte del governo degli Stati Uniti:

  • Prima di impiegare un sistema di IA potente e rischioso, il governo potrebbe rendere noto quali rischi ha testato, le condizioni sotto cui il sistema è considerato affidabile, i limiti noti e quali riscontri impedirebbero l’impiego.
  • Gli Stati Uniti potrebbero spiegare a quali decisioni militari l’IA può contribuire e quali richiedono autorizzazione umana. Questo potrebbe, ad esempio, comportare distinguere l’analisi delle intelligence dall’autorità di avviare un attacco. Il governo potrebbe anche identificare applicazioni militari dell’IA che esclude completamente.
  • Gli Stati Uniti potrebbero pubblicare resoconti di fallimenti o comportamenti inaspettati, spiegando se un sistema è stato ritirato, limitato o ritestato dopo un errore.

Queste misure di trasparenza dovrebbero estendersi anche al settore privato, e il governo potrebbe richiedere alle aziende di:

  • Rivelare i test di capacità pericolose: ciò comporterebbe richiedere agli sviluppatori di frontiera di pubblicare sintesi standardizzate dei test su rischi quali supporto a cyberattacchi, contributo allo sviluppo di armi biologiche o operare autonomamente oltre i limiti previsti.
  • Segnalare incidenti gravi e quasi incidenti: gli sviluppatori e gli utilizzatori potrebbero essere tenuti a notificare a un regolatore gravi fallimenti di sicurezza, violazioni o comportamenti pericolosi imprevisti.
  • Pubblicare le condizioni per mettere in pausa lo sviluppo o rinviare la pubblicazione: le aziende potrebbero rendere noto in anticipo quali riscontri attiverebbero salvaguardie aggiuntive, ritarderebbero i lanci di prodotti o fermerebbero ulteriori sviluppi.

Mentre l’IA continua a rimodellare il mondo in cui viviamo, dare priorità alla trasparenza sui traguardi della tecnologia — e sui suoi limiti — è una delle vie per assicurare che la sicurezza resti al centro.

Mentre l’IA continua a rimodellare il mondo in cui viviamo, dare priorità alla trasparenza sui traguardi della tecnologia — e sui suoi limiti — è una delle vie per assicurare che la sicurezza resti al centro. Panda ha suggerito che tali misure potrebbero rassicurare gli avversari sul fatto che gli Stati Uniti non adotteranno modelli di IA di frontiera in modi potenzialmente pericolosi o irresponsabili.

Tommaso Rinaldi

Mi occupo di analisi geopolitica con un’attenzione particolare alle relazioni tra potenze emergenti e scenari europei. Nei miei articoli cerco di offrire una lettura chiara e strutturata di dinamiche complesse, mantenendo un approccio rigoroso. Scrivere per Eurasia significa contribuire a una comprensione più approfondita degli equilibri internazionali contemporanei.