In un certo senso, il CEO di Anthropic Dario Amodei sta ottenendo ciò che voleva.
Amodei ha sostenuto per lungo tempo che l’IA stia diventando pericolosamente potente — e quindi che siano urgenti restrizioni normative sulla tecnologia. In un saggio pubblicato la settimana scorsa, Amodei ha scritto che il rilascio di modelli di IA all’avanguardia “dovrebbe essere bloccato o invertito come minaccia per la sicurezza pubblica” se non soddisfano standard di sicurezza rigorosi.
Purtroppo, chiedere all’attuale governo degli Stati Uniti di assumere nuovi poteri regolamentari ampi è un po’ come augurarsi qualcosa a una zampa di scimmia (o, per i più giovani tra voi, a un “One Wish Willow”): pochi giorni dopo che il manifesto di Amodei è stato pubblicato, l’ultimo modello di IA di Anthropic è stato messo offline, su ordine dello Zio Sam.
Quel modello — noto come “Mythos” nella sua forma non vincolata e “Fable” in quella fortemente vincolata e accessibile al pubblico — rappresenta un importante risultato tecnico. Su standard di prestazioni IA convenzionali, ha superato ampiamente tutti i suoi predecessori. E durante la sua breve permanenza pubblica, innumerevoli utenti si sono meravigliati delle sue capacità. Nei miei test sui suoi talenti giornalistici, Fable si è dimostrato il 30 percento più efficace rispetto ai modelli passati nel suscitare sensazioni di obsolescenza e terrore esistenziale.
Anthropic inizialmente ha condiviso Mythos esclusivamente con organizzazioni pubbliche e private verificate, affinché potessero rafforzare le loro difese informatiche contro le sue capacità. Prima di rilasciare il suo nuovo modello al grande pubblico, Anthropic lo ha dotato di rigide salvaguardie di sicurezza: Fable rifiuterà di rispondere a quasi qualsiasi domanda riguardante la cybersicurezza o la biologia (per impedire il suo utilizzo per hacking e bioterrorismo).
La Casa Bianca ha ritenuto che ciò fosse insufficiente. Venerdì, dopo aver appreso che Fable conteneva una potenziale vulnerabilità di sicurezza, l’amministrazione ha imposto controlli all’esportazione sul modello — rendendo illegale per Anthropic fornire Fable a qualsiasi cittadino straniero, inclusi i propri dipendenti immigrati. Nella pratica, ciò ha significato che Anthropic doveva mettere offline Fable completamente (i modelli di IA non possono ancora scrutare i cervelli degli utenti né confermare la loro nazionalità).
In altre parole: il nostro governo ha rivendicato il potere di bloccare o far rimuovere modelli di IA che minacciano la sicurezza pubblica.
Ma Amodei non è contento. E neppure altri sostenitori della sicurezza dell’IA probabilmente dovrebbero esserlo.
È vero che l’approccio iniziale, laissez-faire, della Casa Bianca verso la governance dell’IA è ora in rovina. Dalle macerie, però, emerge il peggior tipo di regime regolamentare: uno governato dai capricci dell’esecutivo (piuttosto che da norme chiare e vincolanti), dai presunti fraintendimenti tecnici degli ufficiali non esperti (piuttosto che dalla conoscenza degli esperti del settore) e dai pregiudizi politici di un presidente corrotto (piuttosto che le indicazioni imparziali della legge o dall’analisi costi-benefici).
Gli Stati Uniti hanno bisogno di un sistema regolamentare che mitighi i rischi dell’IA, facilitando al contempo i suoi benefici — non di uno che permetta al presidente di ostacolare le aziende meno gradite per motivi discutibili. E la Casa Bianca sembra voler costruire proprio quest’ultimo.
Il caso per vietare Fable
A prima vista, le azioni dell’amministrazione potrebbero sembrare ragionevoli. Dopotutto, anche Anthropic stesso era turbato dai doni di Mythos al crimine informatico. E anche con salva-salvaguardie, Fable è estremamente potente. A prima vista, non è campato in aria che il modello possa porre sfide di sicurezza uniche.
Inoltre, uno degli stessi investitori di Anthropic avvertì la Casa Bianca che Fable era vulnerabile a un potenziale “jailbreak” — cioè un metodo per aggirare i controlli di sicurezza del modello.
Lo scorso giovedì, Amazon — che detiene una partecipazione di 13 miliardi di dollari in Anthropic — ha condiviso con i funzionari dell’amministrazione ricerche che documentano tale jailbreak. La Casa Bianca ha risposto contattando Anthropic e chiedendole di risolvere il problema. La società di IA ha insistito sul fatto che il suo modello fosse sicuro e che l’amministrazione stesse fraintendendo la ricerca di Amazon.
L’amministrazione, quindi, è giunta alla conclusione che Anthropic non fosse in grado o non volesse risolvere il problema. Ha quindi deciso che imporre controlli all’esportazione sul modello fosse l’unico modo per assicurarsi che non compromettesse la cybersecurity degli Stati Uniti.
Le vulnerabilità di sicurezza di Fable potrebbero essere grosso modo le stesse di ChatGPT
Eppure questa versione degli eventi è incompleta. E, se si esamina con maggiore attenzione, il comportamento dell’amministrazione appare meno difendibile.
In particolare, sembrano esserci (almeno) tre problemi con la sua retata su Fable.
Innanzitutto, sembra radicata in un fraintendimento tecnico. Nessun modello di IA esistente è al 100 percento a prova di jailbreak. E le capacità specifiche identificate da Amazon non sono uniche a Fable, secondo alcuni esperti. Katie Moussouris, responsabile del gruppo di cybersicurezza Luta Security, ha esaminato una copia delle scoperte di Amazon e ha detto al Financial Times che non evidenziavano rischi nuovi: secondo Moussouris, Amazon ha dimostrato che, stimolato in un certo modo, Fable individuerebbe vulnerabilità software, apparentemente per aiutare l’utente a rafforzare le difese. Ma molti modelli di frontiera, incluso GPT 5.5 di OpenAI, forniranno lo stesso servizio.
Da parte sua, Anthropic afferma di aver sottoposto Fable a migliaia di ore di test — da parte di organizzazioni indipendenti e del governo degli Stati Uniti — per garantire che non contenga un “jailbreak universale”, cioè “un metodo che possa bypassare in modo molto ampio le salvaguardie del modello, sbloccando una vasta gamma di capacità cibernetiche”. Ma sostiene che il tipo di jailbreak ristretti identificati da Amazon sia impossibile da prevenire completamente.
Se questa ipotesi è corretta, allora il bersaglio di Fable da parte dell’amministrazione sarebbe selettivo e capriccioso.
La repressione di Fable potrebbe essere politicamente motivata
In secondo luogo, c’è forte ragione di credere che le azioni eccessivamente dure dell’amministrazione siano state influenzate dal rifiuto di Anthropic di compiacere i suoi interessi.
All’inizio di quest’anno, Anthropic e il Dipartimento della Difesa del presidente Donald Trump ebbero un conflitto dopo che la società di IA rifiutò di approvare l’uso dei suoi modelli per la sorveglianza di massa e sistemi di armi completamente autonomi. Il Pentagono rispose dichiarando Anthropic un “rischio della catena di fornitura” — una designazione che limiterebbe la capacità dei contraenti governativi di fare affari con essa.
Questa misura era legalmente dubbia e palesemente ingannevole; in sostanza, l’amministrazione stava affermando che l’IA di Anthropic fosse strutturalmente insicura per il lavoro governativo, anche se continuava a usare quella stessa IA per lavori governativi. L’intento esplicito della politica era punire un’azienda che aveva insistito su termini contrattuali che l’amministrazione non gradiva.
Questo precedente da solo offre motivi per dubitare dell’imparzialità della Casa Bianca nell’imporre controlli all’esportazione su Fable. E il fatto che l’amministrazione sia al fianco di due dei principali concorrenti di Anthropic — OpenAI e xAI di Elon Musk — aggiunge ulteriori motivi di scetticismo.
Ma la migliore prova della mala fede dell’amministrazione risiede nelle proprie spiegazioni delle sue azioni. In un’intervista ad Axios, una “fonte a conoscenza del pensiero dell’amministrazione” ha detto che le difficoltà di Anthropic riflettevano in parte la sua incapacità di “comunicare efficacemente” con la Casa Bianca o di “apprezzare le differenze ideological.
Basta dire che, se questa disputa riguarda solo una vulnerabilità di sicurezza, non è chiaro come le “differenze ideologiche” tra l’amministrazione Trump e la leadership liberale di Anthropic possano importare. Eppure Axios aggiunge che Anthropic ha aggravato le proprie difficoltà chiedendo una revisione della ricerca di Amazon a Moussouris di Luta Security, che l’amministrazione considera una “democratica radicale”.
Ancora, se i controlli all’esportazione sono motivati esclusivamente da preoccupazioni di cybersicurezza, allora le tendenze ideologiche di Moussouris sembrerebbero irrilevanti.
In contesto, è difficile non leggere le lamentele dell’amministrazione sul mancato “comunicare” di Anthropic come richieste per far inginocchiare l’azienda davanti a Trump.
Detto questo, la ricerca di Amazon non è attualmente disponibile per una pubblica verifica. Non sappiamo esattamente quali siano le vulnerabilità di Fable, né con precisione cosa stessero pensando i funzionari dell’amministrazione quando hanno effettivamente vietato il modello.
Ciò che è certo, tuttavia, è che il processo dietro al ban di Fable è stato gravemente difettoso. L’amministrazione non ha formulato standard oggettivi e vincolanti per la sicurezza dei modelli di IA — tanto meno non ha ottenuto dal Congresso la ratifica di tali requisiti.
Né ha condotto alcuna analisi costi-benefici approfondita o trasparente prima di rimuovere unilateralmente Fable dal mercato, come di norma le agenzie regolatorie devono fare prima di attuare cambiamenti politici di vasta portata. E i costi potenziali della repressione di Fable non sono trascurabili: per esempio, se le aziende straniere scoprissero che il presidente degli Stati Uniti può (e lo farà) revocare il loro accesso ai modelli IA americani per capriccio, avrebbero incentivo a sostituire Claude e ChatGPT con alternative non americane.
Forse Amazon ha identificato una responsabilità abbastanza grave da superare tali preoccupazioni. Ma l’amministrazione ha fatto poco sforzo per dimostrarlo.
Abbiamo bisogno di una migliore alternativa all’apocalisse robotica
I modelli di IA stanno diventando rapidamente più potenti — e quindi, più pericolosi. È possibile che i progressi dell’IA abbiano implicazioni positive o neutre per la cybersicurezza: modelli avanzati potrebbero finire per rafforzare le difese tanto quanto minacciarle.
Ma non è garantito.
Per mitigare i rischi che i sistemi IA di frontiera comportano, lo Stato potrebbe avere una giustificazione nel istituire processi di licenza che vincolino il rilascio di un nuovo modello al rispetto di standard di sicurezza.
C’è però una differenza tra il Congresso che stabilisce un processo regolamentare imparziale e basato su regole e il ramo esecutivo che vieta i sistemi IA a piacimento. Se i CEO della tecnologia non dovrebbero avere piena discrezione su quali modelli vengano rilasciati, i presidenti non dovrebbero avere autorità illimitata su quali vengano bloccati. L’alternativa all’accelerazionismo AI sconsiderato non dovrebbe essere un cronyismo capriccioso — ma, per ora, sembra essere proprio così.
