I CEO delle aziende nel campo dell’IA, Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) e Dario Amodei (Anthropic), non sono d’accordo su molte questioni, come quanto rapidamente la tecnologia dovrebbe progredire, quale sia il modo migliore per regolamentarla e come preparare la società per un’IA più intelligente degli esseri umani, tra le altre cose.
Questo rende ancor più notevole il fatto che loro — insieme ad altri 85 esperti nei settori tecnologia, biologia e politica di sicurezza nazionale — recentemente hanno firmato una lettera aperta che chiede regole più robuste in materia di sintesi genetica. Tutti sono preoccupati che i sistemi di IA potrebbero essere usati per aiutare a sviluppare e persino impiegare armi biologiche pericolose progettate tramite la sintesi genetica, che si usa per costruire chimicamente sequenze di DNA personalizzate in laboratorio, piuttosto che affidarsi esclusivamente a modelli di DNA naturali esistenti.
Il fatto stesso che più di un CEO di aziende IA fortemente competitive si allinei su qualcosa è notevole. Ma per capire come siano giunti a questo accordo, dobbiamo fare un passo indietro per comprendere cos’è la sintesi genetica, come funziona e perché la possibilità di un uso improprio da parte dell’IA genera tanta paura.
La microbiologia moderna deve molto alla sintesi genetica. I ricercatori possono ordinare geni sintetici da fornitori di DNA commerciali per sviluppare nuovi vaccini, farmaci e terapie geniche per malattie ereditarie come l’emofilia; produrre insulina umana, aumentare la resa agricola e molto altro. La sintesi genetica è una tecnologia di base per terapie CAR-T contro il cancro e per molti strumenti diagnostici. La domanda di DNA sintetico sta crescendo a livello globale, e non è mai stato né più economico né più semplice scrivere codice genetico.
Ma per tutta la sua potenza, anche la sintesi genetica comporta rischi sostanziali. La stessa tecnologia che può rendere possibili terapie geniche salvavita può anche aiutare nella creazione di patogeni mortali assemblando alcuni dei medesimi nucleotidi — i mattoni genetici che costituiscono il codice della vita — in un ordine diverso.
La maggior parte delle aziende statunitensi che offrono servizi di sintesi genetica controllano gli ordini per sequenze genetiche di interesse, come quelle che potrebbero rendere un patogeno più pericoloso o trasmissibile, e verificano che i clienti siano legittimi. Lo fanno volontariamente, consapevoli dei potenziali pericoli.
Ma non tutti i fornitori lo fanno. «Finché lo screening resta volontario, alcune aziende non lo faranno», ha detto Becky Mackelprang, direttrice dei programmi di sicurezza presso l’Engineering Biology Research Consortium, tramite posta elettronica. C’è un rischio reale che attori malintenzionati possano trovare una società di sintesi genetica con standard meno severi, e questo potrebbe significare disastri.
Finora siamo stati fortunati. «Questa tecnologia è stata utilizzata commercialmente per oltre 20 anni e non è mai stata usata in modo improprio per causare danni», ha riferito via e-mail James Diggans, vicepresidente delle politiche e della biosicurezza presso Twist Bioscience, un’azienda di sintesi genetica.
Ma l’IA minaccia di complicare le cose, aprendo nuove frontiere di rischio.
Sia i modelli linguistici di grandi dimensioni (LLM) sia gli strumenti di biodesign basati sull’IA permettono agli scienziati di progettare sequenze genetiche interamente nuove. Questo è un vantaggio per applicazioni industriali e mediche — e una sfida per i sistemi di screening attuali, che usano la somiglianza con sequenze note patogene o tossiche per rilevare i rischi. Un sistema di screening dovrebbe catturare chi cerca di ordinare sequenze di un virus pericoloso noto, ad esempio Ebola, ma potrebbe sfuggire una nuova sequenza che potrebbe comunque essere rischiosa. L’anno scorso uno studio pubblicato su Science ha dimostrato che i nostri sistemi di screening hanno finora tenuto il passo con le capacità dell’IA. «Ma l’industria capisce chiaramente che questo non sarà così per sempre», ha detto Diggans.
Mackelprang è preoccupata che l’IA potrebbe ridurre le barriere di conoscenza che storicamente hanno impedito agli attori malintenzionati di sviluppare bioterrorismo. I sistemi IA di frontiera, ad esempio, sembrano già superare virologi esperti su domande riguardanti l’esecuzione di procedure di laboratorio complesse.
Ma c’è una differenza tra conoscere e fare, e il lavoro di laboratorio biologico è ancora difficile. «I ricercatori trascorrono anni a cercare di far funzionare un protocollo anche dopo aver consultato direttamente altri che hanno perfezionato esattamente quel protocollo. Penso che l’IA possa aiutare qualcuno a «livellare» le proprie capacità di laboratorio, ma non credo che l’IA possa permettere a qualcuno senza alcuna formazione biologica di creare un pericolo serio», ha detto Mackelprang.
Questo significa che le aziende di sintesi genetica restano un punto di strozzatura primario per chiunque cerchi di produrre una nuova sequenza genetica. La principale preoccupazione di Mackelprang è che aspiranti bioterroristi potrebbero usare l’IA per generare sequenze genetiche dannose in grado di sfuggire agli attuali o futuri sistemi di screening. «Nel breve periodo, ritengo che la probabilità di tali usi impropri sia piuttosto bassa. Ma quando le conseguenze possano essere gravi e le tecnologie continuino a svilupparsi rapidamente, abbiamo la responsabilità… di sviluppare opzioni ragionevoli di prevenzione e mitigazione», ha affermato.
Massimizzare i benefici della sintesi genetica minimizzando i rischi è difficile, ma non impossibile. Ecco perché Diggans e Mackelprang — insieme ad Altman, Hassabis e Amodei, nonché ad altri fornitori di sintesi genetica, imprenditori tecnologici, dirigenti nel campo delle scienze della vita e esperti di sicurezza nazionale — hanno firmato la lettera aperta che chiede lo screening obbligatorio della sintesi genetica e la registrazione degli ordini.
Co-organizzata dai think tank Institute for Progress e Foundation for American Innovation, la lettera aperta invita anche i fornitori a registrare gli ordini di sintesi e i dati di sequenza per sostenere le indagini sulla biosicurezza, «così che qualsiasi minaccia in grado di sfuggire al screening iniziale possa essere rintracciata fino alla fonte…La consapevolezza della tracciabilità in sé scoraggia l’uso improprio». Questo mirerebbe ad affrontare idealmente la preoccupazione di Mackelprang che l’IA possa, eventualmente, aiutare gli attori malintenzionati a eludere i protocolli di screening esistenti.
«Lo screening di ogni ordine di sintesi del DNA prima che venga fabbricato è quel tipo di passo poco glamour, di buonsenso, che previene un problema molto più grande in seguito», ha detto DJ Kleinbaum, co-fondatore della biotech Emerald Cloud Lab, una laboratorio automatizzato a cui gli scienziati possono accedere da remoto, e uno dei firmatari.
Ma le firme comuni di Altman, Hassabis e Amodei potrebbero essere la prova più significativa che la lettera importa. Per tutte le loro divergenze, sono consapevoli che i propri strumenti possono essere usati per un danno enorme — persino catastrofico.
AIxBio risk: A thing on which we can all agree
Mentre non è la prima volta che aziende di IA d’avanguardia discutono i rischi biologici abilitati dall’IA, la lettera aperta è la prima occasione in cui si sono messe insieme per farlo con una voce unica. «Il sostegno allo screening non dipende da una visione specifica dell’IA», si legge nella lettera. «Questo è un momento raro di accordo tra soggetti spesso in disaccordo».
La lettera chiede al Congresso di agire ora. «Siamo lieti degli sforzi legislativi attualmente in corso», dice la lettera, alludendo al Biosecurity Modernization and Innovation Act bipartisan, una proposta di legge che assegna al Dipartimento del Commercio un anno per sviluppare nuove regole di screening per la sintesi genetica. La lettera suggerisce inoltre che gli stati USA dovrebbero implementare requisiti di screening basati sulle linee guida federali e industriali per creare uno standard nazionale unitario invece di una serie di leggi incoerenti.
La lettera non riguarda l’applicazione di regolamenti di biosicurezza alle stesse aziende di IA, che probabilmente limiterebbero il numero di segnatari tecnologici. (Pur presentando sforzi concreti da parte delle grandi aziende per impedire che i propri modelli cedano conoscenze biologiche pericolose, anche se non sempre con successo.) Concentrarsi sullo screening è gestibile, ottiene l’approvazione di diversi fornitori di sintesi genetica e fornisce un esempio concreto di come l’IA possa abbassare la barriera per fare sia cose grandiose sia terribili. E naturalmente, è in ultima analisi qualcosa che un essere umano deve fare in questa fase.
Le aziende IA stanno attivamente pensando ai rischi catastrofici che le loro tecnologie potrebbero abilitare. Anthropic sta assumendo un investigatore tecnico per minacce chimiche, biologiche, radiologiche e nucleari per il suo team di intelligence sulle minacce. A maggio, dopo aver lanciato GPT-Rosalind, un modello frontier per accelerare la ricerca sulle scienze della vita e la scoperta di farmaci, OpenAI ha introdotto Rosalind Biodefense, un programma che consente a sviluppatori fidati di usare GPT-Rosalind per creare strumenti di biodefesa. Il 4 giugno, il giorno successivo all’attivazione della lettera, gli specialisti della sicurezza di OpenAI e di Anthropic hanno partecipato come relatori al meeting della Bipartisan Commission for Biodefense sull’IA e le minacce biologiche.
Ma secondo Diggans di Twist Biosciences, il modo migliore per difendersi dall’uso improprio di modelli IA per progettare patogeni dannosi è utilizzare modelli IA come difesa. Questi modelli difensivi possono essere usati per rilevare tentativi di uso improprio prima che accada qualcosa. Le aziende di sintesi del DNA possono impiegare questi modelli per assicurarsi che gli ordini di sequenze altamente ingegnerizzate ricevano la stessa attenzione e valutazione di ordini di sequenze naturali.
«Le aziende [di sintesi genetica] devono accettare di far sorvegliare i propri ordini non solo contro una lista di sequenze, ma da un’IA che tutti ritengono abbastanza intelligente da riconoscere eArticolare smontare un avversario che cerca di costruire un patogeno mortale», ha dichiarato David Haussler, direttore scientifico dell’UC Santa Cruz Genomics Institute e uno dei firmatari della lettera aperta.
Usare l’IA per proteggersi dall’IA
La buona notizia è che questo lavoro è già in corso. L’anno scorso ho riportato che OpenAI ha fornito 30 milioni di dollari in finanziamenti seed a Valthos, startup di biodefense che sviluppa sistemi IA frontier per rilevare minacce biologiche e creare contromisure mediche. La cofondatrice di Valthos, Kathleen McMahon, ha firmato la lettera aperta.
A settembre 2025, la Coalition for Epidemic Preparedness Innovations (CEPI) e l’organizzazione filantropica Sentinel Bio hanno creato la piattaforma Pandemic Preparedness Engine AI (a volte chiamata semplicemente «the Engine»). Stanno adottando un approccio biosecurità-by-design, considerando i rischi di biosicurezza fin dall’inizio. «Questo include un approccio a più livelli alla biosicurezza: dalla protezione dei dati sensibili alla biosicurezza necessari per addestrare l’IA fino a gestire attentamente chi ha accesso all’Engine e monitorare come lo usano», ha detto Sarah Carter, consulente di biosicurezza presso CEPI, via e-mail.
Gli utenti della Pandemic Preparedness Engine interagirebbero con il sistema tramite prompt IA, in modo simile a come gli utenti interagiscono con piattaforme di consumo. I prompt degli utenti potrebbero essere monitorati in tempo reale da un agente IA specializzato, progettato per valutare il rischio di uso improprio o tentativi di «jailbreak» di un LLM per far generare contenuti proibiti, come la «ricetta» per assemblare un virus mortale.
Ciononostante, anche tecnologie convenientemente disponibili sul mercato possono presentare problemi propri. Questa settimana, Anthropic ha lanciato Claude Fable 5, una versione del proprio modello Mythos altamente potente ma limitato che l’azienda ha mirato a rendere sicuro per uso pubblico. Claude ferma automaticamente l’uso di Fable se rileva richieste riguardanti cybersecurity, biologia, chimica o distillazione (tentativi di estrarre le capacità di Claude per allenare modelli IA concorrenti), indirizzando tali richieste verso un modello meno potente. Gli utenti hanno lamentato che cercare di discutere di biologia per scopi legittimi con Fable 5 porta il modello a rifiutarsi di interagire o a utilizzare modelli meno capaci. L’esempio Fable mostra che è possibile esagerare nel correggere, limitando il potenziale positivo dell’uso dell’IA per le scienze della vita.
«I principali fornitori di LLM stanno facendo del proprio meglio per impedire ai modelli di rispondere a domande che potrebbero permettere a qualcuno di fare qualcosa di pericoloso», ha detto Haussler. «[Ma] il prodotto finale di una jailbreak di un LLM capace di insegnarti come costruire un virus mortale è che ora hai un LLM in grado di insegnare a chiunque come costruire un virus molto pericoloso. E non vogliamo che accada».
È qui che i firmatari della lettera sperano di fermare un problema ancora in simmering prima che raggiunga l’ebollizione completa. «Lo screening obbligatorio della sintesi è quel raro caso in cui una minaccia è chiaramente visibile e una prevenzione sostanziale è chiaramente realizzabile prima che si verifichi una crisi», ha affermato Richard Danzig, esperto di sicurezza nazionale che ha servito come 71° Segretario della Marina agli inizi degli anni ’90. «Le opportunità di agire in anticipo sono insolite in questo campo. Penso che dovremmo coglierle.»
