Due scoperte in una settimana: IA e modifica genetica segnano una svolta

Come sappiamo quando il mondo è cambiato?

Il 1 giugno un team di scienziati ha pubblicato un preprint scientifico sostenendo di aver modificato l’ADN di un embrione umano con una precisione superiore a qualsiasi tentativo precedente. Come risultato tecnico, il lavoro è indubbiamente impressionante, evitando in larga parte gli errori che avevano accompagnato i tentativi precedenti di modificare i geni negli embrioni. Con uno sviluppo ulteriore, questa modifica embrionaria potrebbe liberare i bambini futuri da malattie genetiche fatali o debilitanti, ma come ha riferito lo scrittore scientifico veterano Carl Zimmer sul New York Times nella stessa settimana, la vera notizia di prima pagina era che il lavoro “potrebbe aprire la strada a neonati progettati con caratteristiche particolari” — in altre parole, bambini designer.

Lo stesso giorno in cui è stato pubblicato l’articolo del Times, la società di IA Anthropic ha pubblicato un intervento in cui sostiene che l’IA stava già accelerando lo sviluppo dell’IA, che gli autori ritengono possa rappresentare un primo passo verso l’auto-miglioramento ricorsivo (RSI) — sistemi IA che progettano e costruiscono i propri successori, sempre più veloci. Già la maggior parte del codice che fa funzionare Claude di Anthropic è stato scritto da Claude stesso, il che ha aiutato gli ingegneri dell’azienda a rilasciare otto volte più codice di quanto non facessero due anni fa. Sebbene di più non sia automaticamente meglio, e Claude sia ancora molto lontano dall’essere in grado di guidare se stesso, la possibilità di un’IA in grado di auto-migliorarsi è all’orizzonte — e “potrebbe arrivare prima di quanto la maggior parte delle istituzioni sia pronta”, hanno scritto il cofondatore di Anthropic Jack Clark e la responsabile dell’Anthropic Institute Marina Favaro.

Questi due scritti sono stati pubblicati da biologi accademici e dai dipendenti di una società di IA, in due discipline molto diverse, ma indicano comunque un possibile futuro prossimo che è fondamentalmente diverso dal mondo in cui viviamo ora.

Entrambi gli eventi sono potenziali passi chiave verso poteri senza precedenti — non tutti di cui potremmo avere un controllo fermo: intelligenze progettate di recente e nuovi esseri umani progettati. Ciò che condividono i due non è solo conseguenza, ma bivalenza — la possibilità sia del miracoloso sia del catastrofico. La precisione biologica che potrebbe debellare una malattia ereditaria come la malattia di Huntington potrebbe anche aprire la strada a un sistema di caste genetiche. La capacità dell’IA che potrebbe accelerare decenni di progresso scientifico potrebbe anche smembrare completamente i suoi creatori — noi.

Il mondo potrebbe aver varcato una soglia storica con entrambi questi avanzamenti la settimana scorsa. Ma non possiamo ancora sapere di quale tipo si tratti.

Prendiamo prima la strada biologica. Spogliamo i titoli — che provengono dai media, non dagli scienziati stessi — e l’esperimento risulta piuttosto limitato.

Usando cosiddetti editor di basi, che inducono una piccola incisione nel filamento di un gene invece di tagliare un intero segmento, come fa CRISPR, il genetista della Columbia University Dieter Egli e il suo team hanno modificato due geni: PCSK9 e HBG. Forse avrete già sentito parlare del primo; PCSK9 produce una proteina che influisce sulla capacità dell’organismo di eliminare il colesterolo dal sangue, e determinate mutazioni del gene possono far salire pericolosamente i livelli di colesterolo LDL. HBG codifica una forma di emoglobina di cui l’organismo si serve prima della nascita e che di norma si spegne in seguito. Controllare questi geni potrebbe prevenire mutazioni che aumentano il rischio di malattie cardiache (PCSK9) e riattivare quell’emoglobina fetale nell’età adulta, alleggerendo — pur non curando — la talassemia falciforme e la beta-talassemia (HBG).

I ricercatori hanno introdotto i loro editor di basi negli ovuli fecondati e negli embrioni umani di due cellule, e in alcuni casi sono riusciti a realizzare le modifiche senza il danno cromosomico associato ai precedenti tentativi di editing tramite CRISPR.

Il documento — che non è ancora stato sottoposto a revisione paritaria — rappresenta un passo avanti notevole nello sforzo di utilizzare la tecnologia di editing genetico sui geni degli embrioni umani con una precisione maggiore. Ma notevole non significa perfetto, né sicuro — alcuni edit risultano posizionati nel punto sbagliato del genoma, e relativamente pochi embrioni sono progrediti nello sviluppo in modo normale. (Gli embrioni, donati da pazienti di fecondazione in vitro, non sono stati sviluppati oltre i primi stadi molto precoci, e nessuno è stato impiantato.) Egli e i suoi colleghi sono stati chiari nel paper nel dire che qualsiasi idea di usare la tecnica di editing di base così com’è ora per il trattamento è “prematura.” Ma il lavoro mostra che tale editing ora può apparentemente essere eseguito anche senza danneggiare i cromosomi.

Quando lo scienziato cinese He Jiankui usò CRISPR convenzionale per modificare embrioni umani nel 2018, producendo tre bambini, il suo lavoro fu molto respinto non solo per motivi morali, ma anche tecnici, poiché i suoi interventi di editing genetico causarono danni reali al patrimonio genetico. Se i risultati del nuovo studio dovessero essere verificati, gli ostacoli tecnici all’ingegneria degli embrioni iniziano a dissolversi.

Nessuno sa cosa succederà dopo. Alcuni disturbi genetici come l’anemia falciforme possono essere corretti con una singola modifica genetica, ma prevenire problemi di salute più complessi — o progettare tratti che alcune persone potrebbero sognare, come l’altezza o l’intelligenza — richiederebbe la modifica di centinaia o persino migliaia di geni in combinazioni che non comprendiamo ancora pienamente. Ma se gli ostacoli tecnici continuano a cadere, rimarranno solo quelli morali — e i problemi morali raramente hanno impedito a una tecnologia di progredire a lungo.

Per quanto rivoluzionaria possa essere la capacità di progettare davvero esseri umani, la biologia continua comunque a muoversi lentamente. Lo stesso non si può dire del tema dell’altro documento pubblicato la settimana scorsa.

Il post di Anthropic usa oltre 5.000 parole e molte grafiche create, presumo, da Claude per sostenere un solo punto: la quota di lavoro umano impiegato per costruire l’IA si sta restringendo a ogni fase. Gli ingegneri che una volta scrivevano il codice ora rivedono principalmente ciò che Claude scrive. Esperimenti una volta progettati manualmente sono ora sempre più proposti ed eseguiti dal modello. Mentre gli esseri umani continuano a decidere cosa valga costruire, Anthropic sostiene che anche questo sta cambiando, poiché i dipendenti si affidano sempre più a ciò che il modello propone di fare in seguito.

Un ciclo di ricerca sempre più dominato dall’IA potrebbe muoversi a una velocità sempre crescente. La tecnologia cambia sempre al ritmo degli esseri umani — di quanto velocemente possono pensare, pianificare e agire. Un’IA capace di migliorarsi da sola elimina quel limite di velocità, aprendo la possibilità reale che si muova più in fretta di qualsiasi essere umano o di qualsiasi istituzione guidata dall’uomo incaricata di governarla. L’intelligenza stessa diventa critica — ogni modello più intelligente costruisce un modello ancora più intelligente, la reazione si auto-sostiene.

Questo potrebbe sembrare esagerato da attribuire a pochi mesi di dati interni di codifica di un’azienda IA che ha un forte interesse a mostrare i propri modelli in forma più robusta e più intelligente. (Soprattutto se quella azienda IA punta a un’IPO da record all’orizzonte.) Nel post, Anthropic ammette che contare le sole righe di codice va fin poco, e che la velocità è solo una metrica parziale di successo. Ma ricerche indipendenti hanno dimostrato che i modelli IA possono dedicare sempre più tempo a un singolo compito, permettendo loro di lavorare non solo più rapidamente ma anche in profondità. Possiamo discutere di velocità, ma non dell’idea che l’IA stia avanzando, e velocemente.

Un IA potente e fulminea potrebbe portare a rapidi progressi economici, scientifici e medici — tutti i sogni che il CEO di Anthropic, Dario Amodei, ha enunciato nei suoi scritti.

Ma potrebbe anche essere pericolosa a livello esistenziale, oltre che profondamente disarmante per la maggior parte di noi, non dissimile da come l’ampliamento genetico umano potrebbe essere per chi ne resta escluso. E la velocità potenziale di tale cambiamento è così grande che Anthropic propone in modo piuttosto insolito di chiedere alle aziende di IA di considerare collettivamente di rallentare o persino di sospendere temporaneamente lo sviluppo dell’IA di frontiera, per consentire alle strutture sociali e agli studi sull’allineamento dell’IA di tenere il passo. Gli autori del post di Anthropic citano specificamente i regimi internazionali creati per controllare tecnologie pericolose come le armi nucleari, che, nonostante i loro problemi, hanno finora impedito al mondo di autodistruggersi. Ma quelle istituzioni, come l’Agenzia internazionale per l’energia atomica, hanno richiesto decenni di lavoro intenso per essere costruite, e come osservano i leader di Anthropic, quando si tratta di IA in grado di auto-migliorarsi: “Non abbiamo quel tempo.”

Come sappiamo quando il mondo è cambiato?

A volte è immediato. Quando Otto Hahn e Fritz Strassmann raggiunsero la fissione nucleare nel dicembre del 1938, gli esperti capirono le implicazioni praticamente subito: una bomba nucleare sarebbe possibile. A volte gli scienziati lo vedono, e il resto del mondo no. Quando Jennifer Doudna ed Emmanuelle Charpentier pubblicarono l’articolo fondamentale che descriveva CRISPR nel 2012, l’attenzione iniziale della stampa fu quasi inesistente, e le istituzioni che avrebbero dovuto governarlo non avevano idea di cosa fosse appena successo.

I casi più difficili sono quelli in cui anche gli esperti vedono solo metà del quadro. La fissione indicò una via, verso un’arma, e coloro che la comprendevano potevano fare poco per fermarla. Ciascuno dei due avanzamenti della settimana scorsa punta contemporaneamente in due direzioni. La stessa tecnologia di editing che potrebbe togliere a un bambino una malattia fatale è quella che potrebbe in futuro ordinare i bambini in caste genetiche. La stessa intelligenza che potrebbe darci “un Paese di geni in un centro dati”, come disse Amodei, potrebbe anche ridurci a semplici spettatori del mondo.

Quindi siamo tornati dove eravamo all’inizio, a una soglia che non riusciamo a guardare oltre. Il pericolo non è solo che potremmo aver varcato la porta sbagliata. È che l’abbiamo varcata senza accorgersene.