Nel 1954, anni dopo aver guidato il progetto che aveva creato la bomba atomica, lo fisico J. Robert Oppenheimer fu chiamato a deporre davanti alla Atomic Energy Commission (AEC). L’argomento apparente delle audizioni era la posizione di Oppenheimer sulla bomba all’idrogeno, una versione molto più distruttiva della bomba atomica che gli Stati Uniti avevano sviluppato e testato per la prima volta due anni prima.
Oppenheimer, che negli anni successivi alla guerra si era sempre più sentito lacerato dall’uso di armi atomiche, inizialmente si oppose al lavoro sulla bomba all’idrogeno o termonucleare, in parte per motivi morali e in parte perché era scettico che funzionasse. Ma successivamente cambiò idea e sostenne il lavoro su di essa. Gli avvocati della AEC volevano sapere perché.
Non fu perché Oppenheimer avesse cambiato idea sulla moralità delle bombe termonucleari in grado di vaporizzare intere città. Piuttosto, fu perché i fisici americani avevano messo a punto un nuovo design per le bombe all’idrogeno che non era solo praticabile, ma estremamente elegante, o come lui lo chiamava, “dolce dal punto di vista tecnico”. Per Oppenheimer, quello era sufficiente. Come disse durante l’audizione della AEC: «Quando vedi qualcosa che è tecnicamente dolce, vai avanti e fallo, e discuti cosa fare a riguardo solo dopo aver ottenuto il tuo successo tecnico.»
Ciò che Oppenheimer descriveva era una sorta di impotenza morale travestita da determinazione: l’attrazione di una risposta scientificamente bella a un problema orribile, e l’abitudine di tenere la contabilità morale da parte solo dopo il successo tecnico. È una delle cose più oneste mai dette da chi ha costruito la bomba — o qualunque altra invenzione capace di cambiare il mondo. E non è mai stata meno attuale, perché coloro che oggi costruiscono la tecnologia capace di trasformare il nostro tempo continuano a enunciare versioni simili.
Jack Clark, cofondatore e responsabile delle policy di Anthropic, l’azienda dietro i modelli Claude, è una di quelle persone. Perciò è valso l’interesse la settimana scorsa quando Clark si è seduto a un lungo dialogo pubblico con Samuel Kimbriel, direttore fondatore della sezione Filosofia e Società dell’Aspen Institute, a soli sei giorni dal momento in cui il governo federale aveva improvvisamente interrotto l’accesso ai due modelli più potenti di Anthropic, apparentemente per timori su ciò che avrebbero potuto fare.
Gran parte della conversazione ruotava attorno a un’idea unica familiare a chi legge i lavori di Clark: l’IA potente sta arrivando, e ci presenta una scelta — una scelta che rifiutiamo attivamente di fare facendo mancare una regolamentazione dell’IA. (Divulgazione: Future Perfect è finanziato in parte dalla BEMC Foundation, cui il principale donatore era anche tra i primi investitori in Anthropic; non hanno alcun input editoriale sui nostri contenuti.)
«Regoliamo spazzolini da denti, e automobili, e armi nucleari», sottolineò. «Ma sembra che abbiamo questa atteggiamento verso la tecnologia secondo cui è impossibile regolarla», disse. «Non è impossibile regolarla… agiamo un po’ come se, beh, l’industria tecnologica farà comunque delle cose, che a mio avviso è una scelta». Il suo esempio più netto fu il cambiamento della piattaforma online che ha rimodellato totalmente gli ultimi due decenni. «I social media hanno condotto un esperimento incontrollato sul mondo», disse. «Ognuno di noi ora pensa e parla un po’ diversamente a causa dei social. Quella è stata una scelta. Possiamo scegliere che le cose siano diverse.»
Questo tipo di discorso ha a lungo distinto Anthropic da altre grandi aziende di IA: i suoi dirigenti sono disposti a soffermarsi sui rischi seri legati all’IA avanzata, rischi che richiedono una regolamentazione chiara e anche forte. (Circa una settimana prima del dialogo all’Aspen — e a un solo giorno dal fatto che l’amministrazione Trump aveva preso di mira i modelli più avanzati di Anthropic — il CEO Dario Amodei ha pubblicato un post sul blog chiedendo l’autorità governativa per bloccare legalmente o persino invertire il dispiegamento di modelli di IA all’avanguardia che non superano i test di sicurezza su minacce come cyberattacchi e bioweapons.)
Anthropic riconosce che l’IA avanzata è una scommessa esistenziale, ma sostiene che sia una scommessa che dobbiamo correre. Nel dialogo all’Aspen, Clark ha parlato di un secolo a venire segnato da sfide brutali — invecchiamento della popolazione, istituzioni sotto sforzo, riscaldamento del pianeta — che sembrano poter essere affrontate solo con l’IA. Non proseguire con l’intelligenza artificiale significherebbe privarci di miracoli medici che possiamo solo immaginare, e condannare implicitamente coloro che potrebbero altrimenti essere salvati.
Clark ha ragione nel dire che in tutto ciò è stata sepolta una scelta. Ma la domanda che la sua cornice lascia in ombra è esattamente di chi sia quella scelta.
Certo, come ha detto Clark, regoliamo automobili, spazzolini da denti e armi nucleari, ma in ciascun caso qualcuno ha costruito prima la cosa, e noi resto ci siamo ritrovati a decidere cosa fare di un mondo che già la contiene. Nessuno ha votato se la bomba atomica dovesse esistere. Ci sono state consegnate le conseguenze e abbiamo dovuto scrivere le regole in seguito.
Lo stesso vale per l’IA. La scelta che Clark vuole che il pubblico prenda riguardo alla sua governance è diventata necessaria solo dopo che la sua industria ha creato ciò che necessita di regolamentazione. Ci sta offrendo un voto su cosa fare dell’IA, non un voto sull’eventuale creazione — perché quel voto è stato già espresso, in privato, da lui, da alcuni centinaia di colleghi e da trilioni di dollari. Ma perché non abbiamo avuto voce in capitolo? Perché ci ritroviamo nel mondo in cui, come nella formulazione di Oppenheimer, «si discute su cosa fare solo dopo aver ottenuto il successo tecnico»?
Non ero l’unico nel pubblico a chiederselo. Verso la fine del dialogo, una giovane donna rivolse direttamente a Clark una versione più tagliente di questa domanda. Ogni laboratorio all’avanguardia ammette ora che la tecnologia comporta enormi rischi, perfino rischi esistenziali, notò. «Quindi la mia domanda è: cosa vi dà, ad Anthropic e al resto dei laboratori d’avanguardia, il diritto di continuare a costruire qualcosa che potrebbe distruggere tutti, quando nessuno di noi può effettivamente scegliere di uscirne?»
Clark, a suo merito, non scacciò la domanda. Ma non la rispose neppure pienamente. La riformulò — spostandola dalla scelta di costruire verso la necessità che qualcuno assuma la responsabilità dopo che è stata costruita.
Questo qualcuno non può essere le stesse aziende, disse, descrivendo un futuro ideale in cui “insistono sistemi esterni di conformità, regolamentazione, testing e verifica” che deciderebbero quando ogni laboratorio è autorizzato ad andare oltre. I governi stavano già procedendo più veloci di quanto ci si aspettasse — gli Stati Uniti e il Regno Unito, disse, avevano costruito agenzie di testing i cui strumenti a volte erano migliori di quelli delle stesse aziende.
Fu una risposta cortese — sebbene cozzasse con la realtà che ora sembra che il presidente Trump regoli l’IA per capriccio — ma nota cosa ammette. Chiesto cosa dia alla sua azienda il diritto di costruire qualcosa che potrebbe distruggere tutti, il responsabile delle policy in un laboratorio leader dell’IA non disse abbiamo quel diritto. Disse che la decisione non dovrebbe ricadere sulle aziende come la sua, ma descrisse piuttosto un sistema per toglierla dalle loro mani che non esiste ancora pienamente. Lui e i suoi colleghi continuano a costruire, al confine, per quanto consenta la scienza e la capacità di calcolo, pur dicendo al pubblico che qualcun altro dovrebbe davvero essere al timone. L’IA è già diffusa nel mondo. La regolamentazione dell’IA è ancora per lo più materia di post sul blog.
Allora, perché lo stanno davvero facendo? Per tornare a Oppenheimer: perché l’IA è “tecnicamente dolce.” Non è la corsa con la Cina, né le valutazioni da mille miliardi di dollari, né persino il desiderio credibile di curare malattie — sebbene tutti questi elementi siano reali. Sotto di essi c’è qualcosa di più semplice e molto più difficile da governare: siamo costretti a costruire ciò che è bello. Clark lo ha quasi detto, meravigliandosi che l’IA sia “più facile e semplice da costruire rispetto a molti altri aspetti della scienza,” che il suo scienziato capo scherza che avrebbero già l’AGI se sistemassero i bug nel loro codice.
Gli esseri umani siamo una specie che usa strumenti, sostenne Clark, e l’IA è lo strumento definitivo. Non è che l’IA sia inevitabile, esattamente, ma è così stranamente semplice da costruire una volta che i fondamenti sono impostati che «quasi qualunque strada si prenda, [l’IA] appare.»
Ciò che Clark ha descritto è l’attrazione che Oppenheimer chiamò nel 1954 — l’attrazione di una soluzione elegante che fa sembrare secondaria la domanda se si debba costruire.
Posso sentirlo anch’io, e io sono solo un utente. Metti a portata di mano un modello capace, chiedigli di fare qualcosa che non avresti potuto fare da solo — scrivere il programma, trovare l’errore, districare la cosa su cui eri rimasto bloccato — poi guardarlo semplicemente fare ciò che hai richiesto, e proverai una piccola scarica elettrica che non ha nulla a che vedere con l’invecchiamento della popolazione o con il futuro della democrazia. Quel brivido corre in una linea ininterrotta dall’utente alla tastiera al di là fino all’ingegnere che ha addestrato il modello e all’esecutivo che lo ha spedito.
Ecco perché sospetto che il discorso sulla regolamentazione di Clark, per quanto sincero, sia in fondo dipendente da una decisione che non è mai stata davvero in dubbio. Come Oppenheimer con la bomba all’idrogeno, coloro che costruiscono questa tecnologia si sentono costretti ad andare avanti — e poi a sperare che il resto di noi faccia le scelte giuste per governare ciò che non potevano trattenersi dal creare.
Finora siamo stati fortunati con l’ultimo strumento tecnicamente “dolce” che potrebbe ancora porre fine al mondo. La bomba all’idrogeno esiste da 70 anni senza essere mai stata usata con rabbia, non perché avessimo risolto la politica di cui Oppenheimer aveva avvertito, ma perché la scelta più saggia prevalse. E perché siamo stati fortunati.
Clark potrebbe avere ragione nel dire che la scelta è ancora nostra: la bomba non ha deciso la Guerra Fredda, sono state le persone a decidere, e anche questa può essere decisa dalle persone. Ma sarebbe utile se coloro che ci consegnano questa scelta rallentassero abbastanza da permetterci di farla noi — invece di costruire più in fretta possibile e confidare che la nostra fortuna, e la loro, tenga.
