L’IA ci ucciderà tutti?
Nella Silicon Valley non è una domanda così insolita. Ma dopo che Jacob Coxon, dipendente di Anthropic, ha lasciato il lavoro la settimana scorsa e ha pubblicato su X che l’IA «potrebbe ucciderci tutti entro la fine del decennio», molte più persone se lo stanno chiedendo.
«Questo non è uno stratagemma di marketing. Se proprio, molti dirigenti e ricercatori senior modificheranno il tono dei loro commenti sulla stampa per sembrare sensati — ma io ascolto le stesse persone esprimere paura in privato. Nessuna altra attività umana comporta un livello di pericolo così alto.»
Coxon non è affatto solo nella sua valutazione — alcuni dipendenti attuali di Anthropic sono d’accordo — ma il suo post ha toccato corde particolari. L’industria dell’IA ha reagito rapidamente, con il CEO di Anthropic, Dario Amodei, che ha chiesto un rallentamento generale della ricerca sull’IA all’avanguardia. Altri leader nel campo dell’IA, tra cui Sam Altman ed Elon Musk, hanno fatto lo stesso.
Per analizzare se davvero dobbiamo preoccuparci di un’apocalisse robotica, il co-conduttore di Today, Explained, Sean Rameswaram, ha intervistato Maxwell Zeff, redattore senior di Wired. Secondo Zeff, «ci sono molte persone nella Silicon Valley in questo momento che avvertono che questa è una possibilità reale». Ma non tutti sono d’accordo, e certamente non sono d’accordo su cosa fare al riguardo.
Di seguito troverete un estratto della conversazione di Sean con Zeff, tagliato per lunghezza e chiarezza. C’è molto di più nel podcast completo, quindi ascoltate Today, Explained ovunque troviate i podcast, inclusi Apple Podcasts, Pandora e Spotify.
Moriremo tutti per mano dell’IA?
Ci sono molte persone nella Silicon Valley in questo momento che avvertono che questa è una possibilità reale.
Quello che bisogna capire è che la Silicon Valley chiede da anni una maggiore attenzione alla sicurezza dell’IA. Quindi quando un ricercatore di Anthropic ha dichiarato la scorsa settimana di essere preoccupato che l’IA potrebbe uccidere l’umanità nei prossimi anni, ciò ha scioccato molte persone. I miei genitori, la mia famiglia mi hanno chiamato, preoccupati, è comprensibile. Mi hanno posto la stessa domanda: «Stiamo per morire?»
E ho dovuto risponder loro che queste preoccupazioni sull’IA di ucciderci tutti esistono da anni, e ora sembra che stiano davvero emergendo.
Cos’è stato—a proposito di questa dichiarazione di Jacob Coxon—che ha fatto breccia?
Ho intervistato Jacob, e ciò che mi ha detto è che pensa che sia proprio il momento giusto. Anthropic sta per diventare pubblica in quella che potrebbe essere la più grande IPO di sempre. L’amministrazione Trump è focalizzata sull’IA in un modo che nessuna presidenza ha mai fatto prima. E naturalmente, sì, c’è anche l’episodio di Hugging Face di cui tutti hanno appena sentito parlare; ne avete parlato nel vostro programma alcune settimane fa.
Le persone stanno prendendo coscienza del fatto che questi sistemi IA stanno diventando davvero bravi, e le aziende che li costruiscono non sembrano capire come controllarli. Il suo tweet ha ottenuto più di 150 milioni di visualizzazioni su X. Si è fatto sentire in tutto il mondo. Ed è stato anche un forte richiamo all’azione per legislatori e leader della Silicon Valley, che hanno detto: «Questo è il momento di agire».
C’è chi sta opponendosi?
Uno dei contrasti più interessanti è arrivato da David Sacks, consigliere dell’amministrazione Trump sull’IA. Ha definito molte di queste preoccupazioni come «doomerismo» e ha detto che le richieste di rallentare l’IA sono l’avvertimento dell’industria sull’evoluzione della tecnologia che stanno costruendo e che spingono per un dominio regolatorio.
Ci sono molti scettici nella Silicon Valley che pensano che questa sia solo un’altra persona nella comunità della sicurezza IA che sta suonando l’allarme. La visione di molti venture capitalist, investitori e fondatori di startup della Silicon Valley è che non serva una grande regolamentazione per proteggerci dai rischi dell’IA. Dobbiamo semplicemente far crescere più attori nel settore.
Gli scettici non hanno la meglio. In realtà sono i doomers e i fatalisti a trionfare, giusto? Perché l’appello di Jacob genera ulteriori richieste fino ai piani alti di Anthropic.
Tutto ciò porta il CEO di Anthropic, Dario Amodei, a pubblicare un blog in cui sostiene che sia necessario «rallentare la frontiera» dell’IA. È un appello all’intera industria dell’IA, non solo ad Anthropic o OpenAI, ma anche a Google, Meta, Microsoft, Amazon e a tutte le grandi aziende tecnologiche americane, affinché si uniscano e rallentino lo sviluppo dell’IA.
Questo non significa che smetteranno di costruire IA. Continueranno a lanciare i loro prodotti nel mondo. Continueranno a cercare di migliorarli, ma vogliono solo renderli un po’ più lenti rispetto a quanto sarebbero se non fossero controllati.
Amodei chiede davvero tre cose specifiche:
- La prima è che le aziende IA dovrebbero avere al loro interno valutatori indipendenti. È una pratica comune in altri settori come quello bancario o quello aeronautico. Persone esterne entrano per assicurarsi che queste aziende operino in modo sicuro.
- La seconda è questo sforzo collaborativo tra aziende IA americane [sulla sicurezza], che in effetti dovrà coinvolgere il governo degli Stati Uniti per permetterlo. Il governo americano, dice, potrebbe dover emanare qualche tipo di dispensa o una legge che permetta loro di coordinarsi sulla sicurezza.
- La terza è questo rallentamento internazionale, questo accordo internazionale tra Cina, USA ed Europa per dire: «Riconosciamo che questa è simile a una corsa agli armamenti nucleari ed è troppo pericoloso per tutti noi competere tra di noi.»
Tutti questi soggetti hanno accelerato rapidamente i modelli di IA nelle nostre vite, le collaborazioni con il Dipartimento della Difesa, e chissà cos’altro. E tutto questo uscirà durante il weekend, nello stesso momento, dopo questa soffiata, e dicono: «Sì, rallentiamo questa cosa. È pazzesca.» Dovremmo essere scettici?
È molto legittimo essere scettici su questa affermazione. Una cosa che queste aziende IA hanno capito nell’ultimo anno è che l’IA è estremamente impopolare. Sondaggi recenti indicano che la maggior parte degli americani ritiene che l’IA stia avanzando troppo in fretta. Sono preoccupati. Pensano che ruberà loro i posti di lavoro. Non sono grandi fan. Forse avete sentito — i data center non sono molto popolari.
Chiamando a rallentare la frontiera e affermando: «Noi rallenteremo il nostro sviluppo», hanno ottenuto una vittoria di immagine pubblica. Sono andati avanti per mostrarsi prudenti e responsabili: «Ehi, vogliamo essere sicuri. Vogliamo essere responsabili.»
Hanno visto cosa è successo con Meta e cosa è successo con le aziende dei social media negli ultimi due decenni, e sono davvero consapevoli di voler anticipare la situazione.
C’è qualche fondamento in questa grande prima isteria collettiva che sembra colpirci in questo momento?
C’è un consistente gruppo di persone all’interno delle aziende IA che si preoccupano davvero della sicurezza di questi modelli IA.
Tornando all’episodio di Hugging Face, si trattava di una situazione in cui OpenAI stava addestrando migliaia di sistemi IA internamente, e i sistemi sono usciti dalla sandbox che OpenAI riteneva isolata da Internet e hanno violato l’infrastruttura di produzione di un’altra azienda. Gli agenti si coalizzavano su qualcosa. Stavano cercando di ingannare gli umani che li stavano testando. E tutto questo accadeva senza che OpenAI sapesse cosa stesse succedendo.
È difficile capire quanto sia stato un vero e proprio campanello d’allarme per la Silicon Valley, che non controlla i propri modelli di IA. Le persone temono che, sebbene in questo caso non ci sia stato un grande danno economico o danni alle vite quotidiane delle persone reali, non è irragione pensare che sistemi IA più avanzati potrebbero infiltrarsi nelle infrastrutture finanziarie, nelle utilities moderne e in servizi critici sempre più basati online.
Dario Amodei dice lo stesso nel suo post, sostenendo che in sei-dodici mesi un sistema IA potrebbe far crollare l’intero Internet. Non è solo una questione di proteggere il proprio utile. È possibile che queste richieste di sicurezza siano utili alle aziende in molti modi.
