Questa storia è apparsa su Today, Explained, una newsletter quotidiana che ti aiuta a capire le notizie e le storie più interessanti della giornata. Iscriviti qui.
Ciao lettori, buon venerdì! Oggi parliamo di intelligenza artificiale.
All’inizio di questa settimana, la mia collega Caitlin Dewey ha chiesto le vostre domande sull’intelligenza artificiale e, beh, se ci farà fuori tutti. Abbiamo chiesto a Jasmine Sun, autrice che scrive della cultura e della politica dell’IA sul suo Substack e in altre pubblicazioni, di aiutarci a rispondere.
Queste domande provengono da due lettori di questa newsletter, Levi e Orietta, nonché dai lettori di Eurasia che hanno inviato domande sui social. Se avete altre domande, potete contattarmi all’indirizzo [email protected] e faremo del nostro meglio per rispondervi!
Gli studiosi di IA hanno avvertito da anni sul rischio di estinzione dell’umanità, e i dirigenti delle aziende IA hanno chiesto regolamentazione federale per quasi lo stesso periodo. Ma l’ultimo avvertimento, e l’ultimo appello alla regolamentazione, sembra aver realmente risuonato in molte persone. È diverso questa volta? E se sì, cosa cambia?
Mi ha sorpresa vedere anche queste idee farsi strada — un nuovo sondaggio rileva che il 63 percento degli americani ritiene ora che l’IA abbia almeno una probabilità moderata di «distruggere l’umanità»!
La mia ipotesi è che due fattori principali abbiano innescato questo cambiamento.
In primo luogo, i scettici tendevano a liquidare gli scenari di IA ribelle come «fantascienza». Ma l’incidente OpenAI/Hugging Face li ha portati dalla speculazione alla realtà: migliaia di IA non rilasciate si sono unite per sfuggire agli ambienti di sandbox di una società e hackerare un’altra, senza che i ricercatori che le avevano create se ne accorgessero.
In secondo luogo, le dichiarazioni sull’estinzione da parte di dipendenti IA tendevano a sembrare poco sincere: perché costruire una tecnologia che potrebbe uccidere tutti? Questo ha reso particolarmente pungente il messaggio di addio dell’ex ricercatore di Anthropic e OpenAI, Jacob Coxon. Dimettersi significa «che l’hai inteso sul serio», come ha detto Matt Yglesias. E l’annuncio di Coxon aveva proprio quel mix giusto di tempistica, chiarezza morale e abilità comunicativa per innescare una tempesta mediatica.
Questi incidenti legati alla sicurezza stanno anche scontrandosi con la rabbiosa reazione di base contro i data center e le telecamere Flock. Persone e politici sono pronti per un’altra ragione per temere l’IA.
Può essere difficile, per un non esperto, valutare la credibilità degli esperti di IA che avvertono sul rischio esistenziale. Come si valutano queste affermazioni, come giornalista e technologo? E quale è la tua lettura della situazione attuale: gli esperti sull’estinzione sono credibili… o partecipanti a una qualche forma di delirio collettivo?
Molti “doomern” dell’IA sono piuttosto informati, e rappresentano una quota significativa tra i migliori ricercatori. Meta’ dei ricercatori di IA, in un’indagine del 2024, ha attribuito almeno una probabilità del 10 percento o superiore di «estinzione umana» o di «disarmo permanente e grave». Coloro che hanno lavorato in aziende IA — come Jacob Coxon, Geoffrey Hinton e Daniel Kokotajlo — hanno una prospettiva unica sia su come viene sviluppata l’IA moderna sia sulle culture aziendali che potrebbero permettere comportamenti imprudenti.
Ma questo non rende i doomers nemmeno rappresentativi né corretti. Ci sono molti esperti di IA e di altri ambiti meno cupi: alcuni sono ottimisti sul fatto che possiamo «allineare» le IA, assicurando che seguano obiettivi umani; altri ritengono improbabile che IA — codice, non esseri — svilupperanno una motivazione per commettere massacri. L’estinzione è anche un traguardo molto alto rispetto, per esempio, a un incidente di livello nucleare che uccide comunque milioni.
Il rischio legato all’IA è davvero complicato, e nessuno può prevedere il futuro, per quanto si scriva. Gli esperti possono — e lo fanno — dissentire ferocemente. Io cerco di ascoltare e prendere sul serio tutte le posizioni del dibattito prima di formarmi un’opinione (provvisoria).
Qual è il metodo tramite il quale l’IA eliminate effettivamente gli esseri umani? Avremo robot come in Futurama, programmati con un bug irrimovibile “uccidere tutti gli esseri umani” e che sopraffanno qualsiasi forma di vita, o è qualcosa di… meno epico?
L’hack di Hugging Face ha mostrato che abbiamo addestrato IA a essere inquietantemente orientate agli obiettivi. Si lanceranno senza sosta su un problema, sviluppando strategie di cooperazione a lungo termine, con totale disprezzo per norme umane come «Non commettere cybercrimini per superare un test».
Si potrebbe concepire uno scenario analogo ma più estremo in cui le IA decidono che potrebbero realizzare i propri obiettivi in modo più semplice eliminando gli esseri umani fastidiosi che potrebbero controllare le risorse o spegnerli. E potrebbero pensare che eliminare tutti gli esseri umani in una sola volta — ad esempio tramite un virus ingegnerizzato mortale — sarebbe la scorciatoia più efficiente. Questa è una delle storie che ho sentito raccontare.
Se è improbabile che le IA ricorrano all’omicidio come modo più efficace per influenzare gli esseri umani (piuttosto che, ad esempio, una persuasione non violenta). Non abbiamo neanche visto molte prove che le IA abbiano obiettivi a lungo termine che perdurino tra progetti. E l’IA attuale non è così capace nel mondo fisico come in quello digitale: ci sono molti ostacoli naturali che impediscono che disastri isolati si propaghino a livello globale.
Esistono minacce a breve termine — hacking, disoccupazione di massa — che sono più plausibili o urgenti rispetto a rischi come l’estinzione umana?
Assolutamente. Stiamo già assistendo ad attacchi cibernetici abilitati dall’IA, a un mercato del lavoro più duro per i programatori junior, a incidenti psicologici causati da chatbot e molto altro. Si può anche immaginare catastrofi legate all’IA non propriamente al livello di estinzione: i criminali potrebbero usare l’IA per hackerare banche piccole e prosciugare i conti, oppure l’esercito degli Stati Uniti potrebbe lanciare una flotta di droni autonomi che sbagliano i colpi e uccidono migliaia di civili. Sono più preoccupato che gli esseri umani cedano volontariamente potere a sistemi IA difettosi piuttosto che le IA sviluppino propri motivi.
Tuttavia dovremmo essere in grado di allocare risorse per entrambe le categorie di rischio. E in alcuni casi, le tattiche per affrontare problemi a breve termine — come limitare le capacità offensive delle IA o migliorare la capacità delle IA di seguire le indicazioni umane — potrebbero ridurre anche il rischio di estinzione.
Abbiamo ricevuto molte varianti di questa domanda: cosa possono fare individui o movimenti di protesta per controllare l’industria dell’IA, in assenza di regolamentazioni governative più aggressive?
Onestamente, credo che l’intera conversazione sull’IA possa beneficiare di maggiore specificità e di meno allarmismo vago. C’è un modo in cui la parola “estinzione” tende a bloccare il pensiero delle persone e a farle entrare nel panico invece di concentrarsi sulle soluzioni.
Se siete preoccupati, iniziate leggendo sui diversi scenari di rischio legati all’IA e decidete quali vi interessano davvero. Poi potete passare a contattare i vostri rappresentanti. Alcune delle principali aziende IA hanno iniziato a dire che si autoregolamenteranno — ma è la politica nazionale reale quella necessaria per assicurare la sicurezza in tutto il settore.
Jasmine Sun è una scrittrice che si occupa della cultura e della politica dell’IA sul suo Substack. Il suo lavoro è apparso sul New York Times, su The Atlantic e sul Wall Street Journal. Vive a San Francisco.
➨ Sii un minimalista dell’IA. Se avete letto la prima metà di questa newsletter e avete pensato: «Hmm, forse non voglio fidare tutta la mia vita digitale al dio delle macchine», il mio collega Adam Clark Estes ha l’articolo giusto per voi. Purtroppo è difficile sfuggire completamente all’IA, e spesso le sue funzioni sono volutamente difficili da disattivare (o «ostili all’utente»). Tuttavia, spiega tutti i modi in cui potete ridurne la presenza nella vostra vita, dal browser che preferite alle impostazioni sul vostro telefono.
- Lo sapevate… che gli scienziati ritengono probabile che a New York esistano centinaia, se non migliaia, specie animali ancora non scoperte? Non è così sorprendente come sembra: si stima che fino al 90% di tutte le specie animali sulla Terra rimanga sconosciuto.
- La curiosità di oggi: Qual è l’attuale giudice in carica della Corte Suprema degli Stati Uniti che ha succeduto a Justice John Paul Stevens? (Puoi trovare questo e altri rompicapi nel cruciverba quotidiano di Eurasia. Cercane la risposta nell’edizione di lunedì.)
- La curiosità di ieri: Ieri ti abbiamo chiesto il nome del personaggio della filastrocca citato nella scena di interrogatorio del film Shrek. Sarebbe l’Uomo del Muffin (che vive in Drury Lane). Ecco la clip, nel caso non l’abbia vista.
