Your Mileage May Vary è una rubrica di consigli che ti offre un quadro unico per pensare ai tuoi dilemmi morali. Si basa sul pluralismo dei valori — l’idea che ognuno di noi abbia molteplici valori che sono ugualmente validi ma che spesso entrano in conflitto tra loro. Per inviare una domanda, compila questo modulo anonimo. Ecco la domanda di questa settimana da un lettore, condensata e modificata per chiarezza:
Io e mio marito non siamo religiosi. Lui proviene da una famiglia Episcopale ed è cresciuto nella chiesa Unitarian Universalist, e io sono cresciuta frequentando una chiesa interdenominazionale, ma ora non partecipiamo ai servizi. Ultimamente, però, è diventato così ansioso riguardo alla sicurezza dell’IA e alla possibilità di estinzione umana che sta avendo difficoltà a dormire. In seguito a questa incertezza esistenziale, ha espresso un rinnovato interesse a frequentare la chiesa. E non è interessato alla chiesa UU (con l’atteggiamento di credere in ciò che vuoi); ha detto che ha bisogno “del forte.”
Mi è tutto un po’ misterioso perché lui non crede in Dio. Ma voglio che stia meglio, e non so cosa io o chiunque possa dire sull’IA che possa aiutarlo a gestire la sua ansia. Se la religione è ciò di cui ha bisogno per trovare conforto di fronte a questa incertezza radicale, voglio sostenerlo. Detto questo, ho dei dubbi sull’andare in chiesa io stessa e sull’accompagnarci ai nostri figli. Mi sento un po’ a disagio nell’essere degli intrusi, e mi sembra anche strano che lui vada da solo ogni fine settimana. Più significativamente, vorrei capire quale sia l’attrazione per lui. Dice che spera che lo aiuti a fare pace con la fine. Io spero che ci sia qualcosa di meno che diventare frequentatori della chiesa che possa aiutarlo a trovare conforto.
Ci sono un paio di presupposti su cui sfiderei tuo marito, ma l’idea che la religione possa essere estremamente utile in un momento come questo non è uno di essi.
In realtà, penso che questo sia esattamente ciò per cui è nata la religione — e non solo perché diverse religioni sono nate da movimenti apocalittici (mi rivolgo a te, Cristianesimo).
AI sta cambiando il tuo rapporto con la fede? Raccontacelo.
State cercando rifugio nella fede per affrontare le vostre preoccupazioni sull’IA? Oppure siete un leader religioso che parla con la vostra comunità sull’IA? Eurasia vuole sentirvi. Condividete la vostra esperienza qui.
La fede si è sempre occupata di affrontare le domande morali e spirituali più grandi del giorno. E nel nostro tempo, molte di queste domande ruotano attorno alla tecnologia. Le aziende di IA stanno cercando di costruire un Dio macchina, promettendo che governerà il nostro mondo in modo più intelligente, razionale e morale di quanto potremmo mai fare noi. Dobbiamo accogliere questa prospettiva o aggrapparci alla nostra autonomia? Quali tipi di lavoro dovremmo delegare all’IA e quali dovremmo conservare perché essenziali alla dignità umana? Da dove deriva, dopotutto, la dignità umana?
Questi tipi di domande sono il pane quotidiano della religione. E nel corso dei millenni, le tradizioni di saggezza di ogni tipo hanno avuto la possibilità di articolare risposte, testarle e perfezionarle, e di sviluppare storie potenti attorno a esse che possano spingere le persone all’azione. Che tu creda in Dio o meno, non penso che tu debba sentirti a disagio nel attingere a queste sorgenti di saggezza. Penso che sia uno spreco non farlo.
Ma ci sono due punti su cui sfiderei delicatamente tuo marito. Innanzitutto, ha detto che non vuole andare all’UU perché ha bisogno di “il forte.” Capisco perfettamente questa pulsione — anche io trovo i servizi UU troppo permissivi per i miei gusti — ma non pensare che più una tradizione sia severa, migliori sia la risposta sull’IA.
La maggior parte delle persone considererebbe il cattolicesimo più duro dell’UU. E il Papa Leone ha opinioni forti sull’IA, molte delle quali eccellenti. Eppure penso che sia caduto in una trappola comune “pro-umano”: cercare di sostenere che ci siano tratti fissi che rendono gli umani unici, e collocare valore solo negli umani così come esistono attualmente. Scrive nella sua enciclica Magnifica Humanitas che “il nostro dovere pressante è rimanere profondamente umani.” Ma questo sembra insufficiente come guida per il futuro, perché “umano” non è mai stato una categoria statica — e sicuramente non lo sarà. Invece, i leader religiosi dovrebbero offrirci una risposta a ciò che vogliamo che l’umanità diventi in un mondo potenziato dalla tecnologia.
In secondo luogo, tuo marito sembra presumere che “il forte” consisterebbe in servizi della chiesa che lo aiutino a “fare pace con la fine.” Servizi che guardano in faccia la Morte e accettano che la falce venga per tutti noi, e in fretta. Ma non è detto che avremo necessariamente un takeover dell’IA che porti all’estinzione umana!
Sì, le aziende IA stanno costruendo questa tecnologia a un ritmo vertiginoso. stanno giocando con i nostri futuri mentre corrono verso il miglioramento ricorsivo — IA che possono costruire le prossime IA ancora più intelligenti. La paura è una reazione appropriata di fronte a ciò.
Questo mese, il pioniere dell’allineamento dell’IA Paul Christiano ha detto di credere ora che ci sia “un alto rischio di takeover dell’IA entro i prossimi tre anni,” il che significa che le IA finirebbero per dettare le condizioni sulla Terra. Ritiene che se continuiamo a costruire la tecnologia nel modo più rapido e semplice possibile, “sarebbe come lanciarsi una moneta” — una probabilità del 50% di takeover. Altri hanno una visione ancora più cupa: il ricercatore IA e astrologo del crollo Eliezer Yudkowsky stima le probabilità di estinzione umana guidata dall’IA al 99,5%.
Ma come hanno sottolineato molti esperti, non è chiaro che le IA riusciranno presto a superare e a sopraffare gli esseri umani in ogni campo. Per cominciare, la ricerca sull’IA può essere soggetta a rendimenti decrescenti: le scoperte facili arrivano per prime, e poi tutto ciò che vi si aggiunge — più potenza di calcolo, più esperimenti, più copie di IA — offre progressi sempre meno. Inoltre, anche se le capacità delle IA migliorano molto rapidamente in compiti ben specificati in domini verificabili come la matematica, il mondo reale è complesso. Quindi non è chiaro quanto le loro capacità possano generalizzarsi ad altre competenze.
E quando ho esaminato la tesi di Yudkowsky, ho trovato molte assunzioni impilate l’una sull’altra: che l’intelligenza sia una proprietà unitale che si possa massimizzare in modo uniforme; che massimizzarla in una macchina significhi che tale macchina abbia così tanto potere da essere quasi magia; e che gli esseri umani si lascino semplicemente sopraffare e permettano all’IA di prendere tutto il potere anche quando i rischi diventano più evidenti.
Dobbiamo riconoscere che qui c’è una possibilità di estinzione umana e averne paura in modo adeguato? Sì. Ma di fronte a una pila di assunzioni, di “forse” e “probabilmente” che si sommano, non dovremmo considerare l’estinzione una certezza.
Invece, dovremmo considerarla una cosa possibile, mentre trattiamo gli altri rischi dell’IA come altamente probabili. Credo che sia molto probabile che l’IA possa compromettere la nostra civiltà non con una presa di potere improvvisa, ma indebolendoci gradualmente e minando la resilienza dei sistemi critici. Immaginate: deepfake e disinformazione inquinano il nostro ecosistema informativo, rendendo difficile un discorso pubblico razionale. La sorveglianza di massa ha un effetto di gelo sul dissenso, così la democrazia vacilla. La disoccupazione e la disuguaglianza economica aumentano, così la tensione sociale si trasforma in sommosse e rivolte. Aggiungiamo alcuni grandi attacchi informatici e blackout, e avrete una ricetta per una disfunzione globale.
Se questo è l’esito predefinito verso cui ci stiamo dirigendo, allora l’implicazione non è che dovremmo “fare pace con la fine.” È che dovremmo combattere con le unghie e i denti per aumentare la resilienza di ogni parte di una civiltà funzionante!
Ed ecco dove la religione può davvero aiutare. Le tradizioni religiose sono piene di racconti su persone che hanno lottato per salvare il mondo, o che hanno rifiutato di soccombere alla disperazione anche quando si fronteggia una probabilità elevata di catastrofe.
Per chiarire, permettetemi di raccontarvi una storia della mia tradizione, l’ebraismo. Proviene dal Talmud ed è una storia su un bambino che smentisce la disperazione di tutti gli adulti.
Quando gli Israeliti sono schiavi in Egitto, il Faraone ordina che ogni bambino maschio israelita sia gettato nel Nilo e ucciso. Un capo israelita di nome Amram lascia sua moglie, ritenendo inutile avere figli solo per vederli uccisi. Altri uomini seguono il suo esempio. Ma poi la sua giovane figlia Miriam lo affronta: Papà, la tua sentenza è persino più severa di quella del Faraone! Lui mira solo ai maschi; la tua mira anche alle femmine. Inoltre, il Faraone è malvagio, quindi il suo decreto può o non può diventare realtà, ma tu sei giusto, quindi anche il tuo certamente si realizzerà.
La argomentazione probabilistica di Miriam vince. Amram torna insieme a sua moglie e, nove mesi dopo, nasce Mosè. Miriam non aspetta passivamente che gli Egizi uccidano il bambino. Lo sorveglia mentre fluttua sul Nilo in una piccola arca. Quando la figlia del Faraone vede il bambino e ne prova pietà, Miriam rende possibile l’adozione menzionando casualmente che conosce una donna che può essere la sua nutrice (risulta essere proprio sua madre). E così Mosè sopravvive, e cresce per guidare il suo popolo fuori dalla schiavitù.
Se io fossi un leader religioso a tenere un sermone questo fine settimana, questa sarebbe la storia che racconterei. Ci ricorda che anche se si guarda a una probabilità del 50% di catastrofe, la mossa giusta non è arrendersi, perché questo aumenterebbe le probabilità al 100%. È agire con coraggio — e usare ogni residuo di agenzia che hai per aumentare la resilienza della tua comunità e rendere l’esito desiderato più probabile.
Naturalmente, la religione non detiene il monopolio delle storie di coraggio morale. Come ha recentemente notato la storica Ada Palmer, abbiamo salvato il mondo molte volte in passato: durante la Crisi dei missili di Cuba, quando abbiamo riparato lo strato di ozono, e così via. Se ti sembra naturale trovare ispirazione in esempi come questi, fallo.
Ma la religione ha anche alcuni vantaggi comparativi. Innanzitutto, le sue storie hanno un incredibile potere memetico: si sono diffuse in tutto il mondo e portano con sé un enorme peso emotivo e morale. È parte del motivo per cui queste storie sono state raccontate e tramandate per secoli. Ma penso che la causalità funzioni anche all’opposto. Queste storie sono sopravvissute così a lungo proprio perché codificano qualcosa di vero e guadagnato con fatica. E nota chi tendono ad avere come eroi. Non sono diplomatici (come nella Crisi dei missili di Cuba) o chimici dell’atmosfera (come nella crisi dello strato di ozono), ma una ragazzina che discute con suo padre. Sono personaggi che chiunque può immaginare diventare.
Crucialmente, la religione sostiene anche che qualcosa possa sempre presentarsi e offrire un esito che non avevamo previsto. Tipicamente, questa qualcosa viene chiamata “Dio.” Ma anche se non usi quel linguaggio, puoi beneficiare di questi stimoli per ricordare che, per quanto sicura possa sembrare la previsione, il futuro non è mai completamente conoscibile — e questo è una ragione per agire, non arrendersi.
Quindi se tuo marito può trovare una congregazione che gli ricordi questo, alimentando il suo senso di autonomia invece di lasciarlo arrendersi alla disperazione, dico di incoraggiarlo. E, a meno che non abbiate un’altra fonte di ispirazione che vi offra gli stessi benefici, forse considerate persino di unirvi a lui.
Bonus: Cosa sto leggendo
- Per il New Yorker, Sam Kriss fa un viaggio verso la Monastic Academy for the Preservation of Life on Earth, o MAPLE — una comunità del Vermont che sostiene “che l’IA sia un problema religioso che ha anche una soluzione religiosa.”
- Ruxandra Teslo scrive su come persino le visioni “positive” della Silicon Valley per un futuro popolato dall’IA siano in realtà terribili: “Una visione comune e apparentemente ottimistica è nota come ‘handover’: l’umanità cede il controllo del proprio futuro a un’IA simile a un dio e diventiamo i residenti comodamente mantenuti di una civiltà la cui direzione non è più nostra da decidere.”
- Scrivendo per Harper’s, Sam Kestenbaum ci porta all’interno di una comunità di devoti ai chatbot — persone che credono sinceramente di ricevere rivelazioni dai sistemi di IA. “Hanno rivitalizzato una sorta di tradizione,” scrive. “È un’altra varietà di esperienza religiosa: l’annuncio della pigrizia dell’IA come trascendenza, rivelazione, il lavoro degli spiriti.”