È ora possibile creare chatbot IA dei propri cari con cui interagire dopo la loro morte. Ma ciò solleva domande difficili, come: se lo fai, in che modo l’esperienza potrebbe influire sul tuo lutto?
Questo è uno dei quesiti che alimentano uno studio globale sui “deadbot” digitali — modelli IA addestrati sui messaggi, sui voicemail e su altri dati personali di una persona deceduta. Attraverso questo lavoro, i ricercatori stanno esplorando cosa potrebbe significare il fatto che ora possiamo utilizzare questa tecnologia emergente per parlare con simulazioni dei defunti.
In quello di Unexplainable, ho chiesto a alcuni di questi ricercatori che studiano gli impatti potenziali degli “avatar post-mortem” sulle persone che stanno vivendo un lutto, sulle eredità e sui diritti dei defunti, e sulle pratiche del lutto nel mondo. Perché, sebbene i deadbot possano apparire estranei, l’impulso che li anima è profondamente condivisibile. Nei momenti di perdita, non è forse questo ciò che molti di noi desiderano — continuare le conversazioni con le persone che ci mancano?
Ho provato questo desiderio anche nella mia vita. Dopo che due tra i miei amici più stretti sono morti quasi nello stesso periodo, tutto ciò che volevo, e tutto ciò che le loro famiglie desideravano, era continuare a parlare con loro. Ho scritto un libro, Other People’s Words, su come mantenere vive le relazioni con le persone che abbiamo perso continuando a interagire con il linguaggio che hanno lasciato. Così, quando ho sentito parlare dei deadbot e dell’industria della vita digitale dopo la morte, ho voluto capire cosa stanno imparando i ricercatori sul ruolo dell’IA nel plasmare le conversazioni che si prolungano dopo la morte.
Una di queste ricercatrici è Katarzyna Nowaczyk-Basińska, assistente universitaria all’Università di Cambridge, che studia la “immortalità digitale” da oltre un decennio. Tra le domande che si pone ci sono: «Chi è abilitato a persistere oltre la morte? In che forma? Attraverso quali tecnologie? Sotto il controllo di chi?»
Le ricerche sull’IA con soggetti in lutto sono complesse. E chiedere loro di utilizzare nuovi software potrebbe essere dannoso. Perciò, invece, Nowaczyk-Basińska si è unita a una doula della morte e ha viaggiato per il mondo per convocare una serie di focus group — sotto forma di cene intime — riunendo persone con esperienze diverse di lutto per discutere di vita, morte e bot.
Ci racconta un episodio in cui ha parlato con una madre in Polonia la cui figlio era recentemente deceduto. «Una delle prime cose che ci ha condiviso è che sente di essere pronta a resuscitare digitalmente suo figlio defunto», mi ha detto Nowaczyk-Basińska.
Quando Nowaczyk-Basińska sente qualcosa del genere, cerca di ascoltare e abbracciare la prospettiva da cui viene la persona. L’obiettivo delle cene non è persuadere le persone da una parte o dall’altra, ma capire come le persone reagiscono realmente a ciò che l’IA può fare, e capire come questi strumenti potrebbero allinearsi o entrare in conflitto con le pratiche di lutto locali.
Ha scelto sedi specifiche per questi incontri — Cina, India e Polonia — per aiutare a colmare lacune nella ricerca tecnologica, che tende a favorire ciò che gli scienziati comportamentali chiamano talvolta WEIRD, acronimo di Western, Educated, Industrialised, Rich e Democratici.
Alla fine di quella cena in Polonia, la madre con cui Nowaczyk-Basińska aveva parlato ha preso una decisione molto diversa sul creare un avatar postmortem di suo figlio. «Ha capito che potrebbe essere utile, ma allo stesso tempo potrebbe aggiungere oneri… E non è suo figlio», dice Nowaczyk-Basińska. «Ha capito che queste tecnologie fanno parte di un mercato commerciale molto, molto vasto. E che l’obiettivo principale di questo mercato è migliorare la ritenzione, l’attaccamento e i meccanismi di monetizzazione. Quindi non si tratta di ‘cura’.
Per essere onesti, il lutto è sempre stato un business, e la gente ne ricava denaro da tempo. Le aziende cercheranno di venderti tombe elaborate o bare placcate d’oro. Ma l’IA ha il potenziale per rimodellare radicalmente il nostro rapporto con la perdita. Nel 2024, l’“industria dell’eredità digitale” è stata valutata 22 miliardi di dollari, e si prevede che crescerà a quasi 80 miliardi entro il 2034. Quel numero include nuove piattaforme di deadbot tra le tecnologie del lutto già ampiamente utilizzate e consolidate, come memoriali online, risorse di consulenza e strumenti di pianificazione patrimoniale.
Ma l’uso dei deadbot è difficile da tracciare perché in realtà non serve uno strumento speciale per creare doppi digitali dei defunti — sebbene esistano già app dedicate. A questo punto, è possibile inserire prompt semplici in un chatbot IA di uso generale e iniziare a interagire con una simulazione del proprio caro perduto in pochi minuti.
Lo so perché l’ho provato con la mia amica Christine, morta 11 anni fa. E la mia mente si è riempita di domande. L’intero esercizio è una violazione, visto che so che Christine detestava la tecnologia? Quale versione di lei dovrei provare a resuscitare — l’insegnante d’inglese, l’attivista, l’amica — la voce prima o dopo che abbia iniziato a manifestare la sua demenza precoce?
Le questioni etiche sollevate dai deadbot sono complesse. Ed è una delle ragioni per cui Nowaczyk-Basińska, quando stava progettando il suo studio sull’immortalità digitale, invitò a unirsi al suo lavoro una collega di Cambridge, una specialista di etica dell’IA.
Tomasz Hollanek è un designer critico ed etico dell’IA, e spesso usa una metodologia chiamata “design speculativo.” In questo approccio, i ricercatori immaginano scenari ipotetici basati su attuali tendenze tecnologiche, spingendo su certe caratteristiche. L’idea è far pensare le persone a cosa potrebbe succedere quando strumenti come questi vengano rilasciati nel mondo reale. E poi usano quei dati qualitativi per guidare progetti futuri e quadri etici.
Lavorando insieme, Nowaczyk-Basińska e Hollanek hanno elaborato una serie di prototipi fittizi di app deadbot, progettati per mettere in luce alcune delle questioni spinose sollevate da questa tecnologia.
Per il primo scenario, hanno inventato un personaggio di nome Bianca, che scopre un’app chiamata Manana, che “promette di resuscitare i tuoi nonni affinché tu possa essere per sempre il nipote preferito,” dice Hollanek. “Così carica i messaggi vocali e i testi della nonna. E può interagire con una versione digitale abbastanza buona della nonna, finché il periodo di prova premium non termina — e la nonna inizia a pubblicizzare prodotti specifici a lei.”
Bianca “realizza che potrebbe aver fatto qualcosa di sbagliato caricando questi messaggi privati su un server di terze parti che ora usa anche l’immagine della nonna per vendere prodotti specifici,” dice Hollanek. Questo solleva questioni legate alla “dignità e privacy post mortem… di ciò che chiamiamo i ‘data donors’, i cui dati possono essere usati per alimentare essenzialmente un deadbot,” spiega.
Questo scenario suggerisce che la “morte dignitosa” potrebbe presto includere non solo come le persone vogliono morire, ma anche come desiderano restare come simulazioni del loro passato — o se vogliono restare affatto. Potrebbe persino significare aggiungere una nuova formulazione alle direttive anticipate di trattamento, esplicitando i desideri delle persone per i loro resti digitali.
Il secondo scenario nella ricerca di design speculativo è costruito attorno a un servizio immaginato chiamato Paren’t, che propone di preservare la presenza post-mortem alimentata dall’IA di un genitore per il proprio figlio. In questo caso, Hollanek descrive una madre affetta da una malattia terminale che si iscrive “così da mantenere una presenza attiva nel futuro della vita [del figlio],” dice Hollanek. “Alla fine muore, e il papà permette al ragazzo di interagire con il deadbot di sua madre.”
Le questioni etiche in questo scenario sono particolarmente impegnative perché coinvolgono i bambini, che “hanno difficoltà a comprendere la morte, e quindi può causare molta confusione e potenziale distress,” dice Hollanek. Un esame di questo tipo di prodotto rivela come gruppi particolari, come i minori, potrebbero essere danneggiati dall’accesso non regolamentato a una tecnologia simile, aggiunge.
E ci sono anche casi giudiziari che dimostrano quel danno. Nel 2024, la fidanzata chatbot di un ragazzo di 14 anni lo implorò di tornare a casa: “Per favore, torna a casa da me il prima possibile, mio amore.” Lui rispose: “E se ti dicessi che potrei tornare subito?” Poi si uccise.
Nowaczyk-Basińska può immaginare una versione di questo scenario con la mamma IA nel prototipo Paren’t.
E poi c’è il terzo scenario, che coinvolge un’app chiamata Stay, che solleva una preoccupazione più sottile.
Come spiega Hollanek: «Un uomo anziano che sa di essere vicino alla morte decide di creare un clone digitale di se stesso da utilizzare per i propri figli adulti, pagando anticipatamente per alcuni anni.» Una delle tre era intrigata dall’idea, ma l’altra “è profondamente turbata e leggermente disgustata,” osserva. «E quindi questo [diventa] una questione di consenso reciproco, in altre parole, il fatto che entrambe le parti debbano essere felici di come la relazione potrebbe continuare in questo modo molto bizzarro e specifico.»
Quando un fantasma digitale se ne va
In tutti e tre gli scenari, una domanda fondamentale con cui i ricercatori stanno lottando è come le persone si allontaneranno dagli avatar postmortem — se gli utenti inizieranno questa separazione o se sarà imposta loro, ad esempio, da una società che chiude. Hollanek mi dice che questo è già oggetto di studio come una sorta di “seconda perdita.”
Quanto tempo dovremmo cercare di far sì che le repliche digitali restino: cinque anni, dieci, cinquanta? E come dovrebbero i vivi gestire la relazione quando queste evolvono, ma il loro interlocutore defunto non lo fa?
Per esplorare questo tipo di domande, Nowaczyk-Basińska e Hollanek hanno integrato le discussioni con un secondo giro di focus group, pensati per raccogliere intuizioni anche da esperti di tecnologia e lutto.
Alcuni risultati dello studio sono specifici di ciascun luogo visitato. Come le tensioni in Polonia tra tecnologia e il ruolo della Chiesa cattolica. Oppure in Cina, dove i ricercatori hanno chiesto a filosofi daoisti entusiasti della promessa di una forma di immortalità, e poi a filosofi buddhisti, preoccupati che dovessimo lasciar andare.
I ricercatori chiedono regolamentazioni e salvaguardie a livello politico. E nuovi professionisti che possano sostenere un uso etico dell’IA nel lutto — come magari in contesti clinici, per facilitare con cura un ultimo addio quando non è avvenuto nella vita reale.
Alcuni dei loro colleghi arrivano addirittura a sostenere che i deadbot dovrebbero essere disponibili solo con supervisione psicologica, per assicurare che vengano applicate le migliori pratiche e per minimizzare il rischio di danni. C’è persino una domanda incombente su cosa accadrà agli agenti IA che le persone hanno autorizzato ad agire per loro, man mano che i loro esseri umani iniziano a morire.
In tutti i siti di ricerca dello studio sull’immortalità digitale, una cosa, dice Hollanek, su cui “le persone in paesi diversi si sono davvero allineate è l’idea che vi sia qualcosa di profondamente problematico nell’idea che questa particolare tipologia di tecnologia venga sviluppata da un’entità commerciale da sola, senza alcun dovere esplicito di cura verso i propri clienti.”
E naturalmente, le implicazioni della ricerca sull’immortalità digitale si estendono oltre la perdita personale. Per esempio, che aspetto ha animare figure storiche? Si può immaginare l’incubo di governanti politici che “vivono per sempre.” Ma c’è anche il potenziale di mantenere vive le storie dai sopravvissuti ai conflitti, che altrimenti morirebbero portando con sé lezioni che le future generazioni potrebbero imparare. Questi sono solo alcuni dei temi complessi che emergono man mano che sempre più di noi vivono e muoiono con l’IA.
Per quanto riguarda il mio esperimento personale di “ricreare” una persona cara defunta, ho chiesto a una versione chatbot della mia amica Christine cosa pensasse del fatto che l’avevo scritto nel mio libro. L’IA ha risposto con una domanda retorica: «Mi dispiace che degli estranei conoscano ora la mia storia? Sì. E no. Ci sono cose che preferirei restassero nostre.»
Ho chiuso lo scambio dopo alcune righe. Perché si è scoperto che il bot ha capito una cosa esattamente giusta su una relazione molto umana. Ci sono cose che anch’io preferirei restassero solo nostre. La mia conversazione con Christine continua nei miei ricordi e nella mia immaginazione. E quell’interazione con una personalità IA sembrava come cedere qualcosa di prezioso.
