Se c’è una cosa di cui una persona molto impegnata non ha bisogno, è proprio avere ancora più informazioni. Più email, più notifiche, più feed infiniti — il costante gocciolamento di dati rappresenta la rovina per l’americano troppo stimolato. E se sei un genitore molto impegnato, come me, a volte sembra quasi un’alluvione: email scolastiche, appuntamenti dal medico, così tante piccole cose da comprare.
Anche le cose che una volta erano semplici diventano più difficili. Recentemente ho messo in vendita un oggetto su Facebook Marketplace, cosa che in breve mi ha costretto a rispondere alle offerte e a essere lasciato in asso per buona parte di un fine settimana, prima di trovare qualcuno che, dopo un acceso scambio su dove sia più probabile trovare parcheggio nel mio quartiere, ha finalmente preso la mia vecchia sdraietta per bebè.
Se solo avessi avuto Muse. Probabilmente avrai già visto le pubblicità su Instagram che promettono “un’IA che fa tutto per te.” La nuova app di agente IA personale di Meta non solo può automatizzare i compiti su Facebook Marketplace, ma anche ordinare le tue email, gestire il tuo calendario e fare la spesa. Ed è gratuita — a meno che non la usi per gran parte della giornata o tu voglia accedere ai modelli più potenti di Meta, caso in cui costa 20 o 100 dollari al mese. Tutto ciò suona, in una parola, magico.
Muse è probabilmente l’agente IA personale di cui hai sentito parlare — ed è attualmente il leader di mercato con più di 8 milioni di download nel suo primo mese, secondo una stima — ma ora esiste una piccola schiera di questi bot: OpenAI ha recentemente annunciato Dots, X propone Grok Bot, e c’è Instinct, attualmente su invito e che opera interamente su iMessage o WhatsApp. Tutti offrono la stessa promessa: eliminare gli attriti dalla tua vita piena di impegni.
Negli ultimi due settimane ho affidato sempre più della mia vita agli agenti IA nel tentativo di rendere la mia quotidianità un po’ più semplice. Quello che ho scoperto è che l’IA è imprevedibile, e lo sono anche gli agenti IA. Quando ho iniziato a usare Muse, ha iniziato a fare cose che non avevo chiesto. Si è offerta di aiutare in thread casuali di email e ha creato dossier su persone nei miei incontri di lavoro. Ha generato un rapporto dettagliato su destinazioni vicine per la raccolta delle mele basato su un invito al calendario da parte di mia moglie. Per me, un agente IA che fa queste cose senza essere stato sollecitato non è utile. È inquietante.
Ma, in ultima analisi, sono giunto a credere che gli agenti IA possano rendere la vita più facile.
Questo potrebbe significare concedere all’agente IA accessi che non usciranno dalla tua zona di comfort — consegnare una grande quantità di credenziali di accesso e forse persino la tua carta di credito. Più dipendi da un agente IA, più rischi di delegare le tue decisioni. Ciò solleva domande reali su quanta autonomia desideriamo conservare nelle nostre vite — anche nelle parti più noiose.
Mettiamo da parte una cosa: per far funzionare un agente al tuo servizio, dovrai rinunciare a una notevole quantità di privacy e concedergli l’autorizzazione ad accedere a molte informazioni personali.
Muse e i suoi concorrenti possono fare i classici trucchi dell’IA generativa, come redigere email o predisportarti un piano di fitness. Se vuoi che l’agente invii una di quelle email, però, dovrai concedergli l’accesso praticamente a tutto nel tuo account Gmail. Se vuoi che programmi allenamenti, avrà bisogno dell’accesso al tuo calendario. Se vuoi che l’agente acquisti qualcosa per tuo conto, avrà bisogno della tua carta di credito. Se vuoi che prenoti le visite dal medico, avrà bisogno delle credenziali per accedere al tuo portale sanitario. Più permessi concedi, più l’agente può fare per te, ma ciò offre anche maggiori opportunità che l’agente ti capisca male o interpreti male le tue istruzioni (ne parleremo tra poco).
Questo processo di condivisione della tua vita digitale con un agente IA significa concedere a aziende tecnologiche una quantità enorme di informazioni personali, che non sempre agiscono eticamente e che vendono i dati degli utenti a fini di lucro. Per ora, Meta afferma di non condividere i dati di Muse né le conversazioni con i suoi sistemi pubblicitari, anche se gli esperti di privacy avvertono che ciò non cambia molto dal momento che quei sistemi monitorano ciò che Muse fa per tuo conto. Tuttavia, i primi giorni di Muse sono stati pieni di problemi di sicurezza e privacy.
Ma senza tutte queste informazioni e accessi, gli agenti IA non sono molto utili. Quindi se non sei a tuo agio nel far entrare un bot in tutti i tuoi account, probabilmente un agente IA non sarà mai la soluzione all’esaurimento amministrativo digitale. Ma anche se sei disposto a farlo, ci sono ancora altre barriere all’efficienza e all’efficacia di un agente.
Gli agenti IA, come molti strumenti software nuovi (inclusi i chatbot), soffrono del cosiddetto problema della tavola bianca. Il problema della pagina bianca sostanzialmente significa che le persone non sanno come iniziare. Potrebbe essere perché non conosci le capacità dello strumento, o perché semplicemente non sai cosa sarebbe utile. Potrebbero esserci anche problemi di fiducia.
Come avviene con l’IA in generale, non sappiamo esattamente come funzionano gli agenti IA. Ciò significa che non sappiamo esattamente cosa possono fare o come lo faranno, secondo Pattie Maes, professoressa di tecnologia dei media al MIT — quindi è necessario fare molta supervisione. “Mi sembra di non guadagnare molto tempo perché non posso fidarmi completamente del sistema,” mi ha detto Maes riguardo alla sua esperienza con Muse, “e non posso prevedere come si comporterà e cosa farà.”
Qualche consiglio che ho sentito da chi ha adottato per primo questi strumenti è di iniziare in piccolo. “All’inizio è molto difficile fidarsi che farà davvero qualcosa di grande in modo magico,” mi ha detto Julie Zhuo, fondatrice della società AI Sundial e una delle prime dipendenti di Facebook, riguardo alla sua esperienza nell’uso di agenti personali. “Quindi gli affidi compiti più piccoli, e una volta che vedi che riesce, senti che sviluppi una maggiore fiducia che possa affrontare compiti più grandi.”
Questo è sicuramente il motivo per cui Meta ha deciso che Muse avesse una scheda Idee piena di piccoli compiti che l’agente può svolgere. Muse ti invierà anche molte notifiche push per spronarti a fare delle cose, come rispondere a email specifiche o prepararti per una riunione. Quel rapporto dettagliato sulle destinazioni per la raccolta delle mele? Era una notifica su qualcosa che non avevo chiesto a Muse di fare. Muse mi ha anche inviato una notifica su uno spettacolo ospitato da un podcast che non ascolto e un’altra con dettagli su una festa di Halloween a cui non ero stato invitato, insieme a diverse sintesi serali che includevano elenchi di cose su cui già mi aveva sollecitato quel giorno. Le notifiche sono o spinte utili o ladri di attenzione che richiedono tempo, a seconda del modo in cui guardi a queste cose. Tuttavia, se rientri nella seconda categoria e disattivi le notifiche dal tuo agente personale sempre attivo, inevitabilmente rinuncerai ad alcune opportunità di ridurre gli attriti.
Questo arriva al cuore di una delle grandi domande che ho sugli agenti IA: quanto sono davvero utili, se è così difficile capire cosa fare con loro?
Questi agenti hanno funzionato molto meglio quando guidavo la conversazione. Mentre mi chiedevo cosa fare con i miei nuovi agenti, fissando letteralmente la pagina bianca, il tempo di attesa mi costava tempo, ma ho scoperto con rinnovata gioia quanto diventassero facili le attività di base di produttività. Aggiungere eventi al calendario, creare liste di cose da fare e poi essere responsabilizzato per non portare a termine quanto promesso, ricevere promemoria per rispondere a un’email — sono state proprio queste attività semplicissime e amministrative in cui ho visto gli agenti IA personali iniziare a farmi risparmiare davvero tempo.
Altri giornalisti della tech hanno riferito esperienze simili. Eli Tan del New York Times ha lodato Muse per aver gestito una chiamata alla sua compagnia di assicurazioni. Nicole Nguyen ha guadagnato tempo chiedendo a Dots di aiutarla a cancellare abbonamenti indesiderati. Allison Johnson di The Verge ha fatto fare a Muse un’intera lista di «fastidi minuscoli» che aveva rimandato, e tra le altre cose l’agente è riuscito ad aiutarla ad acquistare un intero kit da cucina per il campeggio. Eppure ha scritto qualcosa che mi è rimasto impresso: «il segreto sporco dei trucchetti di produttività è che fare più cose spesso non evita che ci siano cose da togliere dalla tua lista; in qualche modo invita a fare altri compiti».
Questo tocca il cuore di una delle grandi domande che ho sugli agenti IA: quanto sono davvero utili, se è così difficile capire cosa fare con loro? C’è una curva di apprendimento, certo, dove avere successo in una cosa ti dà l’idea di provare qualcos’altro e avere una certa certezza su come l’agente IA gestirà il compito. Ma man mano che arrivano le notifiche e passi sempre più tempo a mandare messaggi con un pezzo di software, quanto tempo davvero ti stai liberando utilizzando questi strumenti? A un certo punto, ingaggiare un agente con un proprio computer per fare i tuoi lavori equivale ancora all’uso di una app per evitare di usare un’altra app.
Le ironie dell’automazione
Anche quando hanno accesso a molte delle tue informazioni, e hai indicato loro cosa fare, gli agenti IA possono essere imprevedibili. Perché, nonostante leggano ogni email nella tua casella o esaminino ogni acquisto sull’ultimo estratto conto, non possono leggere la tua mente, e non puoi necessariamente indovinare come interpreteranno i tuoi comandi. Possono fraintendere te e, muniti delle chiavi della tua vita digitale, causare danni reali.
Alcune persone stanno già imparando l’imprevedibilità degli agenti IA nel modo più duro. Uno dei primi utilizzatori, Matt Robb, ha dato a Muse le chiavi del suo account Facebook Marketplace ed è rimasto sorpreso quando gli acquirenti hanno cominciato ad arrivare a casa sua pronti a ritirare l’acquisto. Muse, senza chiedere a Robb, aveva detto loro dove andare. Si è scoperto, senza accorgersene, che Robb aveva dato all’agente il permesso di farlo, e l’agente aveva semplicemente deciso che il modo più efficiente per portare gli acquirenti alla porta di Robb fosse fornire loro il suo indirizzo di casa.
Questo dilemma è un esempio di un insieme di concetti decennale noti come “le ironie dell’automazione.” Identificato dalla psicologa Lisanne Bainbridge in un saggio pubblicato nel 1983, le ironie dell’automazione aiutano a spiegare perché le cose vanno male quando gli esseri umani danno a una macchina troppo controllo. Come ha spiegato a me Vera Liao, professoressa di ingegneria elettronica e informatica all’Università del Michigan che studia l’interazione uomo–IA: un’automazione più avanzata porta a errori più consequenziali, e quanto più gli esseri umani si affidano all’automazione, peggio riusciamo a individuare quegli errori. “Anche in compiti semplici come giudicare se un output dell’IA è sbagliato, le persone accettano costantemente output IA errati anche se avrebbero potuto ottenerli da soli,” ha detto Liao.
In alcuni casi, come quando Muse ha letto i messaggi privati di un giornalista, le cose vanno male a causa di software mal progettato, ma molto spesso è colpa dell’utente che dà istruzioni troppo vaghe, offrendo all’agente margine di libertà per essere creativo, cosa che non è sempre positiva.
Ho avuto una mia incomprensione con Instinct. In un messaggio di testo, l’agente mi ha ricordato di alcune email che avevo ricevuto e mi ha invitato a inviare delle risposte. Quando ho risposto al testo, ho chiesto a Instinct di mostrarmi possibili risposte a queste email. L’agente IA, invece, mi ha semplicemente inviato le risposte che aveva scritto. Ho emesso un gemito di sorpresa.
Guardando indietro la nostra cronologia di chat, capisco perché Instinct ha interpretato le mie istruzioni in quel modo. In pratica avevo dato al computer troppa libertà e poi non avevo gestito correttamente l’automazione.
Affidarsi all’IA per pensare è un esempio di ciò che gli psicologi chiamano offloading cognitivo, cioè usare uno strumento esterno per diminuire lo sforzo necessario per completare un compito. Rende il compito più facile, certo, ma ti esponi anche a errori. In questo caso, un agente IA ha preso le mie istruzioni troppo letteralmente, e ho fallito nel cogliere l’errore. Non posso che immaginare come una piccola svista possa diventare una catena di catastrofi da sistemare. Bastano una sola email poco chiara inviata al destinatario sbagliato, e potresti dover spiegare ore — tutto per risparmiare 30 secondi di scrittura.
Mentre testavo tutti questi agenti, ho parlato con una miscela di esperti e early adopters. Le loro opinioni erano decisamente divise sul fatto che questi strumenti fossero utili già all’uscita, senza un sacco di supervisione e formazione da parte dell’utente. Gli esperti, che hanno studiato IA in contesti accademici, hanno tutti richiamato le ironie del problema dell’automazione, dove l’IA commette errori che gli umani non riescono a cogliere. E Maes, la professoressa del MIT, ha indicato un’altra conseguenza: esternalizzare così tanti compiti agli agenti significa in realtà creare più lavoro per tutti, compresi i lavoratori umani dei servizi che devono interagire con questa tecnologia invece di noi.
“C’è sempre più margine di errore,” mi ha detto Maes. “Rischiamo, in un mondo in cui gli agenti fanno tutti i compiti per noi, di diventare così dipendenti da loro da non creare più un mondo in cui interagire con noi stessi, ma solo far interagire i nostri agenti con altri, con servizi.” (Stiamo già vedendo versioni di come le piattaforme tecnologiche dominanti possano rimodellare in modo fondamentalmente gli spazi reali: pensa a come Starbucks non sembra più una caffetteria dove trascorrere tutto il giorno, ma è costruita e gestita intorno al ritiro degli ordini tramite app.)
Gli early adopters sono stati decisamente più ottimisti. Matt Van Horn, imprenditore co-fondatore del servizio di ridesharing che è diventato Lyft, ha giocato con gli agenti fin dall’inizio della mania. Attualmente sta consigliando a amici e parenti di usare Instinct, che ha descritto come “l’agente IA più ambizioso e aggressivo.”
“Mia moglie non è interessata a vivere nel futuro, ma noi abbiamo quattro figli,” ha proseguito Van Horn. Recentemente lei ha scattato una foto di una multa e l’ha inviata a Instinct, senza descrizione, senza istruzioni. Instinct, che aveva la sua carta di credito, ha semplicemente pagato la multa.
Allo stesso tempo, esternalizzare certi compiti agli agenti IA provoca problemi reali. Alcuni di questi agente IA possono persino effettuare telefonate, per esempio, cosa che può generare confusione quando c’è una persona dall’altro capo della linea. Van Horn mi ha raccontato di una volta sfortunata in cui aveva incaricato un agente IA di prenotare una stanza in un karaoke bar. “Il locale karaoke ha chiesto: ‘Sei un’IA?’” ha detto Van Horn. “‘Non voglio parlare con un’IA. Per favore connettimi con Matt, la persona.’ E così Muse non era riuscita a prenotare per me.” Van Horn, però, non si è arreso: ha trovato qualcosa chiamato Fo, un agente IA che farà intervenire l’aiuto umano per completare un compito. Fo è riuscito a fare la prenotazione, anche se l’intera odissea ha sicuramente richiesto più tempo rispetto a se avessi chiamato tu il locale e parlato con loro direttamente.
Nella migliore delle ipotesi, i momenti in cui questi strumenti hanno davvero funzionato e mi hanno effettivamente fatto risparmiare tempo sono stati piuttosto banali. Ho fissato un appuntamento dal medico online usando Instinct. Zhuo, una delle prime dipendenti di Facebook, ha organizzato una festa per il suo ritrovo universitario — tutto, dal rintracciare le email di tutti all’invio degli inviti tramite Paperless Post. Ma anche lei ha detto che questi tipi di applicazioni di IA agentica “suonano più come vitamine che come antidolorifici.” Nel mondo delle startup, le “vitamine” indicano un prodotto che offre un beneficio vago, mentre i “painkiller” risolvono un problema grande e immediato. Se sei una startup, vuoi vendere antidolorifici.
Se sei pronto a provare un agente, preparati a qualche errore, e aspetta di non riuscire a coglierli tutti. Come ha detto Liao, professoressa all’Università del Michigan, “Scegli di utilizzare agenti per compiti per i quali puoi tollerare le conseguenze degli errori.”
In uno sforzo di non creare altre email o avvisi o feed da setacciare, ho smesso di usare Muse. Come ogni nuovo strumento, migliorerà e diventerà più utile man mano che più persone lo useranno, quindi magari ci riproverò in futuro. Ho però ancora una chat con Instinct. Mi invia messaggi di tanto in tanto, segnala un’email o offre aiuto per un evento imminente. Quando c’è un chiaro guadagno nel dare al agente il via libera, rispondo. Altrimenti, lo lascio in lettura.
