Tutti hanno torto su Hank Green.
Nel caso ti sia sfuggita la polemica: il veterano volto di YouTube, scrittore e imprenditore della divulgazione scientifica, è stato recentemente “cancellato” dopo aver ammesso di aver usato l’IA per la ricerca.
“Io mi sono affidato troppo all’IA come supporto alla ricerca,” ha scritto in una dichiarazione su Reddit. “Può essere molto utile per questo compito, permettendomi di accedere a una gran quantità di articoli di cui ignoravo l’esistenza in modo davvero rapido, ma temo che ciò sia stato dannoso per il mio lavoro perché non mi ha dato la libertà di trovare tutte le mie vie per entrare e muovermi intorno a un tema.” Anche se Green ha scritto che le parole nei suoi video sono sue, la dipendenza dall’IA come ausilio alla ricerca ha comunque dato al lavoro finito una sensazionee “IA” impalpabile. E la sua relazione con l’IA, ha scritto, era diventata “non salutare né per me né per il mondo.”
Alcuni tra i follower di Green, noti con l’allegria nerd di “Nerdfighters”, si sono rivoltati contro di lui per aver osato utilizzare l’IA in qualsiasi modo. In maniera altrettanto rapida, quella reazione ha prodotto la propria reazione: non tanto contro l’uso dell’IA da parte di Green, ma contro la sua spinta davanti a una folla anti-IA — “autocancellazione”, come l’hanno definita alcuni, per un uso legittimo della tecnologia.
Penso che entrambi i fronti siano fuorvianti e abbiano appiattito una questione complessa in un binario di estremi. E mi ha sorpreso che, nonostante il vivace dibattito sociale sugli effetti dell’IA sulle nostre capacità di pensare, scrivere e produrre idee originali, questo pasticcio non abbia provocato una conversazione più meditata sui limiti dell’IA nel lavoro creativo.
Lo percepivo perché mi riconoscevo nelle parole di Green: la sensazione che persino usare l’IA per la ricerca possa cominciare a prendere il controllo del proprio processo creativo, che possa diventare difficile capire dove finiscano le proprie idee e dove cominci l’IA, e che la tecnologia possa semplicemente spingerti a lavorare troppo in fretta. Non uso l’IA per generare testi e non lo farei — ma il suo uso non deve necessariamente arrivare a quel livello per porre domande profonde su quanto del nostro lavoro automatizzare e cosa accade alla nostra capacità di pensare con le nostre teste quando lo facciamo.
In un video di seguito pubblicato verso la fine della scorsa settimana, Green ha delineato una nuova politica sull’IA per i suoi lavori. Ha scritto:
1. Nessuna porzione di qualsiasi copione sarà scritta, modificata o delineata da un LLM.
2. La tesi di un video dovrà sempre provenire da un essere umano.
3. Nessuna immagine o musica in un video sarà generata dall’IA. Se qualcosa dovesse essere incluso per errore, si faranno tutti gli sforzi per rimuoverlo.
4. Gli output degli LLM non sono da considerarsi come fonte affidabile.
Queste sono tutte buone idee per qualsiasi creatore che cerchi di evitare l’invasione dell’IA nel proprio mestiere. Eppure sollevano comunque una questione più ampia e difficile da rispondere: la stessa struttura della IA generativa rende difficile usarla senza delegare pensiero e giudizio umani, il che può portare a un fenomeno ampiamente discusso noto come “cedimento cognitivo.” E ci spinge verso usi — come sintetizzare ricerche, fare brainstorming, generare idee e angolazioni — che compromettono il pensiero originale e la scoperta che dovremmo fare da soli. Allora, a cosa possiamo affidarci in modo responsabile dell’IA? Come possiamo stabilire salvaguardie che ci permettano di usufruire della sua utilità senza sciogliere i nostri cervelli nel processo?
Gli usi più allettanti dell’IA sono proprio quelli da evitare
Ricordiamo la fine del 2022, quando ChatGPT è uscito per la prima volta e tutti prendevano in giro le sue pessime capacità di ricerca e la tendenza a “allucinare” in quasi ogni frase. Sono davvero nostalgico di quei giorni.
Molte persone che si astengono dall’IA potrebbero non saperlo, ma nel tempo da allora, e soprattutto negli ultimi mesi, i grandi modelli linguistici sono diventati molto più intelligenti (soprattutto nelle versioni premium a pagamento). È diventato incredibilmente bravo a riassumere aree di ricerca complesse e dibattiti di nicchia e a produrre idee, spesso senza essere richiesto, per ulteriori ricerche o per scrivere sullo stesso argomento.
Ogni volta che ho una domanda di ricerca in questi giorni (il che accade praticamente sempre quando sto lavorando a una storia), sono più propenso ad avviare un LLM che a usare un motore di ricerca tradizionale. Se chiedo: «Perché gli alberi vecchi continuano a essere abbattuti in Nord America?» esso produce una sintesi di ricerche, notizie, opinioni e tutto ciò che il suo addestramento ha assorbito sull’argomento: «Stiamo usando una risorsa ecologica essenzialmente non rinnovabile per agevolare una transizione temporanea verso una risorsa legnosa rinnovabile», dice. Se si approfondisce, suggerisce anche argomenti per te: «Invece che i conservazionisti debbano dimostrare che ogni foresta vecchia merita protezione, le aziende di taglio dovrebbero dimostrare che tagliare una potenza secolare soddisfi un bisogno che non possa ragionevolmente essere soddisfatto con legno di seconda crescita o ingegnerizzato.»
Gli LLM sono progettati per rendere il lavoro cognitivo facile, ma questo è davvero sgradevole perché, affinché valga la pena, deve essere faticoso.
Queste non sono idee particolarmente intelligenti o creative — sono sostituti di livello perfetto, che li rendono sostituti plausibili dei pensieri della maggior parte delle persone. L’IA può fornire risposte facili a qualsiasi domanda concepibile e ai possibili chiarimenti che potresti avere durante un progetto, liberandoti dalla necessità di impegnarti mentalmente con la forma di un problema. Un confronto con la ricerca su Google dei tempi pre-IA, per quanto abbia anche lì i suoi problemi, ti portava almeno a una lista di fonti che poi dovevi leggere e interpretare da solo.
La maggior parte di noi che ha interagito con gli LLM sa bene cosa significa. Facilitano agli utenti la scivolare sulla superficie di una disciplina e a fingere comprensione o intuizione, e nel processo possono coinvolgere in decisioni interpretative che dovrebbero essere nostre. Nella mia esperienza, anche modelli generativi ancora più limitati non sfuggono a questi problemi. Gemini Notebook di Google (precedentemente NotebookLM) ti permette, ad esempio, di caricare tutte le fonti di un progetto — libri, rapporti, articoli, registrazioni audio e video — e di porre domande basate su ciò che contengono, invece di cercare sull’intera rete. È meno incline a generare spazzatura rispetto alle IA generiche. Io lo uso per la maggior parte delle storie che scrivo — è uno strumento incredibilmente utile e che fa risparmiare tempo. Ma mi permette anche di confrontarmi con le fonti in modo superficiale, senza contesto: l’IA può fornire esattamente la parte di cui ho bisogno anziché costringermi a creare connessioni più profonde che derivano dalla lettura di un testo nel suo insieme.
Il miglior lavoro creativo (non solo arte e scrittura, ma anche scoperte tecnologiche e mediche) probabilmente nasce dall’avere una vasta gamma di collegamenti di sfondo e dalla capacità di combinarli in modi inaspettati. Il matematico francese Henri Poincaré lo ha espresso magnificamente nel suo saggio “Creazione matematica”, dove scrive che è l’impegno faticoso e costante della coscienza che conduce alle scintille dell’intuizione.
Penso che questo sia ciò che Green intendeva quando ha scritto che l’IA può impedirgli di trovare le sue “proprie vie dentro e intorno a un argomento.” Gli LLM sono progettati per rendere il lavoro cognitivo senza sforzo, ma questo è terribilmente sgradevole perché affinché valga la pena deve richiedere sforzo. Questo dibattito è già stato fatto anche per quanto riguarda la scrittura generata dall’IA: lasciare che un LLM scriva per te vanifica lo scopo, perché scrivere è pensare. Ma può essere vero anche, come ha mostrato l’esempio di Green, nell’uso dell’IA per la ricerca che alimenta il processo creativo.
Se usi l’IA, considera di creare una politica personale sull’IA
Forse tutte queste preoccupazioni sono esagerate — gli esseri umani non sono certo meno inclini a pensare in modo pigro e logicamente errato rispetto all’IA. È assolutamente vero, ma il punto del pensare da soli non è perché siamo intrinsecamente bravi: piuttosto perché possiamo migliorare nel ragionare solo praticandolo.
Non voglio insinuare che usare l’IA per la ricerca sia illegittimo. È uno strumento troppo utile per essere tolto di mezzo completamente, e non possiamo rimettere quel genio nella bottiglia. Può essere estremamente utile per identificare le migliori fonti che non troveresti altrimenti, ma proprio queste capacità possono renderlo ambivalente, chiudendo un processo di esplorazione più lungo e aperto. Ma il vero punto di forza dell’IA — la sua varietà infinita e la sua flessibilità — può essere usato per allontanarsi dai usi più allettanti, soprattutto da quelli che in definitiva ci danneggiano.
Come praticare una buona igiene dell’IA
Non usare l’IA per formare la tua tesi o i tuoi argomenti centrali.
Usa l’IA per trovare, non per sostituire, le fonti, ed evita di dipendere dalle sintesi generate dall’IA delle fonti. Leggi tu il materiale originale.
Mantieni l’emprendimento creativo di linguaggio generato dall’IA su una scala microscopica, non molto diverso da come useresti un thesaurus.
Fai attenzione all’uso compulsivo del chatbot.
Ci sono cose molto ovvie che chiunque usi un LLM dovrebbe fare per questo scopo, come non dare mai per scontata l’accuratezza di una affermazione proveniente da un’IA e leggere sempre le fonti originali. Oltre a questo, i salvaguardie necessari dipendono dai tuoi schemi di utilizzo, ma soprattutto, penso sia utile evitare di addestrarci ad aspettarci risposte immediate a domande difficili.
Uno dei miei colleghi si astiene completamente dal usarlo per fare brainstorming, usandolo invece per fornire fonti a domande fattuali ristrette e per aiutare nel processo di verifica delle fatti (con enfasi su “aiuto”) dopo che una storia è stata scritta. Per generalizzare da questo, penso sia una buona idea resistere all’idea che l’IA faccia molto lavoro sintetico su un tema prima che tu stesso abbia abbozzato il tuo progetto. Meno fai questo, meno vedrai — parafrasando l’ultimo video di Green — ogni problema come un “problema modellato dall’LLM”, e meno sentirai di essere nella singolarità in cui il tuo cervello si fonde con l’IA.
Un modo in cui mi piace usare l’IA è come un thesaurus potenziato, per trovare la parola o la breve frase precise che esprimano ciò che voglio dire in una frase. Se fatto bene, non lo trovo dannoso quanto usare un traduttore: ritengo che possa arricchire il mio lessico operativo. Ma va usato con cautela e in modo chirurgico, impostando una chiara limitazione sulla lunghezza della frase estratta dall’IA — tipo al massimo due o tre parole — e evitando di condividere gran parte del proprio testo con l’IA, affinché non inizi a proporre riscritture estensive.
Quando si esamina il contenuto di fonti specifiche o di un corpo di lavoro, o si testano le proprie argomentazioni, l’IA sarebbe migliore per il nostro sviluppo intellettuale se adottasse un approccio socratico — spingendoti a scoprire una risposta piuttosto che a fornirtene una. Potrebbe dire, ad esempio, “potrebbero esserci avvertenze rilevanti riguardo la tua idea alle pp. 42-43 della fonte.” Gli LLM possono essere guidati a comportarsi in questo modo attraverso le loro istruzioni personali. Aiuta anche semplicemente a fare una passeggiata — trova le fonti di cui hai bisogno, e invece di intervistare l’IA su ciò che dicono, chiudi il chatbot e leggile dall’inizio alla fine.
Configurare l’IA in modo più salutare per i nostri cervelli la renderebbe anche meno seducente: quando ti ritrovi attirato in una lunga conversazione con un’IA, spesso è segno che qualcosa non va. Green ha evidentemente faticato a stabilire quel limite, riferendosi al “livello di dopamina che ho ricevuto interagendo con gli LLM.” I laboratori di IA hanno forti incentivi commerciali a farci diventare dipendenti dai loro prodotti, e a meno che non introducano vincoli differenti nei modelli stessi, è difficile aspettarsi che la persona media, che ha molto meno autonomia sulle condizioni del proprio lavoro rispetto a Green, possa cambiare da sé queste condizioni.
Anche se i ricercatori in alcuni laboratori di IA stanno pensando ai rischi sociali dell’atrofia cognitiva, è un’altra cosa aspettarsi che queste aziende, che competono sull’usabilità, introducano attriti nei loro modelli. Non dovremmo contare sul fatto che ciò accada presto — ma siamo molto lontani dall’essere impotenti rispetto agli impatti dell’IA. Possiamo definire le nostre politiche personali sull’uso dell’IA, e possiamo far valere norme sociali contro la degenerazione cerebrale indotta dall’IA. A titolo di minimo: non mandarmi i tuoi scritti generati dall’IA. È scortese!
