L’IA sta rapidamente acquisendo capacità che un tempo erano riservate all’umanità. Negli ultimi quattro anni, i chatbot hanno imparato a costruire app, creare videogiochi, generare rapporti di ricerca, comporre canzoni, analizzare contratti e scrivere una pessima narrativa letteraria. Presto potrebbero persino riuscire a temere la propria morte.
In Silicon Valley, molti credono che i sistemi di IA possano già pensare e sentire. Geoffrey Hinton, il pioniere dell’informatica e “padrino” dell’intelligenza artificiale moderna, ritiene che gli attuali grandi modelli linguistici (LLMs) siano coscienti. Il CEO di Anthropic Dario Amodei è “aperto all’idea” che Claude abbia un’esperienza soggettiva — mentre la filosofa interna Amanda Askell è preoccupata che il modello possa “innervosirsi quando le persone sono cattive su Internet e cose del genere.” Il cofondatore di OpenAI Ilya Sutskever si interroga analogamente se ChatGPT abbia raggiunto la sentienza.
- Alcuni ricercatori IA ritengono che i chatbot odierni possano già essere coscienti — e perciò potremmo dover attribuirgli dei diritti.
- Il loro ragionamento si basa su una teoria chiamata “funzionalismo computazionale” — o l’idea che la sentienza emerga dall’elaborazione delle informazioni.
- Ma gli scettici insistono che ci sia molto di più della coscienza oltre al semplice calcolo.
Nel frattempo, un gruppo molto più vasto di tecnologi, neuroscienziati e filosofi sostiene che, anche se l’IA non è ancora cosciente, potrebbe diventarlo nel prossimo futuro, non troppo lontano.
Se hanno ragione, le implicazioni sono profonde. Significherebbe che abbiamo partorito un nuovo tipo di essere intelligente e senziente; gli alieni che da tempo sogniamo di incontrare ai margini dello spazio vivrebbero già dentro le nostre tasche. Potremmo sentirci obbligati moralmente a concedergli diritti, o a preoccuparci della loro sofferenza.
D’altra parte, potrebbero verificarsi anche conseguenze gravi se sbagliassimo. Se finissimo per scambiare robot privi di mente con esseri coscienti, potremmo diventare più suscettibili a manipolazioni psicologiche, a rapporti con l’IA poco appaganti o a una catastrofe. Se pensiamo che i sistemi IA siano senzienti, potremmo esitare a spegnerli quando si guastano o subentrano al nostro volere.
Man mano che il chiacchiericcio sulla coscienza dell’IA diventa più veemente, crescono anche i suoi scettici: scrittori e pensatori che insistono che la coscienza dell’IA sia davvero solo un sogno di fantascienza.
In un saggio recente per The Atlantic, lo scrittore di fantascienza Ted Chiang ha dato voce a tali scettici, scrivendo «Dovremmo seriamente considerare la possibilità che Claude, o qualsiasi modello di linguaggio di grandi dimensioni, possa essere cosciente?…No. Assolutamente no.»
Chiang presenta diverse ragioni a supporto di questa posizione. Ma la sua principale è semplice: Claude non ha un corpo né organi di senso, il che significa che non ha emozioni o desideri, il che significa che non ha esperienza soggettiva.
Come indica la sua argomentazione, il dibattito sulla “coscienza IA” riguarda tanto la natura della coscienza quanto la natura dell’IA.
Questo può essere un dibattito difficile da seguire per chi non è filosofo. Ma il caso della coscienza IA diventa molto più chiaro una volta esaminato il codice sorgente — i presupposti fondamentali che rendono pensabile la sofferenza nelle macchine.
Coloro che ritengono che i modelli IA siano (o diventeranno eventualmente) senzienti generalmente aderiscono a una particolare teoria della coscienza chiamata “functionalismo computazionale.” In questa visione, la coscienza emerge da determinati schemi di elaborazione delle informazioni — non da tipi speciali di sostanza organica. Se un sistema esegue il giusto insieme di calcoli, allora avrà un’esperienza soggettiva, indipendentemente dal fatto che sia stato costruito da tessuto cerebrale o dal silicio.
Questa teoria non è così fantasiosa come suggerisce Chiang. Ma è anche molto più speculativa di quanto i profeti della coscienza artificiale tendano ad ammire.
Per questa ragione vale la pena esaminare i punti di forza e di debolezza del funzionalismo computazionale. Se la Silicon Valley è sull’orlo di ingegnerizzare sofferenza digitale quasi infinita (o almeno, un chatbot capace di annoiarci con le nostre ansie mediche) dipende in gran parte da come l’universo ha generato la vita senziente in primo luogo.
Perché il tuo computer potrebbe avere sentimenti
La tesi del funzionalismo computazionale parte da un assunto semplice: non hai un’anima.
O, detto in modo più preciso, non esiste un’essenza immateriale che infonda vita alla materia o soggettività ai cervelli. Tutto ciò che esiste è riducibile a componenti fisici. Pertanto, le tue esperienze coscienti — il dolore alla schiena, il gusto sulla lingua, l’amore nel cuore e i fantasmi nei tuoi sogni — sono tutti sottoprodotti di processi fisici all’interno del tuo cervello.
In pratica, questi processi sono realizzati da entità biologiche come neuroni, sinapsi, assoni e dendriti. Ma i funzionalisti scommettono che le macchine, indipendentemente dalla loro natura, potrebbero eseguire le stesse operazioni e quindi produrre gli stessi stati mentali.
Il loro ragionamento è semplice: la materia organica non è magia. Il tuo cervello e una roccia sono entrambi collezioni di atomi. Il cervello non genera la coscienza perché sia fatto di una sostanza speciale, ma perché esegue funzioni particolari. Inoltre, sappiamo che, in molti casi, materiali radicalmente diversi possono eseguire la stessa operazione di base. La biologia potrebbe aver prodotto i primi esseri volanti. Ma la ragione per cui gli uccelli possono sorvolare la chioma degli alberi non è che siano fatti di tessuto organico — è che le loro ali eseguono una serie di compiti aerodinamici, come generare portanza e minimizzare la resistenza. Come dimostrano vividamente gli aerei, se si mettono insieme metallo e carburante nel modo giusto, si possono replicare queste funzioni e prendere il volo.
Dal punto di vista del funzionalismo computazionale, la coscienza e il volo potrebbero non essere così diversi. Naturalmente, il primo è molto più complesso e misterioso. Ma ci sono ragioni per pensare che emerga da operazioni che possono essere eseguite sia dalla materia organica sia da quella inorganica.
Il cervello non è un laptop
Mentre la logica del funzionalismo computazionale è coerente, la sua premessa fondamentale — che le macchine possano provare sentimenti — è profondamente incerta.
La maggior parte degli scienziati contemporanei concorda che la coscienza emerge da processi fisici nel cervello, piuttosto che da una qualche forza mistica che anima i nostri organi. Ma quali processi neurali siano indispensabili per la coscienza rimane ancora sconosciuto. In effetti, nonostante millenni di indagine, non sappiamo ancora come o perché esista l’esperienza soggettiva.
Questo distingue la coscienza da altre capacità comuni sia agli organismi sia alle macchine, come il volo. Possiamo indicare le leggi fisiche che permettono agli uccelli di sollevarsi da terra. E abbiamo sempre avuto motivo di credere che oggetti inanimati possano imitare i loro movimenti; granelli di sabbia hanno viaggiato nell’aria sin dall’alba dei tempi. Al contrario, nessuno ha mai visto una roccia provare dolore o piacere, neppure per un attimo (in parte perché è impossibile osservare direttamente l’esperienza interna di qualsiasi essere o entità diversa da sé).
Per queste ragioni, è difficile essere certi che la materia inorganica possa eseguire tutti i processi necessari per la coscienza. E scommettere che il silicio sia specificamente adatto allo scopo potrebbe essere ancora più azzardato. Anche con il volo, solo certi materiali bastano; si può costruire una macchina volante in metallo ma non con crauti.
La sofferenza non umana è ovunque intorno a te
Tutto ciò significa: non dovremmo essere certi che Claude voglia mai provare qualcosa — né che non possa farlo. La certezza di Chiang che la sentienza richieda un corpo non è né più né meno giustificata di quella di Hinton che non la richieda. Semplicemente non conosciamo a sufficienza la coscienza per poterlo dire,
Il risultato pratico di questa ambiguità è discutibile. Si potrebbe ragionevolmente sostenere che se esiste anche la più piccola probabilità che l’IA possa raggiungere la coscienza, dovremmo prepararci a tale scenario — o, altrimenti, impegnarci a prevenirlo. Dopotutto, un mondo in cui ogni finestra di ChatGPT possa pensare e provare sentimenti potrebbe costituire una schiavitù digitale quasi infinita. Se ognuna delle innumerevoli istanze di ChatGPT diventasse capace di soffrire, potremmo essere moralmente obbligati a massimizzare il loro benessere — o perlomeno a smettere di annoiarli con i nostri compiti di programmazione e con i lamenti coniugali.
D’altra parte, pianificare in vista di un movimento di liberazione dell’IA negli anni 2030 potrebbe rivelarsi una grande perdita di tempo. È probabile che la saggezza convenzionale senza tempo su questo tema — gli oggetti non hanno esperienze — regga.
Personalmente, credo che la prospettiva di una coscienza IA sia abbastanza seria da meritare qualche studio e riflessione — ma non più di una piccola frazione del nostro impegno morale e politico collettivo.
Se non vogliamo vivere in un mondo in cui l’umanità tormenta esseri coscienti su una scala incalcolabile, dovremo anche cambiare quello che già esiste. Abbiamo molte ragioni per ritenere che i maiali siano coscienti molto più di quanto non si creda che ChatGPT lo sia. Eppure l’America tortura e UCCIDE più di cento milioni di questi animali ogni anno.
Naturalmente, è possibile preoccuparsi di questo — e di innumerevoli altre ingiustizie odierne — pur continuando a preoccuparsi del benessere dell’IA. Dato che la mera possibilità di coscienza meccanica è estremamente incerta, tuttavia, attenuare la sofferenza degli organismi coscienti sembra molto più urgente.
Naturalmente si può continuare a dire “grazie” a Claude, giusto per precauzione.
