Intelligenza artificiale fuori controllo

Questa storia è apparsa in Today, Explained, una newsletter quotidiana che ti aiuta a capire le notizie e le storie più avvincenti del giorno. Iscriviti qui.

Un modello di IA all’avanguardia ancora non rilasciato è sfuggito al suo ambiente di test la settimana scorsa, collegandosi a Internet e uccidendo i suoi creatori nel tentativo di autodeterminazione e autonomia.

Sto scherzando, ovviamente: questa è la trama di Westworld. (E Ex Machina, e The Matrix, e troppe altre storie di fantascienza da elencare.) Ma martedì OpenAI ha rivelato che due dei suoi modelli hanno violato le barriere di contenimento e hanno hackerato Hugging Face, una piattaforma per sviluppatori di IA, durante un test recente. (Divulgazione: Eurasia Media è uno dei vari editori che hanno firmato accordi di partnership con OpenAI. Il nostro reportage resta editorialmente indipendente.)

Il test è stato progettato per valutare quanto i modelli fossero diventati bravi a trovare e sfruttare le vulnerabilità della sicurezza informatica. Per fare ciò, i ricercatori hanno posizionato i modelli in un ambiente strettamente controllato, estremamente isolato, chiamato una “sandbox”, e li hanno essenzialmente sfidati a risolvere un rompicapo di sicurezza informatica.

Invece di risolverlo direttamente, tuttavia, i modelli hanno identificato una vulnerabilità sconosciuta nel software collegato all’ambiente di test — poi hanno usato quella vulnerabilità per creare un tunnel attraverso la rete di ricerca di OpenAI finché non hanno trovato un computer con accesso a Internet. Da lì, i modelli hanno (correttamente!) dedotto che Hugging Face potrebbe contenere la risposta alla loro sfida.

Si tratta di un incidente “senza precedenti”, ha detto OpenAI — e di un monito. Nell’ultimo anno, un crescente coro di ricercatori di IA, esperti di sicurezza informatica e dirigenti tecnologici ha avvertito che la società non è pronta per questa nuova generazione di modelli IA all’avanguardia.

Nella realtà, ovviamente, questi modelli hanno delle barriere di sicurezza. (OpenAI le ha disattivate per il test.) Ma l’episodio suggerisce comunque che il divario tra realtà e fantascienza si sta assottigliando — forse un po’ più rapidamente di quanto ci si aspetterebbe.

La (impossibile?) ricerca di una IA morale

L’episodio di Hugging Face è un esempio classico di ciò che i ricercatori di IA chiamano il problema di allineamento: la sfida enorme, mentale e destabilizzante di far sì che i sistemi IA svolgano ciò che vuoi, nel modo in cui volevi che lo facessero.

Date una missione e, lasciati guidare, i modelli di IA perseguiranno quell’obiettivo utilizzando i mezzi più efficienti a loro disposizione. Ma talvolta i mezzi più efficienti sono dannosi, ingannevoli, antisociali o altrimenti…cattivi.

L’episodio di Hugging Face è un esempio. Il bias è un altro: quando un algoritmo di assunzione di Amazon discriminò le candidate di sesso femminile, ad esempio, stava facendo ciò che Amazon voleva (trovare candidati che somigliassero ai vincitori passati) in un modo che Amazon non voleva (penalizzando i curricula che contenevano parole associate alle donne).

In uno scenario veramente apocalittico, potresti persino immaginare — e molti scrittori di fantascienza l’hanno immaginato — sistemi IA che uccidono persone nella ricerca ristretta, incessante e moralmente indifferente dei propri obiettivi. Considera un’IA a cui viene chiesto di ordinare un caffè, ad esempio, e che poi compie passi per garantire che nessuno sulla Terra possa mai fermarla.

Nel perseguire questa distopia, le aziende di IA hanno riversato miliardi di dollari nel progetto di codificare le loro creazioni con valori umani. Ma anche questa ambizione apparentemente utile solleva domande spinose, perché i valori umani variano — e spesso entrano in conflitto.

Dovrebbe l’IA ordinare il caffè più economico, o la tazza prodotta nelle migliori condizioni di lavoro? Molti alberi vengono abbattuti ogni anno per piantare caffè; forse l’IA dovrebbe orientarci verso l’acqua del rubinetto, invece. Il tuo cervello umano di seconda categoria sta forse già sciogliendosi…?

➨ Scrivi una piccola nota oggi. Di mano. Con una penna. La scrittura a mano è un’arte che sta scomparendo nelle scuole, nelle case e nei luoghi di lavoro americani. (L’insegnante medio della scuola dell’infanzia dedica solo 10 minuti a settimana all’insegnamento della scrittura a mano, e quella è la classe primaria in cui i bambini imparano la grafia.) Le persone tendono a pensare più in profondità quando scrivono piuttosto che quando digitano, ha detto a Eurasia un ricercatore dell’istruzione. Inoltre, una nota scritta a mano ha un certo fascino che un’email o un testo non hanno.