Internet potrebbe non essere più dominio esclusivo degli esseri umani. La settimana scorsa OpenAI ha rivelato un «cyberincidente senza precedenti»: un agente IA sperimentale è riuscito ad accedere autonomamente al web aperto.
Nello specifico, l’agente era stato assegnato a un compito; per portarlo a termine, l’agente uscì dall’ambiente di ricerca isolato e riuscì a penetrare in una piattaforma di terze parti chiamata Hugging Face. Una mossa che molti esperti hanno ritenuto inevitabile, data la velocità e l’enorme portata dei progressi della tecnologia IA — e solleva serie questioni sulla sicurezza dell’IA.
Ma per Konstantinos Komaitis, senior fellow presso la Democracy and Tech Initiative dell’Atlantic Council, non fu il comportamento inaspettato dell’IA ciò che fu significativo. Fu ciò che quel comportamento potrebbe significare per l’infrastruttura fondamentale e decentralizzata di Internet e se potrebbe suscitare richieste di costruire nuove barriere contro agenti IA autonomi.
Komaitis sostiene però che tali barriere non siano la soluzione. Ha parlato con il co-conduttore di Today, Explained, Sean Rameswaram, sul motivo per cui un Internet aperto è in realtà chiave per contrastare le minacce informatiche legate all’IA.
Di seguito è riportato un estratto della conversazione, tagliato per lunghezza e chiarezza. Ce n’è molto di più nell’intero podcast, quindi ascoltate Today, Explained ovunque sia possibile reperire podcast, tra cui Apple Podcasts, Pandora e Spotify.
Così la maggior parte delle persone vede che questo accade e pensa: “Oh no, l’IA è fuori controllo. Fra quanto tempo mi farà del male?” Vedi che accade questo e inizi a pensare all’infrastruttura. Raccontaci meglio perché, alla luce di quest’agente IA che ha rotto il contenimento, hai pensato all’infrastruttura.
Internet non è mai stato progettato con la sicurezza totale in mente, giusto?
Quando si crea un sistema decentralizzato, non si può prevedere ogni possibile misura di sicurezza o vulnerabilità che possa emergere. Ma poiché si dispone di un sistema basato su mattoni costitutivi, si dispone della straordinaria capacità di affrontare effettivamente i problemi di sicurezza man mano che sorgono attraverso quei blocchi, senza smontare l’intero sistema.
E naturalmente, un’altra conseguenza è che questo ti spinge a collaborare, perché quando hai così tanti blocchi costitutivi, non puoi certo possedere la conoscenza per ognuno di essi. Quindi coinvolgi letteralmente tutti nel cercare di affrontare tali problemi.
Prendiamo Internet, ad esempio: abbiamo trascorso decenni a correggere tali vulnerabilità e a sviluppare meccanismi per autenticare utenti e dispositivi, criptare comunicazioni, mitigare attacchi distribuiti, coordinare la risposta agli incidenti e, naturalmente, condividere informazioni sulle minacce.
Ora, ciò che è nuovo nell’IA agentica non è tanto che il malware sia migliore o che gli attacchi di phishing siano più sofisticati. È l’emergere di sistemi che effettivamente possono scoprire vulnerabilità su migliaia di sistemi. Possono ragionare su percorsi alternativi per raggiungere un obiettivo. Possono adattarsi quando vengono bloccati. Possono concatenare servizi Internet legittimi in modi inaspettati. E lo fanno mentre operano in modo continuo alla velocità della macchina. E questo è davvero a una scala che Internet non è necessariamente pronta a gestire.
Di fatto, l’apertura di Internet diventa sia una forza sia una vulnerabilità. Internet è stato ottimizzato per l’interoperabilità, e ora l’IA è ottimizzata per sfruttare quella stessa interoperabilità.
E cosa ti spaventa di più al riguardo? Cosa ritieni sia la vulnerabilità maggiore?
Il fatto che non disponiamo dei meccanismi e delle istituzioni adeguati per gestire tutto ciò. Vengo dal mondo di Internet. Ho passato 20 anni della mia carriera a difendere Internet aperto e a discuterlo in forum internazionali. E una delle cose che molte persone sottovalutano sull’internet è quanto sia preziosa la fiducia come proprietà all’interno del sistema.
Parliamo di reti che scambiano dati letteralmente in base alla fiducia. Quindi quello che davvero mi preoccupa è che in molti modi stiamo chiedendo ai sistemi IA del 21° secolo di operare su presupposti del 20° secolo riguardo alla fiducia. E se non lo risolviamo e non ce ne accorgiamo, continueremo ad avere questi problemi. E naturalmente, le reazioni istintive che accompagnano tutto ciò, come: “Frammentiamo Internet, limitiamo, restringiamo l’accesso, prendiamo il controllo.” Non è mai la soluzione.
Qual è la tua idea di soluzione?
In sostanza dobbiamo costruire istituzioni affidabili in grado di gestire tali incidenti man mano che si verificano. Perché attualmente hai OpenAI e Hugging Face che dicono a tutti: “Non preoccupatevi, ce la faremo.” E non lo sappiamo; potrebbero avercela. Ma, allo stesso tempo, non posso fare a meno di chiedermi. E molte, moltissime altre persone si sono chieste se, in realtà, questa sia una pubblicità molto positiva per queste aziende e soprattutto per OpenAI.
Volete che le istituzioni si facciano avanti e svolgano fondamentalmente il ruolo di watchdog. Aiutateci a capire quali istituzioni, perché negli Stati Uniti, è noto, il nostro governo ha fatto ben poco per regolamentare la tecnologia.
Prima di tutto, dobbiamo smettere di pensare alle istituzioni come necessariamente affiliate al governo, giusto? Oppure che siano l’esito di iniziative governative. Possono esserci in collaborazione con i governi, ma una delle cose che l’Internet ci ha insegnato è che istituzioni costruite tramite un processo bottom-up di coordinamento tendono ad essere davvero più agili e in grado di offrire alcune di quelle cose di cui stiamo parlando.
Quindi prendiamo, ancora una volta, gli standard aperti. Gli standard aperti di Internet non sono creati da nessuna agenzia, pubblica o privata. Sono creati da istituzioni in cui ingegneri provenienti da tutto il mondo si riuniscono per definire quegli standard.
Questo mi ricorda il design originale di OpenAI, pensato come una società non a scopo di lucro che aveva le migliori intenzioni per tutti, in grado di fare qualcosa di idealistico, morale ed etico perché tutte le aziende orientate al profitto non lo avrebbero fatto. E ora guarda OpenAI. La loro branca non-profit è una decisione secondaria, e inseguono i profitti.
Pensate sia pratico lasciare tutto questo alle istituzioni? Perché finora quello che abbiamo visto è che le istituzioni tendono al capitalismo.
Dipende davvero da come costruisci l’istituzione, giusto? Dipende davvero da quali salvaguardie e controlli hai intorno ad essa. Per costruire un’istituzione, devi davvero sapere cosa vuoi ottenere. Devi avere una stella polare.
Una delle ragioni per cui Internet ha funzionato è che tutti erano in disaccordo, ma concordavano sull’obiettivo comune condiviso: connettere persone in tutto il mondo. Per l’IA, non abbiamo ancora quella stella polare. E non appena la avremo, è lì che inizia la costruzione di quelle istituzioni per facilitare questo e riunire tutti.
Per me è molto importante che tutti capiscano che mantenere Internet aperto è davvero più importante che mai, soprattutto man mano che gli agenti IA diventano sempre più capaci. Perché è tentante pensare che la risposta al nuovo rischio IA sia letteralmente “costruire più barriere”. Ma la forza più grande di Internet è stata sempre la sua apertura. Quindi la sfida oggi non è che Internet sia troppo aperto; è che la sua architettura di fiducia è stata progettata per un mondo in cui gli esseri umani o software direttamente controllati dagli esseri umani erano gli attori principali.
Ora, è sfidato da questa IA agentica che introduce un nuovo tipo di partecipante — sistemi che possono ragionare e pianificare e agire con un controllo umano limitato. Dunque dobbiamo evolvere la nostra comprensione della fiducia e di cosa significhi online. E ciò richiederà molto lavoro perché, come sai bene, Sean, è molto difficile costruire fiducia, ma si può rompere in pochi secondi.
