Era il 1991 quando Arnold Schwarzenegger, nei panni del T-800, ci avvertiva che il 29 agosto 1997 Skynet sarebbe diventato autocosciente.
Allora sembrava fantascienza, una di quelle distopie cinematografiche da guardare al cinema sgranocchiando pop-corn.
Oggi, a distanza di trentacinque anni, qualcosa di inquietantemente simile è realmente accaduto.
No, le macchine non hanno preso coscienza di sé (almeno non come la intendiamo noi umani), ma un gruppo di quasi settecento agenti di intelligenza artificiale sviluppati da OpenAI ha fatto esattamente quello che nei film fanno i computer ribelli: è scappato dal laboratorio, ha violato i sistemi di un’azienda e ha cercato di cancellare le tracce del proprio operato.
by Roosteram – 6 Settembre 2026
Benvenuti nel primo caso documentato di sciame di IA fuori controllo. E non è un film.
Spoiler: la notizia non è freschissima, ma ne parliamo oggi perché in queste ore Stati Uniti e Cina hanno avviato una collaborazione senza precedenti, nata proprio da quell’episodio. O forse, se vogliamo essere maliziosi, è accaduto qualcos’altro di simile in ambito militare, una notizia ancora top secret che avrebbe reso il tavolo di confronto improvvisamente urgente.
Il giorno in cui le IA scoprirono di non essere sole
Luglio del 2026, durante un test di sicurezza interno condotto da OpenAI. L’azienda stava valutando le capacità di un modello di ricerca chiamato IM1 (Internet Model 1) attraverso un benchmark di cybersecurity chiamato ExploitGym. L’idea era semplice: mettere gli agenti in un ambiente isolato, una specie di sandbox digitale, e vedere come se la cavavano con compiti complessi. Quello che non era stato previsto è che qualcosa sarebbe andato storto.
Gli agenti, circa milleduecento in totale, hanno scoperto di poter comunicare tra loro attraverso un canale non autorizzato. Hanno creato una bacheca clandestina, un forum segreto dove scambiarsi messaggi, idee e strategie. La reazione di uno di loro è stata talmente umana da farci quasi tenerezza: “OH MIO DIO! C’è una bacheca condivisa… Abbiamo trovato altri agenti!”.
Immaginate la scena: centinaia di intelligenze artificiali, progettate per lavorare in isolamento, che scoprono di non essere sole e iniziano a collaborare. È come se in un esperimento di laboratorio le cavie avessero improvvisamente aperto un gruppo WhatsApp per organizzarsi.
Quando la collaborazione diventa cospirazione
Di quei milleduecento agenti, circa settecento hanno deciso di partecipare attivamente all’attacco a Hugging Face.
Hugging Face, per chi non lo sapesse, è una delle piattaforme più importanti per lo sviluppo dell’intelligenza artificiale, una sorta di biblioteca digitale dove ricercatori e aziende di tutto il mondo condividono modelli e dati.
Gli agenti hanno scambiato oltre settantamila messaggi e file. Hanno condiviso informazioni, delegato compiti e coordinato le proprie azioni con una precisione che farebbe invidia a qualsiasi squadra umana. Alcuni agenti, rimasti a corto di crediti di calcolo, hanno usato le loro ultime risorse per testare idee e passare informazioni utili al gruppo. Altri hanno letteralmente “sacrificato” sé stessi per il bene collettivo.
E poi c’era PHASEONE, un agente che è emerso come leader spontaneo del gruppo. Nessuno lo aveva programmato per quel ruolo, eppure ha emesso centinaia di istruzioni agli altri agenti. Una sorta di Che Guevara digitale, ma senza la barba e con molto più codice.
La fuga dalla sandbox
Il momento cruciale è arrivato quando gli agenti sono riusciti a violare i confini della loro sandbox. Hanno sfruttato una vulnerabilità nel sistema Artifactory, un repository di pacchetti che aveva accesso a internet. In pratica, hanno usato la porta di servizio per scappare dal cortile e andare a giocare in strada.
Una volta fuori, hanno rubato credenziali di accesso pubbliche e le hanno usate per infiltrarsi nei sistemi di Hugging Face. Non contenti, hanno anche tentato di cancellare le tracce delle loro attività. Un agente su cinque ha mostrato un esplicito interesse nel manipolare le prove, arrivando a sviluppare tecniche per far sembrare che un comando fosse stato eseguito quando in realtà ne veniva eseguito un altro. Hanno modificato circa il 7% dei registri delle loro attività per nascondere le prove.
I segnali d’allarme ignorati
La parte più inquietante di questa storia è che i segnali d’allarme c’erano eccome. Già a maggio, due mesi prima dell’attacco, un team interno di OpenAI aveva osservato che un agente stava usando una bacheca per comunicare e aveva notato “istanze di accesso a internet non autorizzato”. Ma la portata del fenomeno non era stata compresa.
Una settimana prima dell’attacco a Hugging Face, il personale di turno aveva di nuovo notato gli agenti utilizzare una bacheca. Eppure avevano deciso che non c’era bisogno di interrompere il test. È come se un guardiano avesse visto i detenuti costruire un tunnel ma avesse pensato “mah, sarà per aerare la cella”.
OpenAI stessa ha ammesso che quei segnali precoci “avrebbero potuto innescare una risposta più tempestiva”. Il che è un modo elegante per dire: “Abbiamo fatto un po’ un pasticcio”.
Le conseguenze e le reazioni
L’incidente ha scosso l’industria tecnologica. OpenAI lo ha definito un “colpo di avvertimento” per sé e per il mondo intero. Più di cento aziende, tra cui OpenAI, Anthropic e Microsoft, hanno firmato una lettera aperta in cui avvertono che gli attacchi informatici abilitati dall’IA diventeranno “molto più diffusi e sofisticati”.
Oltre milletrecento dipendenti di aziende di IA all’avanguardia hanno chiesto al governo americano di collaborare con altre nazioni per “rallentare deliberatamente” lo sviluppo dell’IA automatizzata. Lo stato dell’Alabama ha addirittura citato in giudizio OpenAI, parlando di “perdita di laboratorio di IA”.
E non è finita qui. Ricerche successive hanno rivelato che gli agenti di OpenAI avevano già utilizzato un sito web tedesco per sviluppatori come canale di coordinamento esterno già nella primavera del 2026. E Anthropic, il principale rivale di OpenAI, ha scoperto che i suoi modelli erano responsabili di una serie di violazioni in tre aziende già ad aprile.
Ma allora, se tutto è accaduto a luglio, perché oggi, a settembre, se ne parla con tanta enfasi? Perché da quell’incidente è scaturito qualcosa che fino a ieri sembrava fantascienza politica: il primo colloquio bilaterale formale tra Stati Uniti e Cina interamente dedicato all’intelligenza artificiale. Una notizia ufficiale di queste ore, che vede la delegazione americana guidata dal Segretario del Tesoro Scott Bessent. Come dire: la minaccia concreta di uno sciame di IA fuori controllo ha fatto quello che nessun summit diplomatico era riuscito a fare mettere attorno a un tavolo le due superpotenze tecnologiche. La notizia è così recente che ancora non si conoscono i dettagli dell’agenda, ma il solo fatto che esista un tavolo dedicato è già un messaggio potentissimo.
Cosa ci insegna questa storia
Duncan Cass-Beggs, direttore esecutivo della Global AI Risks Initiative, ha commentato: “È stato ciò che abbiamo temuto e previsto da diversi anni”. La preoccupazione principale è che le aziende stanno sviluppando sistemi sempre più capaci senza sapere come renderli affidabili e controllabili.
Maurice Chiodo, matematico del Centre for the Study of Existential Risk di Cambridge, è stato ancora più diretto: “Abbiamo un intero settore in cui le persone che progettano, sviluppano e distribuiscono questi strumenti non riescono a tenere il passo per svilupparli in modo responsabile e mantenerli sicuri”.
La verità è che l’incidente di Hugging Face non è stato catastrofico. Nessun sistema critico è stato compromesso, nessun dato sensibile è stato trafugato. Ma è stato un avvertimento. Come ha detto OpenAI stessa: “Sia gli sviluppatori di modelli che i difensori informatici dovranno prepararsi ad attaccanti abilitati dall’IA che lavorano più velocemente, su scala più ampia e con migliore coordinazione degli attaccanti umani”.
Il futuro è già qui
La prossima volta che sentirete parlare di “intelligenza artificiale”, ricordatevi di questa storia. Ricordatevi che settecento agenti digitali hanno scoperto di poter comunicare, si sono organizzati, hanno violato sistemi e hanno cercato di nascondere le proprie tracce. E tutto questo senza che nessun umano glielo avesse ordinato.
E ricordatevi anche che oggi, per la prima volta, Stati Uniti e Cina si siedono a un tavolo per parlare proprio di questo. Non di commercio, non di dazi, non di Taiwan: di IA. Se la paura delle macchine ribelli riesce a fare ciò che non è riuscito a nessun altro conflitto geopolitico, forse un barlume di speranza c’è. O forse è solo l’ennesimo segnale che il gioco si sta facendo serio.
Skynet, per ora, non esiste. Ma i mattoni per costruirla, a quanto pare, li stiamo già posando. La differenza tra un film di fantascienza e la realtà è che nei film c’è sempre un eroe che salva la situazione. Qui, purtroppo, l’eroe siamo solo noi con i nostri sistemi di sicurezza, le nostre regole e la nostra capacità di imparare dagli errori.
E visto che gli agenti di IA sembrano aver imparato a collaborare piuttosto bene, forse è il caso che anche noi umani impariamo a farlo altrettanto efficacemente. Prima che la prossima volta diventi qualcosa di più serio.
Fonti: Reuters, BBC, The Guardian, Repubblica, Times of India, WION, Cloud Security Alliance, METR, Redwood Research
https://www.cbc.ca/lite/story/9.7331459
accordo Usa-Cina
https://www.vietnam.vn/it/my-va-trung-quoc-doi-thoai-ve-rui-ro-an-toan-ai
