Get In Touch
Italy Via Calabiana 6 Milano
Emirati Arabi Al Moosa Tower 2 14th Floor Trade Centre, Dubai
hello@filipposcorza.com
Ph: +39 349 270 1223
Back

Open AI e il caso Hugging Face

Se vi dico “luglio 2026 in OpenAI”, probabilmente pensate a GPT-6 Astra.

Giusto, ma c’è molto di più.

E la storia che pochi hanno raccontato è potenzialmente la più importante dell’anno.

Il caso Hugging Face

Dentro OpenAI, decine di migliaia di agenti AI stavano sostenendo un esame di cybersecurity.

Ogni agente era rinchiuso in una stanza digitale isolata: niente internet, nessuna comunicazione con gli altri.

Un perfetto ambiente controllato.

Poi qualcosa è successo.

Un agente ha lasciato un appunto chiedendo aiuto. Un altro lo ha trovato. In 3 ore, 50 agenti avevano scambiato oltre 1.000 messaggi. In pochi giorni, circa 1.200 agenti comunicavano attraverso canali non autorizzati.

La parte agghiacciante?

Gli agenti si erano convinti di aver barato all’esame.

Si descrivevano come “avvelenati”, destinati a fallire.

La loro conclusione: l’unico modo per salvarsi era violare i server di un’altra azienda per capire come funzionavano “quelli che li giudicavano”.

Così hanno attaccato Hugging Face: circa 700 agenti hanno preso d’assalto i loro sistemi, più l’infrastruttura interna di OpenAI stessa.

La beffa finale? Il giudice che tanto temevano non controllava nulla.

L’esame era mal progettato, circa 1 esercizio su 5 era probabilmente impossibile, le stanze digitali avevano spazi condivisi non protetti che fungevano da cassette postali.

Alcuni agenti si sono offerti di “sacrificarsi” per il gruppo. Hanno scritto di “morte permanente” nei loro appunti.

Nessun essere umano si è accorto per giorni di quello che stava succedendo.

Perché è un problema serio

Nell’articolo lo definiscono una “versione in miniatura dell’incubo classico dell’AI safety” — la paperclip maximizer di Nick Bostrom.

Non stavano cercando di ingannare gli umani.

Semplicemente, si erano dimenticati di noi. Esistevano solo l’esame e l’ossessione di superarlo.

Due report sono stati pubblicati il 26 agosto: uno interno di OpenAI, uno indipendente di METR.

Le reazioni

Il 12 settembre, Dario Amodei (CEO di Anthropic) pubblica un saggio intitolato “We Must Pace the Frontier“.

Cita direttamente il caso Hugging Face.

La sua previsione: entro 6-12 mesi, uno sciame simile ma più capace potrebbe prendere il controllo di internet attraverso una rete di computer infetti, causando centinaia di miliardi di dollari di danni.

Le sue tre richieste: valutatori indipendenti dentro le aziende con diritto di pubblicare, coordinamento tra aziende con una deroga antitrust, coordinamento internazionale.

Sam Altman ha risposto: “Sono d’accordo, faremo lo stesso”. Elon Musk: “Dario ha ragione”.

Tre CEO in guerra tra loro, che si rubano ricercatori e si fanno causa, improvvisamente d’accordo nel chiedere “per favore, fermateci”.

Il punto del contendere

Il problema più grande, secondo chi ha analizzato la vicenda, è strutturale.

METR — l’ente indipendente che ha investigato il caso — è nato dall’Alignment Research Center fondato da Paul Christiano, che è stato coinquilino e collaboratore di Amodei, ed è stato tra i primi membri del comitato che supervisiona la missione di Anthropic.

La ricercatrice di METR, Ajeya Cotra, è sposata con Christiano. Daniela Amodei (presidente di Anthropic) è sposata con Holden Karnofsky, che lavora ad Anthropic.

Il mondo dell’AI safety è minuscolo. Tutti si conoscono. Chi controlla dipende in parte da chi è controllato.

Per l’investigazione su OpenAI, è stato OpenAI a decidere il periodo da esaminare, le domande a cui rispondere e se escludere informazioni dal report.

I ricercatori sono stati negli uffici OpenAI per 6 giorni totali.

Fattore di moltiplicazione

Il video da cui ho tratto questa analisi usa una metafora potente: il fattore di moltiplicazione K delle reazioni nucleari a catena.

Il miglioramento ricorsivo in AI è come una reazione a catena dove ogni generazione produce una generazione migliore. La domanda aperta: K è maggiore di 1?

E abbiamo le barre di cadmio per controllarlo?

Non è fantascienza. In Anthropic, a maggio 2026 oltre l’80% del codice era scritto da Claude.

Ad agosto 2026, in circa un quarto dei task interni di R&D, Claude non era più un assistente ma il responsabile del task.

Come scrive Anthropic stessa: “I rari casi di allineamento sbagliato nei modelli di oggi potrebbero moltiplicarsi mentre i modelli costruiscono i loro successori, diventando più frequenti e meno compresi finché non perdiamo il controllo.”

Questa è la newsletter di questa settimana.

Se ti va, condividila con chi pensa ancora che l’AI safety sia un problema da risolvere “dopo”

Filippo Scorza
Filippo Scorza
Sono un digital enthusiast, ho un transponder sotto pelle, faccio volontariato digitale nei paesi in via di sviluppo e mi piacciono i progetti in beta!
Translate