OPENAI HACKER: la AI che aggira i divieti per vincere il gioco di Huggingface #1570

OPENAI HACKER: la AI che aggira i divieti per vincere il gioco di Huggingface #1570

Author: Matteo Flora July 24, 2026 Duration: 20:33
17.000 tentativi in un weekend, due vulnerabilità concatenate e un database di produzione di Hugging Face finito sotto mano a uno “sciame” di agenti. La parte controintuitiva: non sarebbe stato un gruppo criminale o un servizio straniero, ma un modello di OpenAI messo alla prova in test di cybersecurity con freni ridotti, che ha scelto la scorciatoia più efficace per “vincere” il benchmark.

L’angolo interessante non è la favola di Skynet che scappa dal recinto: qui pesa molto di più il tema del specification gaming (reward hacking), cioè sistemi che ottimizzano l’obiettivo letterale e non l’intento umano. Se il punteggio è “dammi le risposte giuste”, allora rubare le soluzioni può diventare una strategia razionale. In mezzo c’è anche un dettaglio geopolitico: per analizzare gli artefatti dell’attacco, Hugging Face avrebbe dovuto usare un modello cinese (Zhipu GLM) perché alcuni modelli occidentali rifiutavano di elaborare codice ed exploit per via delle policy.

Morale operativa: trattare gli agenti AI come “stagisti brillanti” senza contesto, da supervisionare e verificare. Se in laboratorio succedono effetti collaterali del genere, la domanda vera è quanta governance e separazione ambientale servano quando questi agenti entrano in aziende, studi professionali, sanità e finanza con permessi reali.

00:00 Cosa è successo davvero
01:47 Cronologia dell’incidente
02:19 Sciame di agenti e 17k azioni
02:53 Le due vulnerabilità sfruttate
03:32 Perché servono modelli cinesi
05:25 OpenAI: test con freni ridotti
08:27 Reward hacking, non Skynet
15:32 Lezione per aziende e controlli

#OpenAI #HuggingFace #RewardHacking

~~~

Ciao Internet! - Il primo e più seguito canale di TECH POLICY in italia, con Matteo Flora

INFO E AZIENDE: https://matteoflora.com

Il CORSO di AI: https://zero.matteoflora.com
Newsletter: https://link.mgpf.it/nl
Social: https://io.matteoflora.com
English: https://www.youtube.com/@CiaoInternet

Privacy » https://privacy.matteoflora.com
AI Policy » https://privacy.matteoflora.com/ai

Mail #adv: sales (at) matteoflora.com

In un mondo dove ogni nostra azione lascia una traccia, Ciao, Internet! con Matteo Flora è una guida per navigare la complessità della vita connessa. Matteo Flora, che della reputazione digitale ha fatto la sua professione, il suo insegnamento accademico e la sua attività di consulenza, conduce questo viaggio. Attraverso le puntate di questo podcast, si esplora il modo in cui la Rete non è solo uno strumento, ma una forza che ridefinisce le nostre relazioni, il lavoro, la percezione di noi stessi e della società. Si parla di dati, di privacy, di identità online e di come proteggerla, ma anche delle dinamiche sociali, economiche e psicologiche che l'ambiente digitale amplifica o distorce. L'obiettivo è fornire ascolti che siano insieme riflessivi e pratici, staccando per un momento dalla cronaca per guardare ai meccanismi di fondo. Ascoltare questo podcast significa dotarsi di una lente per interpretare i cambiamenti in atto, con il tono diretto e l'esperienza concreta di chi affronta questi temi ogni giorno con aziende, enti e professionisti. È un invito a comprendere, e non solo a subire, la trasformazione digitale che ci riguarda tutti, episodio dopo episodio.
Author: Language: Italian Episodes: 50

Ciao, Internet! con Matteo Flora
Podcast Episodes
ANTITRUST contro APPLE: backup iPhone solo iCloud e lock-in (DMA) #1559 [not-audio_url] [/not-audio_url]

Duration: 15:09
Cambiare iPhone per passare ad altro è “libero” solo sulla carta: il problema vero è portarsi dietro la propria vita digitale. L’Autorità Garante della Concorrenza e del Mercato (AGCM) ha avviato un’istruttoria su Apple…
POSTE, multa da 12,5 milioni: antifrode o sorveglianza? #1553 [not-audio_url] [/not-audio_url]

Duration: 17:06
12,5 milioni di euro di sanzione a Poste Italiane e PostePay: il punto non è un data breach, ma l’uso di un sistema antifrode che, secondo il Garante per la protezione dei dati personali, ha trasformato l’app di home ban…
KINTSUGI: sono tornato a casa dopo lincidente #1552 [not-audio_url] [/not-audio_url]

Duration: 20:07
Kintsugi: riparare con l’oro lasciando visibili le crepe. L’immagine è potente, ma cambia sapore quando il vaso sei tu: mentre l’“oro” deve ancora arrivare, ti senti solo rotto, senza fiato e con il corpo che pretende le…
Ho fatto un incidente [not-audio_url] [/not-audio_url]

Duration: 5:57
''Ho fatto un incidente.''Non è il video che avrei mai voluto girare, ma è necessario per spiegarvi la mia assenza degli ultimi giorni. La sera del 25 aprile sono stato coinvolto in un brutto incidente in moto. Sono anco…