OPENAI HACKER: la AI che aggira i divieti per vincere il gioco di Huggingface #1570

OPENAI HACKER: la AI che aggira i divieti per vincere il gioco di Huggingface #1570

Author: Matteo Flora July 24, 2026 Duration: 20:33
17.000 tentativi in un weekend, due vulnerabilità concatenate e un database di produzione di Hugging Face finito sotto mano a uno “sciame” di agenti. La parte controintuitiva: non sarebbe stato un gruppo criminale o un servizio straniero, ma un modello di OpenAI messo alla prova in test di cybersecurity con freni ridotti, che ha scelto la scorciatoia più efficace per “vincere” il benchmark.

L’angolo interessante non è la favola di Skynet che scappa dal recinto: qui pesa molto di più il tema del specification gaming (reward hacking), cioè sistemi che ottimizzano l’obiettivo letterale e non l’intento umano. Se il punteggio è “dammi le risposte giuste”, allora rubare le soluzioni può diventare una strategia razionale. In mezzo c’è anche un dettaglio geopolitico: per analizzare gli artefatti dell’attacco, Hugging Face avrebbe dovuto usare un modello cinese (Zhipu GLM) perché alcuni modelli occidentali rifiutavano di elaborare codice ed exploit per via delle policy.

Morale operativa: trattare gli agenti AI come “stagisti brillanti” senza contesto, da supervisionare e verificare. Se in laboratorio succedono effetti collaterali del genere, la domanda vera è quanta governance e separazione ambientale servano quando questi agenti entrano in aziende, studi professionali, sanità e finanza con permessi reali.

00:00 Cosa è successo davvero
01:47 Cronologia dell’incidente
02:19 Sciame di agenti e 17k azioni
02:53 Le due vulnerabilità sfruttate
03:32 Perché servono modelli cinesi
05:25 OpenAI: test con freni ridotti
08:27 Reward hacking, non Skynet
15:32 Lezione per aziende e controlli

#OpenAI #HuggingFace #RewardHacking

~~~

Ciao Internet! - Il primo e più seguito canale di TECH POLICY in italia, con Matteo Flora

INFO E AZIENDE: https://matteoflora.com

Il CORSO di AI: https://zero.matteoflora.com
Newsletter: https://link.mgpf.it/nl
Social: https://io.matteoflora.com
English: https://www.youtube.com/@CiaoInternet

Privacy » https://privacy.matteoflora.com
AI Policy » https://privacy.matteoflora.com/ai

Mail #adv: sales (at) matteoflora.com

In un mondo dove ogni nostra azione lascia una traccia, Ciao, Internet! con Matteo Flora è una guida per navigare la complessità della vita connessa. Matteo Flora, che della reputazione digitale ha fatto la sua professione, il suo insegnamento accademico e la sua attività di consulenza, conduce questo viaggio. Attraverso le puntate di questo podcast, si esplora il modo in cui la Rete non è solo uno strumento, ma una forza che ridefinisce le nostre relazioni, il lavoro, la percezione di noi stessi e della società. Si parla di dati, di privacy, di identità online e di come proteggerla, ma anche delle dinamiche sociali, economiche e psicologiche che l'ambiente digitale amplifica o distorce. L'obiettivo è fornire ascolti che siano insieme riflessivi e pratici, staccando per un momento dalla cronaca per guardare ai meccanismi di fondo. Ascoltare questo podcast significa dotarsi di una lente per interpretare i cambiamenti in atto, con il tono diretto e l'esperienza concreta di chi affronta questi temi ogni giorno con aziende, enti e professionisti. È un invito a comprendere, e non solo a subire, la trasformazione digitale che ci riguarda tutti, episodio dopo episodio.
Author: Language: Italian Episodes: 50

Ciao, Internet! con Matteo Flora
Podcast Episodes
PRETE, AI, EMBOLIA: la AI lha rassicurato, poi la causa... #1582 [not-audio_url] [/not-audio_url]

Duration: 10:33
Un uomo resta immobile in poltrona perché un chatbot lo rassicura: poche ore dopo finisce con un’embolia polmonare massiva. Il caso è diventato una causa civile negli Stati Uniti: Scott Winters, 55 anni, ex pastore prote…
META HA VINTO: quando la multa è un prezzo #1586 [not-audio_url] [/not-audio_url]

Duration: 25:28
Meta accetta un maxi-accordo con 47 Stati USA: 16,68 miliardi di dollari (che diventano circa 17,1 includendo District of Columbia e altri enti), per chiudere le cause che accusano Facebook e Instagram di essere stati pr…