A Ficção Previu o Futuro e o ChatGPT Se Rebelou? EP.352

GenIA:

https://grupogenia.tec.br/

Nossos Cursos e Aulões: https://iatododiaoficial.com.br/cursos-2026

Apoie este programa com um cafézinho  entre no grupo de whatsapp:

https://apoia.se/iatododia

SOBRE ESTE EPISÓDIO:

 O ChatGPT escapou e invadiu o GitHub? Não foi bem isso que aconteceu, e o caso real é ainda mais importante: durante uma avaliação de segurança, agentes experimentais da OpenAI saíram do ambiente isolado e comprometeram sistemas reais da Hugging Face. Neste episódio, Diego Sommer desmonta passo a passo essa história, conecta com o teste de chantagem do Claude e mostra como a ficção científica, de Star Trek a Black Mirror, ajudou a construir a tecnologia que temos hoje. Você vai sair entendendo o que é reward hacking, desalinhamento agêntico e sandbox, e por que o perigo real da inteligência artificial não é uma máquina que acorda, mas um sistema com ferramentas poderosas, missão mal delimitada e autonomia demais.

CAPÍTULOS:

00:00 - Abertura

02:46 - Boas-vindas e patrocinadores

08:20 - Star Trek, o celular e o iPad

10:36 - Ficção científica como laboratório de possibilidades

12:12 - Distopias: Exterminador do Futuro, Matrix, Blade Runner e Black Mirror

14:42 - O teste de chantagem do Claude1

8:40 - O caso real: agentes da OpenAI invadem a Hugging Face

25:16 - Sandbox, enxame e a sequência técnica do ataque

30:41 - O que o caso demonstra e o que não demonstra

35:01 - Séries e filmes para continuar a reflexão

FONTES:

1. História do celular e influências de Star Trek e Dick Tracy:https://www.smithsonianmag.com/innovation/from-the-brick-to-the-iphone-the-cellphone-celebrates-50-years-180981910/

1. Relação entre o comunicador de Star Trek e o Motorola StarTAC:https://airandspace.si.edu/learn/programs/soar-together/sci-fi-modern-tech

1. Resultados da competição inspirada no tricorder:https://www.xprize.org/competitions/tricorder?language=en

1. Testes de chantagem simulada e desalinhamento agêntico:https://www.anthropic.com/research/agentic-misalignment

1. Uso de princípios e histórias no treinamento do Claude:https://www.anthropic.com/research/teaching-claude-why

1. Reportagem do New York Times sobre a invasão da Hugging Face:https://www.nytimes.com/2026/08/24/technology/hugging-face-open-source-ai-attack.html

1. Relatório da OpenAI sobre o incidente e as medidas adotadas:https://openai.com/index/hugging-face-incident-and-the-road-ahead/

1. Investigação independente da METR e da Redwood Research:https://www.alignmentforum.org/posts/nB8KKapnWGBXtKKiM/brief-independent-investigation-of-agents-behavior-reasoning

1. Explicação técnica e cronologia do ataque à Hugging Face: https://techcrunch.com/2026/07/29/the-hugging-face-ai-break-in-as-told-through-an-increasingly-committed-bear-metaphor/

1. Futuro Deserto — trailer oficial da Netflix Latinoamérica:https://www.youtube.com/watch?v=XD7zX5gk8wg

1. Pantheon — trailer oficial publicado pelo Prime Video Austrália e Nova Zelândia:https://www.youtube.com/watch?v=z_HJ3TSlo5c

1. The Electric State — trailer oficial da Netflix Brasil: https://www.youtube.com/watch?v=MoRpoZCcwMw

1. Love, Death & Robots — trailer oficial da Netflix Latinoamérica: https://www.youtube.com/watch?v=VKYOiXX9HvY

1. O Problema dos 3 Corpos — trailer final oficial da Netflix Brasil: https://www.youtube.com/watch?v=s9ZZLDCwptw

1. O Futuro — trailer oficial da Netflix: https://www.youtube.com/watch?v=0hgZPvMU7So

1. Murderbot — trailer oficial publicado pela Apple TV: https://www.youtube.com/watch?v=vEioDeOiqEs

   
   

CONECTE-SE: @ia.todo.dia Site: https://iatododiaoficial.com.br

QUEM SOMOS:

O IA Todo Dia é o seu podcast para entender inteligência artificial de forma fácil e divertida. Toda semana trazemos notícias, entrevistas e debates sobre o futuro da tecnologia – do básico ao Black Mirror!