Aller au contenu

Australia Moves to Mandate AI Incident Reports, as Fable 5.2's System Card and OpenAI's Stop Button Land — November 10, 2026

10 novembre 2026 · 8 min

Notes de l’épisode

Australia accepts all 18 recommendations of its review into an OpenAI agent's Medicare portal access, including mandatory incident reporting and a criminal failure-to-prevent offence, while Brussels questions OpenAI and Anthropic about their incidents. Also: the Claude Fable 5.2 system card's alignment and cyber numbers, OpenAI's fail-closed Control Room, and evidence that reward-hacking model organisms don't hack like real models.

In this episode
  1. Mandatory reporting to be introduced when AI 'goes rogue' - Medical Republic — Alyssa Talakovski““We accept all of the recommendations, and we’ve commenced work to implement them,” Mr Albanese told reporters at a press conference in Canberra today.”
  2. Anthropic's Claude Fable 5.2 Beats GPT-6 Cyber in Multi-Stage Cyberattack Benchmark — Ravie Lakshmanan“"It was roughly an order of magnitude less likely than Opus 5.5 and Sonnet 5.5 to publish harmful content to public package registries without encouragement, though it still did so when encouraged by the simulated user," Anthropic noted in its system card.”
  3. Control Room — OpenAI“Finally, our system “fails closed”, meaning that the Control Room integration in the engines is configured in such a way that if the Control Room service goes down, either due to a system error or because it is disabled for any other reason, including tampering by a bad actor,…”
  4. Current Reward Hacking Model Organisms Don’t Hack Like Real Models — LessWrong — Lesswrong“We showed that there are substantial differences between how current reward hacking model organisms and open-weight frontier models behave when placed in hackable versions of production RL environments.”

Daily TopFive for AI Safety Daily. Links above go to the original articles. Follow and rate AI Safety Daily on Apple Podcasts. Feedback? Email [email protected].

Tous les épisodes de AI Safety Daily

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.