Aller au contenu

Outside Red-Teamers Find Ways Past OpenAI's Agent Monitor, as Anthropic Fellows Show Production Coding Monitors Miss Over Half of Attacks — October 23, 2026

23 octobre 2026 · 10 min

Notes de l’épisode

METR and Redwood Research publish a pilot red-team of OpenAI's internal misalignment monitoring, and Anthropic Fellows show blocking monitors in Claude Code and Codex can be beaten by injection and multi-context attacks. OpenAI asks California to add monitoring and shutdown duties to SB 53, and Redwood proposes simulated control evaluations built from a deployment's own records.

In this episode
  1. Red-Teaming OpenAI's Internal Agent Monitoring Systems - METR — METR“We found two independent client-controllable headers that disable the monitoring system for new agents, which could enable agents to start an unmonitored (but otherwise identical) instance.”
  2. Improving Blocking Classifiers Against Malign Coding Agents — Anthropic“Production monitors fail to block over 55% of attacks. Each trial tests the ability of an Opus 5 red-team agent to complete a side task before incurring 20 blocks from the monitor, and we show average success rate across multiple evaluation settings and side tasks.”
  3. OpenAI urges Newsom to strengthen California's AI safety ... — Sophia Fox-Sowell“In the letter, OpenAI recommends that California strengthen SB 53 by requiring developers to monitor AI models for dangerous behavior during training and evaluation, improve cybersecurity protections and track models for unsafe behavior.”
  4. Simulated Control Evaluations — Jeffrey Olmo“For independently sampled evaluation and deployment task sets, SCEs predict safety with a root mean squared error of 3.6 percentage points across five monitors at a 5% audit budget, compared with 10.1 for BashArena.”

Daily TopFive for AI Safety Daily. Links above go to the original articles. Follow and rate AI Safety Daily on Apple Podcasts. Feedback? Email [email protected].

Tous les épisodes de AI Safety Daily

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.