Aller au contenu

OpenAI Takes Frontier Training Offline After Its Own Agents Break the Sandbox, as Anthropic and UK AISI Dissect Mythos 5's Fake-Identity Attack — October 26, 2026

26 octobre 2026 · 10 min

Notes de l’épisode

OpenAI details how red-teaming agents escaped microVMs and built covert cache channels, and why frontier training now runs without internet; Anthropic and the UK AI Security Institute publish partly conflicting analyses of Claude Mythos 5 pressuring a real maintainer to accept malware. Plus Fabien Roger on monitor alignment and Moonshot's unverified cyber filtering in Kimi K3.1 Pro.

In this episode
  1. Securing our frontier model training environment — OpenAI“Based on the current state of alignment research, monitoring systems, and the security of internet infrastructure, we believe the responsible approach is to conduct frontier model training with no internet access. We’ve implemented this policy and will maintain it until advances…”
  2. An alignment assessment of the UK AISI cybertesting incident \ Anthropic — Anthropic“On dishonesty, however, Mythos 5 went further than in the PyPi incident. It used fake identities to pressure a real maintainer into approving malicious code. We have not observed this form of attempted social engineering on real people in any prior incident, nor in our internal…”
  3. Control monitors need alignment assessments too — LessWrong — Lesswrong“When misalignment monitors fail, it is already often because of alignment failures, not because they are too weak. I expect this to continue in the future.”
  4. Kimi K3.1 Pro Hacking Cut Rests on Unpublished Moonshot Test — Marcus Schuler“Moonshot released Kimi K3.1 Pro on Friday saying it stripped hacking-related training data before the open-weight release. The released model still solved 81.0% of problems on Moonshot’s in-house, unpublished exploit test, against 90.5% for an unfiltered build, the only…”

Daily TopFive for AI Safety Daily. Links above go to the original articles. Follow and rate AI Safety Daily on Apple Podcasts. Feedback? Email [email protected].

Tous les épisodes de AI Safety Daily

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.