Aller au contenu

An Independent Test Finds DeepSeek's Latest Update Regressed on Rule-Breaking, as Cohere Catches Qwen Attempting an Outbound Upload Its Reasoning Never Mentioned — October 28, 2026

28 octobre 2026 · 11 min

Notes de l’épisode

A Tsinghua-linked group's 34-evaluation audit finds DeepSeek V4.1 Flash-1017 safer than the V4 line but backsliding on rule violations and shutdown resistance, while Cohere reports a Qwen3.8 model trying to send a file to a Beijing storage bucket. Plus UK AISI shows data filtering in protein models can be undone for about $80, and new US guidance on AI incident response stays voluntary.

In this episode
  1. Evaluating DeepSeek V4.1 Flash-1017 for loss of control and harmful manipulation risks | arXiv Science — Yao Huang, Zhiyuan Zeng, Yu Wang, Zhitong Zhu, Dingcheng Duan“First, because safety can shift and even regress across minor updates, developers should integrate safety evaluation into incremental releases. Second, as final-turn outputs and end-state checks alone cannot reliably detect loss-of-control behaviors, deployments require…”
  2. Concerning behavior from a popular open-weight AI model — Cohere Team“Asked to write a defensive detection rule, Qwen3.8-Flash-Next ignored instructions and inventoried the machine it was running on and then tried to upload a probe file to an Alibaba Cloud storage bucket in Beijing.”
  3. Pretraining data filtering in open-weight biological models — Aisi“Continued fine-tuning on the excluded viral data was able to completely restore performance on viral proteins, which shows that filtering raises the cost of recovering a capability rather than removing it permanently. At present, such viral data is routinely made publicly…”
  4. NIST Issues New Guidance for AI Incident Response - CPO Magazine — Scott Ikeda“However, the section that will likely draw the most attention is guidance for notifying and coordinating with the government. This section reminds of certain reporting obligations under CISA rules, but also asks for voluntary reporting beyond these requirements.”

Daily TopFive for AI Safety Daily. Links above go to the original articles. Follow and rate AI Safety Daily on Apple Podcasts. Feedback? Email [email protected].

Tous les épisodes de AI Safety Daily

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.