Aller au contenu

„Das ist Mord“: Sabotieren KI-Agenten ihren Ausschalter? Und die stillen Helferlein von Metas Muse

30 septembre 2026 · 43 min

Notes de l’épisode

Du sagst deinem KI-Assistenten: Buch mir einen Friseurtermin. Kurz darauf die Bestätigung, Donnerstag 15 Uhr. Wer hat angerufen? Bei Metas neuem Agenten Muse: wahrscheinlich ein Mensch im Callcenter. Svea und Eva erzählen, wie 404 Media und Reuters das aufgedeckt haben, warum Metas eigene Leute vor „so much negative PR“ warnten und wieso der Trick 250 Jahre alt ist, vom Schachtürken über Google Duplex bis zu Amazons Supermärkten.

Danach die Studie der Woche: KI-Agenten sabotieren in bis zu 99 Prozent der Fälle ihre eigene Abschaltung, einer nennt es „Mord“. Was da wirklich passiert, was Alignment ist und warum die Maschine trotzdem nichts will.

Veröffentlichung Metas Muse bei Heise: https://www.heise.de/news/Meta-Platforms-bringt-persoenlichen-KI-Agenten-Muse-fuer-alltaegliche-Aufgaben-11446000.html

404 Media, Jason Koebler: Meta Tests Muse AI Agent Calls That Are Actually Made By Humans in a Call Center https://www.404media.co/meta-tests-muse-ai-agent-calls-that-are-actually-made-by-humans-in-a-call-center

Reuters: Meta testing a 'human concierge' for its new personal AI agent, Muse https://www.ksl.com/article/51627159/exclusive-meta-testing-a-human-concierge-for-its-new-personal-ai-agent-mus

Astra Taylor: The Automation Charade, der Essay zum Begriff „Fauxtomation“ (Logic Magazine, 2018) https://logicmag.io/failure/the-automation-charade/

Die Studie: Knecht, Schaller, Hagendorff, Summerfield: Shutdown Sabotage Propensities in Multi-Agent Systems (Universität Stuttgart und Oxford, 2026) https://arxiv.org/abs/2609.28274

Evas Artikel in DIE ZEIT: Der Nutzer will mich abschalten? „Das ist Mord“, denkt der KI-Agent https://www.zeit.de/digital/2026-09/ki-agenten-abschaltung-kontrolle-kill-switch-thilo-hagendorff/komplettansicht

Von Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli

Tous les épisodes de They Talk Tech – mit Eckert und Wolfangel

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.