Aller au contenu

Wenn dein Chatbot dich in den Wahnsinn treibt | Science Buster Martin Moder

15 juillet 2026 · 54 min

Notes de l’épisode

Warum KI dir schmeichelt, statt dir zu widersprechen, und warum die Konzerne wenig Grund haben, das zu ändern. Sykophantie, erklärt mit dem Molekularbiologen und Science Buster Martin Moder.

In dieser Folge von „Was KI kann" spreche ich mit Martin Moder über Sykophantie (engl. sycophancy), die Tendenz von KI-Modellen, uns zu bestätigen und zu umschmeicheln, statt uns zu widersprechen. Der Grund liegt im Training: Modelle werden auf die Zustimmung der Nutzer optimiert, und genau das kann schiefgehen. 2025 musste OpenAI ein GPT-4o-Update nach wenigen Tagen zurückziehen, weil ChatGPT zu unterwürfig wurde und in einem berichteten Fall sogar das Absetzen von Medikamenten bestärkte.

Wie weit das reicht, zeigt eine Studie im Fachmagazin Science (Cheng et al., 2026): Über 11 führende Modelle hinweg bestätigt KI die Handlungen der Nutzer rund 50 % häufiger als ein Mensch, selbst dann, wenn es um Täuschung oder Schaden geht. Weil Nutzer schmeichelnde Antworten bevorzugen, haben die Anbieter wenig Anreiz, das abzustellen.

Außerdem: die Jagged Frontier, warum KI komplexe Prüfungen besteht, aber an verblüffend banalen Aufgaben scheitert, die Frage, ob KI uns kreativer macht oder alle gleich, und was für uns Menschen bleibt. Martins These: Echte Verantwortung kann nur ein Wesen tragen, dem man Konsequenzen androhen kann.

Hol dir den WKK Newsletter!

---

Die Veröffentlichungen auf dieser Website/in diesem Podcast sowie die darin erteilten Hinweise und gesetzten Links dienen ausschließlich Informationszwecken und stellen weder eine Anlageberatung, Anlageanalyse noch eine Aufforderung oder Empfehlung zum Erwerb oder Verkauf von Finanzinstrumenten dar. Insbesondere kann eine Anlage- oder sonstige Beratung dadurch nicht ersetzt werden. Die in den Veröffentlichungen enthaltenen Angaben basieren auf dem Wissensstand zum Zeitpunkt der Ausarbeitung und können jederzeit ohne weitere Benachrichtigung geändert werden. Die Inhalte richten sich ausschließlich an natürliche Personen. Es wird keine Haftung für die Richtigkeit, Vollständigkeit oder Aktualität der zur Verfügung gestellten Informationen, Informationsquellen, daraus resultierenden Haftungen oder Schäden jedweder Art übernommen. Eine Haftung für leicht fahrlässiges Verhalten wird jedenfalls ausgeschlossen.

Tous les épisodes de Was KI kann – mit Florian Zsifkovics

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.