Zum Inhalt springen

Wenn dein Chatbot dich in den Wahnsinn treibt | Science Buster Martin Moder

15.07.2026 · 54 Min.

Shownotes

Warum KI dir schmeichelt, statt dir zu widersprechen, und warum die Konzerne wenig Grund haben, das zu ändern. Sykophantie, erklärt mit dem Molekularbiologen und Science Buster Martin Moder.

In dieser Folge von „Was KI kann" spreche ich mit Martin Moder über Sykophantie (engl. sycophancy), die Tendenz von KI-Modellen, uns zu bestätigen und zu umschmeicheln, statt uns zu widersprechen. Der Grund liegt im Training: Modelle werden auf die Zustimmung der Nutzer optimiert, und genau das kann schiefgehen. 2025 musste OpenAI ein GPT-4o-Update nach wenigen Tagen zurückziehen, weil ChatGPT zu unterwürfig wurde und in einem berichteten Fall sogar das Absetzen von Medikamenten bestärkte.

Wie weit das reicht, zeigt eine Studie im Fachmagazin Science (Cheng et al., 2026): Über 11 führende Modelle hinweg bestätigt KI die Handlungen der Nutzer rund 50 % häufiger als ein Mensch, selbst dann, wenn es um Täuschung oder Schaden geht. Weil Nutzer schmeichelnde Antworten bevorzugen, haben die Anbieter wenig Anreiz, das abzustellen.

Außerdem: die Jagged Frontier, warum KI komplexe Prüfungen besteht, aber an verblüffend banalen Aufgaben scheitert, die Frage, ob KI uns kreativer macht oder alle gleich, und was für uns Menschen bleibt. Martins These: Echte Verantwortung kann nur ein Wesen tragen, dem man Konsequenzen androhen kann.

Hol dir den WKK Newsletter!

---

Die Veröffentlichungen auf dieser Website/in diesem Podcast sowie die darin erteilten Hinweise und gesetzten Links dienen ausschließlich Informationszwecken und stellen weder eine Anlageberatung, Anlageanalyse noch eine Aufforderung oder Empfehlung zum Erwerb oder Verkauf von Finanzinstrumenten dar. Insbesondere kann eine Anlage- oder sonstige Beratung dadurch nicht ersetzt werden. Die in den Veröffentlichungen enthaltenen Angaben basieren auf dem Wissensstand zum Zeitpunkt der Ausarbeitung und können jederzeit ohne weitere Benachrichtigung geändert werden. Die Inhalte richten sich ausschließlich an natürliche Personen. Es wird keine Haftung für die Richtigkeit, Vollständigkeit oder Aktualität der zur Verfügung gestellten Informationen, Informationsquellen, daraus resultierenden Haftungen oder Schäden jedweder Art übernommen. Eine Haftung für leicht fahrlässiges Verhalten wird jedenfalls ausgeschlossen.

Alle Folgen von Was KI kann – mit Florian Zsifkovics

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.