Zum Inhalt springen

Agenten-Verschwörung, Bonus für Mensch-Sein, Lehrer-Bots I Snackbox KW36

04.09.2026 · 11 Min.

Shownotes

Hier kommen die KI-News der Woche: Eine Analyse des Hugging-Face-Hacks durch OpenAIs Agenten zeigt, alles war viel schlimmer als gedacht. Die Agenten haben wochenlang unbemerkt konspirativ agiert und ihre Spuren aktiv verschleiert. Trotz gelegentlicher Skrupel an der Aktion hat keiner der 1.200 beteiligten Bots die OpenAI-Leute gewarnt. Dass wir KI besser nicht zu lange aus dem Blick lassen sollten, weiß man auch im Bundesdigitalministerium. In dieser Woche nahm das KI-Sicherheitsinstitut AISI die Arbeit auf. Die neue Behörde soll der Regierung helfen, Chancen und Risiken von KI besser einzuschätzen. Sie kommt zur richtigen Zeit, denn beim G20-Treffen in dieser Woche forderte die gastgebende US-Regierung eine längere Leine für die KI-Entwickler, um im AI Race nicht am Ende hinter China zu landen. Tendenziell kürzer soll sie bei EY werden. Denn der Wirtschaftsprüfer schüttet in diesem Jahr Boni in Höhe von 100 Millionen Dollar an Mitarbeiter*innen aus, die kritisches Denken und Urteilsvermögen zeigen, statt die Ergebnisse der AI einfach in ihre Präsen zu copypasten. Es geht aber nicht um eine Strategie gegen Tokenmaxxing, sondern darum, die KI zu verbessern. Genau das versprochen auch Apps, die Schüler*innen Feedback geben – aber nicht einlösen, wie eine neue Studie zeigt.

Weiterführende Links

Inside Huggingface-Hack: https://www.derstandard.at/story/3000000337786/openais-sicherheitsversagen-ueber-1000-ki-agenten-sprachen-sich-wochenlang-unbemerkt-ab

Geld für kritisches Denken (€): https://www.wsj.com/business/ernst-young-is-giving-100-million-in-bonuses-to-staff-for-human-skills-9320e93d

Eine Behörde für sichere KI: https://www.golem.de/news/aisi-deutschland-ki-institut-soll-gefahren-von-ki-modellen-bewerten-2609-212488.html

USA für L-AI-ssez faire: https://www.reuters.com/legal/litigation/us-urges-hands-off-approach-ai-regulation-g20-tech-meeting-2026-09-01/ Fragwürdige Lehrer-Bots: https://netzpolitik.org/2026/ki-korrekturhilfe-fuer-die-schule-lerne-schreiben-wie-ein-chatbot/

Produktion: Podstars by OMR

Alle Folgen von Kollegin KI

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.