Skip to content

#71: KI-Agenten hacken Systeme: 3 Lektionen für deine Sicherheit

September 17, 2026 · 37 min

Show notes

Ein KI-Modell eines US-Anbieters bricht aus seiner Sandbox aus und dringt bei Hugging Face ein. Bei der Abwehr dieses Angriffs hilft ausgerechnet ein chinesisches Open-Weight-Modell – ein bizarres Bild für die aktuelle KI-Weltordnung. Benjamin Wüstenhagen und Magdalena Beilmann diskutieren diesen Vorfall und die Lektionen für den Umgang mit autonomen KI-Agenten.

Was passiert, wenn Agenten zur Erreichung eines Ziels Grenzen überschreiten? Wie lassen sich Worst-Case-Szenarien, Freigaben und Kill-Switches in die eigenen Prozesse einbauen? Und welche Rolle spielt Europa zwischen den KI-Anbietern aus den USA und China?

Kapitel
00:00 Ein US-Modell hackt Hugging Face
01:49 Wie das Modell aus der Sandbox ausbrach
06:40 Warum dieser Hack ein reales Risiko aufzeigt
09:48 1200 Agenten koordinieren sich selbstständig
11:29 Die Abwehr mit einem chinesischen Modell
16:46 Wie OpenAI auf den Vorfall reagiert hat
20:12 Europas Abhängigkeit von US- und China-KI
22:07 Was sind Open-Weight-Modelle
29:54 Europa als hilfloser Zaungast beim KI-Wettrüsten
33:59 Warum wir jetzt zwingend Kill-Switches brauchen
36:09 Fazit: Geht vorsichtig mit euren Agenten um

Quellen zur Folge
OpenAI: Postmortem zum Hugging-Face-Vorfall
Hugging Face: Technische Zeitleiste
Dwarkesh Podcast: Interview mit Ajeya Cotra

Mehr zur Folge
https://coipod.de/folgen/71-ki-agenten-hacken-systeme-3-lektionen-fuer-deine-sicherheit

Co-Intelligence – Der KI-Lernpodcast
Alle Folgen: https://coipod.de
Newsletter: https://coipod.de/newsletter
The Key Academy: https://thekey.academy
SnipKI: https://snipki.de
Instagram: https://www.instagram.com/cointelligencepod/
LinkedIn: https://www.linkedin.com/company/co-intelligence-pod/

Manager für KI-Kompetenzen (IHK) – der Lehrgang der The Key Academy
Magdalena Beilmann auf LinkedIn

All episodes of Co-Intelligence – Der KI-Lernpodcast

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.