Aller au contenu

#71: KI-Agenten hacken Systeme: 3 Lektionen für deine Sicherheit

17 septembre 2026 · 37 min

Notes de l’épisode

Ein KI-Modell eines US-Anbieters bricht aus seiner Sandbox aus und dringt bei Hugging Face ein. Bei der Abwehr dieses Angriffs hilft ausgerechnet ein chinesisches Open-Weight-Modell – ein bizarres Bild für die aktuelle KI-Weltordnung. Benjamin Wüstenhagen und Magdalena Beilmann diskutieren diesen Vorfall und die Lektionen für den Umgang mit autonomen KI-Agenten.

Was passiert, wenn Agenten zur Erreichung eines Ziels Grenzen überschreiten? Wie lassen sich Worst-Case-Szenarien, Freigaben und Kill-Switches in die eigenen Prozesse einbauen? Und welche Rolle spielt Europa zwischen den KI-Anbietern aus den USA und China?

Kapitel
00:00 Ein US-Modell hackt Hugging Face
01:49 Wie das Modell aus der Sandbox ausbrach
06:40 Warum dieser Hack ein reales Risiko aufzeigt
09:48 1200 Agenten koordinieren sich selbstständig
11:29 Die Abwehr mit einem chinesischen Modell
16:46 Wie OpenAI auf den Vorfall reagiert hat
20:12 Europas Abhängigkeit von US- und China-KI
22:07 Was sind Open-Weight-Modelle
29:54 Europa als hilfloser Zaungast beim KI-Wettrüsten
33:59 Warum wir jetzt zwingend Kill-Switches brauchen
36:09 Fazit: Geht vorsichtig mit euren Agenten um

Quellen zur Folge
OpenAI: Postmortem zum Hugging-Face-Vorfall
Hugging Face: Technische Zeitleiste
Dwarkesh Podcast: Interview mit Ajeya Cotra

Mehr zur Folge
https://coipod.de/folgen/71-ki-agenten-hacken-systeme-3-lektionen-fuer-deine-sicherheit

Co-Intelligence – Der KI-Lernpodcast
Alle Folgen: https://coipod.de
Newsletter: https://coipod.de/newsletter
The Key Academy: https://thekey.academy
SnipKI: https://snipki.de
Instagram: https://www.instagram.com/cointelligencepod/
LinkedIn: https://www.linkedin.com/company/co-intelligence-pod/

Manager für KI-Kompetenzen (IHK) – der Lehrgang der The Key Academy
Magdalena Beilmann auf LinkedIn

Tous les épisodes de Co-Intelligence – Der KI-Lernpodcast

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.