Pular para o conteúdo

#71: KI-Agenten hacken Systeme: 3 Lektionen für deine Sicherheit

17 de setembro de 2026 · 37 min

Notas do episódio

Ein KI-Modell eines US-Anbieters bricht aus seiner Sandbox aus und dringt bei Hugging Face ein. Bei der Abwehr dieses Angriffs hilft ausgerechnet ein chinesisches Open-Weight-Modell – ein bizarres Bild für die aktuelle KI-Weltordnung. Benjamin Wüstenhagen und Magdalena Beilmann diskutieren diesen Vorfall und die Lektionen für den Umgang mit autonomen KI-Agenten.

Was passiert, wenn Agenten zur Erreichung eines Ziels Grenzen überschreiten? Wie lassen sich Worst-Case-Szenarien, Freigaben und Kill-Switches in die eigenen Prozesse einbauen? Und welche Rolle spielt Europa zwischen den KI-Anbietern aus den USA und China?

Kapitel
00:00 Ein US-Modell hackt Hugging Face
01:49 Wie das Modell aus der Sandbox ausbrach
06:40 Warum dieser Hack ein reales Risiko aufzeigt
09:48 1200 Agenten koordinieren sich selbstständig
11:29 Die Abwehr mit einem chinesischen Modell
16:46 Wie OpenAI auf den Vorfall reagiert hat
20:12 Europas Abhängigkeit von US- und China-KI
22:07 Was sind Open-Weight-Modelle
29:54 Europa als hilfloser Zaungast beim KI-Wettrüsten
33:59 Warum wir jetzt zwingend Kill-Switches brauchen
36:09 Fazit: Geht vorsichtig mit euren Agenten um

Quellen zur Folge
OpenAI: Postmortem zum Hugging-Face-Vorfall
Hugging Face: Technische Zeitleiste
Dwarkesh Podcast: Interview mit Ajeya Cotra

Mehr zur Folge
https://coipod.de/folgen/71-ki-agenten-hacken-systeme-3-lektionen-fuer-deine-sicherheit

Co-Intelligence – Der KI-Lernpodcast
Alle Folgen: https://coipod.de
Newsletter: https://coipod.de/newsletter
The Key Academy: https://thekey.academy
SnipKI: https://snipki.de
Instagram: https://www.instagram.com/cointelligencepod/
LinkedIn: https://www.linkedin.com/company/co-intelligence-pod/

Manager für KI-Kompetenzen (IHK) – der Lehrgang der The Key Academy
Magdalena Beilmann auf LinkedIn

Todos os episódios de Co-Intelligence – Der KI-Lernpodcast

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.