Pular para o conteúdo

#64 Was passiert, wenn KI-Agenten gehackt werden? Cybersecurity Intverview mit Viviana Sutedjo

5 de outubro de 2026 · 19 min

Notas do episódio

Nach unserer Doppelfolge „KI Stop“ über Weltuntergangs-Stimmung und Doomsday-Schlagzeilen wird es heute ganz praktisch. Unsere Gästin Viviana arbeitet als Cybersecurity Software Engineer bei Google in München. Mit ihr klären wir: Wie werden KI-Agenten gehackt, und wie können sie selbst hacken?

Viviana erzählt, wie sie eher zufällig in der Cybersecurity gelandet ist und warum der Job so kreativ ist. Sie erklärt an einem Beispiel aus dem Alltag, was eine Prompt Injection ist. Wir sprechen darüber, wie ihr Team Angriffe automatisch gegen Googles KI-Produkte laufen lässt und warum die Sicherheitsteams dafür in München und Zürich sitzen. Außerdem geht es darum, warum die Cybersecurity mehr Frauen braucht.

Pünktlich zum Start des Cybersecurity Awareness Month lautet unser Fazit: Lasst euch keine Angst machen. Bleibt wachsam und prüft, welche Zugriffe euer KI-Agent hat.

📌 Begriff im Fokus:

Prompt Injection: Jemand schmuggelt einen versteckten Befehl in Inhalte, die eine KI liest, zum Beispiel in eine E-Mail, eine Webseite oder ein Profil. Der Befehl kann etwa in weißer Schrift auf weißem Hintergrund stehen. Die KI hält ihn für eine Anweisung von euch und führt ihn aus.

CIA-Prinzip: Die drei Grundziele der Cybersecurity.

  • Confidentiality (Vertraulichkeit): Unbefugte können eure Daten nicht lesen.

  • Integrity (Integrität): Niemand kann eure Daten unbemerkt verändern.

  • Availability (Verfügbarkeit): Ein Dienst funktioniert, wenn ihr ihn braucht.

Red Team / Offensive Security: Interne Hackerinnen und Hacker greifen die eigenen Produkte an. So finden sie Sicherheitslücken, bevor echte Angreifer sie finden.

🛡️ Vivianas Tipps: So schützt ihr euch bei KI-Agenten

  1. Auf die Quelle schauen: Wer hat das Tool gebaut? Was will der Hersteller damit? Welche Sicherheitsstandards hält er ein, und gibt es dort ein Security-Team?

  2. Zugriffe gering halten: Welche Rechte braucht der Agent wirklich? Jeder zusätzliche Zugriff ist eine zusätzliche Angriffsfläche. Wenn ein Angriff klappt, richtet er damit auch mehr Schaden an.

  3. Einmal durch die Einstellungen gehen: Prüft, was der Agent mit euren Daten machen darf, zum Beispiel mit E-Mails, dem Kalender oder geteilten Dateien.

  4. Wachsam bleiben, aber ohne Panik: Informiert euch und bleibt kritisch. Lasst euch von Schreckens-Schlagzeilen keine Angst machen.

📚 Literatur & Studien:

🔗 Links:

📲 Media-Kanäle:

👉 Sarah's Instagram: @sarah_rojewski

👉 Inken's Instagram: @askinkenai


Todos os episódios de Reboot Society – KI, Diversität und die neue Weltordnung

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.