Aller au contenu

#64 Was passiert, wenn KI-Agenten gehackt werden? Cybersecurity Intverview mit Viviana Sutedjo

5 octobre 2026 · 19 min

Notes de l’épisode

Nach unserer Doppelfolge „KI Stop“ über Weltuntergangs-Stimmung und Doomsday-Schlagzeilen wird es heute ganz praktisch. Unsere Gästin Viviana arbeitet als Cybersecurity Software Engineer bei Google in München. Mit ihr klären wir: Wie werden KI-Agenten gehackt, und wie können sie selbst hacken?

Viviana erzählt, wie sie eher zufällig in der Cybersecurity gelandet ist und warum der Job so kreativ ist. Sie erklärt an einem Beispiel aus dem Alltag, was eine Prompt Injection ist. Wir sprechen darüber, wie ihr Team Angriffe automatisch gegen Googles KI-Produkte laufen lässt und warum die Sicherheitsteams dafür in München und Zürich sitzen. Außerdem geht es darum, warum die Cybersecurity mehr Frauen braucht.

Pünktlich zum Start des Cybersecurity Awareness Month lautet unser Fazit: Lasst euch keine Angst machen. Bleibt wachsam und prüft, welche Zugriffe euer KI-Agent hat.

📌 Begriff im Fokus:

Prompt Injection: Jemand schmuggelt einen versteckten Befehl in Inhalte, die eine KI liest, zum Beispiel in eine E-Mail, eine Webseite oder ein Profil. Der Befehl kann etwa in weißer Schrift auf weißem Hintergrund stehen. Die KI hält ihn für eine Anweisung von euch und führt ihn aus.

CIA-Prinzip: Die drei Grundziele der Cybersecurity.

  • Confidentiality (Vertraulichkeit): Unbefugte können eure Daten nicht lesen.

  • Integrity (Integrität): Niemand kann eure Daten unbemerkt verändern.

  • Availability (Verfügbarkeit): Ein Dienst funktioniert, wenn ihr ihn braucht.

Red Team / Offensive Security: Interne Hackerinnen und Hacker greifen die eigenen Produkte an. So finden sie Sicherheitslücken, bevor echte Angreifer sie finden.

🛡️ Vivianas Tipps: So schützt ihr euch bei KI-Agenten

  1. Auf die Quelle schauen: Wer hat das Tool gebaut? Was will der Hersteller damit? Welche Sicherheitsstandards hält er ein, und gibt es dort ein Security-Team?

  2. Zugriffe gering halten: Welche Rechte braucht der Agent wirklich? Jeder zusätzliche Zugriff ist eine zusätzliche Angriffsfläche. Wenn ein Angriff klappt, richtet er damit auch mehr Schaden an.

  3. Einmal durch die Einstellungen gehen: Prüft, was der Agent mit euren Daten machen darf, zum Beispiel mit E-Mails, dem Kalender oder geteilten Dateien.

  4. Wachsam bleiben, aber ohne Panik: Informiert euch und bleibt kritisch. Lasst euch von Schreckens-Schlagzeilen keine Angst machen.

📚 Literatur & Studien:

🔗 Links:

📲 Media-Kanäle:

👉 Sarah's Instagram: @sarah_rojewski

👉 Inken's Instagram: @askinkenai


Tous les épisodes de Reboot Society – KI, Diversität und die neue Weltordnung

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.