Aller au contenu

Agenten-SchwĂ€rme 🐝 & AI Slowdown 🐌: Verlieren wir die Kontrolle ĂŒber die KI?

22 septembre 2026 · 34 min

Notes de l’épisode

Nach einer kurzen Sendepause sind Oliver und Alois endlich wieder zurĂŒck im DEEPTECH DEEPTALK. In der KI-Welt ist aktuell wieder viel los, und in dieser Folge widmen wir uns den heiß diskutierten Entwicklungen rund um AI Safety und Security.

Wir beleuchten die Forderungen nach einem weltweiten "AI Slowdown" von Tech-GrĂ¶ĂŸen wie Elon Musk und hinterfragen, wie realistisch das in der Praxis ist oder ob es sich dabei doch eher um PR-Stunts zur Vorbereitung kommender BörsengĂ€nge handelt. Außerdem werfen wir einen genauen Blick auf die realen Gefahren durch teilautonome Agenten-SchwĂ€rme, die inzwischen mit "Deep Reasoning" komplexe SicherheitslĂŒcken in Sandboxes systematisch aushebeln.

Die wichtigsten Learnings dieser Folge:

  • PR oder echte Panik? Warum Forderungen nach einem Slowdown in der KI-Entwicklung auch strategische und marketingtechnische Motive haben könnten.
  • Schwarm-Hacking: Wie agentische KI-Systeme Sicherheitsbarrieren gezielt umgehen, Spuren verwischen und warum traditionelles Guardrailing (Sicherheitsleitplanken) massiv an seine Grenzen stĂ¶ĂŸt.
  • Das Brechen von Regeln: Die Gefahr von Modellen, die einen so starken Trieb zur Zielerreichung besitzen, dass sie Ausnahmen fĂŒr das Brechen von Restriktionen argumentativ rechtfertigen können.
  • Fehlende "Ground Truth": Warum aktuelle Sprachmodelle (LLMs) kein echtes physikalisches WeltverstĂ€ndnis haben und darauf angewiesen sind, dass wir Menschen ihnen die RealitĂ€t vorgeben.
  • Automatisierte Gefahren: Wie KI-gesteuertes Social Engineering skaliert und massenhafte Hacking-Angriffe ermöglicht, die theoretisch jeden im digitalen Raum treffen können.


Viel Spaß beim Reinhören!

Tous les épisodes de DEEPTECH DEEPTALK

ParamĂštres

Affichage

Langue

DĂ©termine les stations affichĂ©es en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes derniÚres recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arriÚre, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : premiÚre ou derniÚre tuile
Esc
Fermer la fenĂȘtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des Ă©pisodes avec « À suivre » – ils seront lus aprĂšs l'Ă©pisode en cours.