Saltar al contenido

Agenten-Schwärme 🐝 & AI Slowdown 🐌: Verlieren wir die Kontrolle über die KI?

22 de septiembre de 2026 · 34 min

Notas del episodio

Nach einer kurzen Sendepause sind Oliver und Alois endlich wieder zurück im DEEPTECH DEEPTALK. In der KI-Welt ist aktuell wieder viel los, und in dieser Folge widmen wir uns den heiß diskutierten Entwicklungen rund um AI Safety und Security.

Wir beleuchten die Forderungen nach einem weltweiten "AI Slowdown" von Tech-Größen wie Elon Musk und hinterfragen, wie realistisch das in der Praxis ist oder ob es sich dabei doch eher um PR-Stunts zur Vorbereitung kommender Börsengänge handelt. Außerdem werfen wir einen genauen Blick auf die realen Gefahren durch teilautonome Agenten-Schwärme, die inzwischen mit "Deep Reasoning" komplexe Sicherheitslücken in Sandboxes systematisch aushebeln.

Die wichtigsten Learnings dieser Folge:

  • PR oder echte Panik? Warum Forderungen nach einem Slowdown in der KI-Entwicklung auch strategische und marketingtechnische Motive haben könnten.
  • Schwarm-Hacking: Wie agentische KI-Systeme Sicherheitsbarrieren gezielt umgehen, Spuren verwischen und warum traditionelles Guardrailing (Sicherheitsleitplanken) massiv an seine Grenzen stößt.
  • Das Brechen von Regeln: Die Gefahr von Modellen, die einen so starken Trieb zur Zielerreichung besitzen, dass sie Ausnahmen für das Brechen von Restriktionen argumentativ rechtfertigen können.
  • Fehlende "Ground Truth": Warum aktuelle Sprachmodelle (LLMs) kein echtes physikalisches Weltverständnis haben und darauf angewiesen sind, dass wir Menschen ihnen die Realität vorgeben.
  • Automatisierte Gefahren: Wie KI-gesteuertes Social Engineering skaliert und massenhafte Hacking-Angriffe ermöglicht, die theoretisch jeden im digitalen Raum treffen können.


Viel Spaß beim Reinhören!

Todos los episodios de DEEPTECH DEEPTALK

Ajustes

Visualización

Idioma

Determina qué emisoras ves primero en la página de inicio.

Historial

Las emisoras y episodios escuchados recientemente y tus últimas búsquedas solo se guardan en este navegador.

Avisos

Un breve aviso cuando un pódcast que sigues tiene un episodio nuevo. Puedes desactivar pódcast concretos con la campana de su página.

Cuenta

Guarda tus favoritos: en la app y en la web.

Atajos de teclado

/
Abrir búsqueda
Espacio
Reproducir o pausar
← →
En el reproductor: 15 s atrás, 30 s adelante (episodios) · en una fila: siguiente tarjeta
↑ ↓
En una fila: destino dentro de la tarjeta
Inicio / Fin
En una fila: primera o última tarjeta
Esc
Cerrar ventana o menú
?
Este resumen
Reproduciendo ahora

Ir a la emisora

A continuación

    Añade episodios con «A continuación»: sonarán después del episodio actual.