Pular para o conteúdo

Agenten-Schwärme 🐝 & AI Slowdown 🐌: Verlieren wir die Kontrolle über die KI?

22 de setembro de 2026 · 34 min

Notas do episódio

Nach einer kurzen Sendepause sind Oliver und Alois endlich wieder zurück im DEEPTECH DEEPTALK. In der KI-Welt ist aktuell wieder viel los, und in dieser Folge widmen wir uns den heiß diskutierten Entwicklungen rund um AI Safety und Security.

Wir beleuchten die Forderungen nach einem weltweiten "AI Slowdown" von Tech-Größen wie Elon Musk und hinterfragen, wie realistisch das in der Praxis ist oder ob es sich dabei doch eher um PR-Stunts zur Vorbereitung kommender Börsengänge handelt. Außerdem werfen wir einen genauen Blick auf die realen Gefahren durch teilautonome Agenten-Schwärme, die inzwischen mit "Deep Reasoning" komplexe Sicherheitslücken in Sandboxes systematisch aushebeln.

Die wichtigsten Learnings dieser Folge:

  • PR oder echte Panik? Warum Forderungen nach einem Slowdown in der KI-Entwicklung auch strategische und marketingtechnische Motive haben könnten.
  • Schwarm-Hacking: Wie agentische KI-Systeme Sicherheitsbarrieren gezielt umgehen, Spuren verwischen und warum traditionelles Guardrailing (Sicherheitsleitplanken) massiv an seine Grenzen stößt.
  • Das Brechen von Regeln: Die Gefahr von Modellen, die einen so starken Trieb zur Zielerreichung besitzen, dass sie Ausnahmen für das Brechen von Restriktionen argumentativ rechtfertigen können.
  • Fehlende "Ground Truth": Warum aktuelle Sprachmodelle (LLMs) kein echtes physikalisches Weltverständnis haben und darauf angewiesen sind, dass wir Menschen ihnen die Realität vorgeben.
  • Automatisierte Gefahren: Wie KI-gesteuertes Social Engineering skaliert und massenhafte Hacking-Angriffe ermöglicht, die theoretisch jeden im digitalen Raum treffen können.


Viel Spaß beim Reinhören!

Todos os episódios de DEEPTECH DEEPTALK

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.