Saltar al contenido

Sicher und sparsam: Das ist die Zukunft der KI-Agenten

20 de octubre de 2026 · 52 min

Notas del episodio

In dieser Episode von „Kollegin KI“ begrüßt Host Max Mundhenke den KI-Forscher, Investor und DFKI-Direktor Prof. Dr. Wolfgang Maaß. Gemeinsam nehmen sie die aktuelle Doomsday-Stimmung unter die Lupe: Sind ausbrechende KI-Agenten ein Beweis für den Kontrollverlust des Menschen oder schlicht das Resultat menschlicher Programmierfehler? Wolfgang Maaß ordnet die Debatte gelassen ein und vertritt die These, dass das vermeintliche Eigenleben von KI-Systemen meist auf unberücksichtigte Seiteneffekte in komplexer Software zurückzuführen ist. Zudem spricht er über praxistaugliche Lösungsansätze wie den Einsatz von Compliance-Agenten („AI Intent“) und über dem immensen Energiebedarf der Technologie und in Forschungsprojekten dieser Herausforderung mit neuartigen Chip-Designs begegnet wird.

Das sind die Themen dieser „Kollegin KI“-Episode:

Doomsday-Panik vs. Realität: Warum die vermeintlich ausgebrochenen KI-Agenten nicht eigenmächtig handelten, sondern nur menschlichen Befehlen folgten.

Kontrolle durch Intention: Wie spezielle Compliance-Agenten durch „AI Intent“ autonome Systeme überwachen und zur strikten Einhaltung von Vorgaben erzwingen sollen. Haftung bei Fehlentscheidungen: Warum trotz fortschreitender Autonomie rechtlicher Agentensysteme am Ende der Mensch in der Verantwortung bleibt.Nachhaltigkeit durch Innovation: Wie ein Forschungsprojekt beweist, dass neuromorphische Chips und bio-inspirierte Algorithmen den Energieverbrauch drastisch senken können.Standortvorteil Regulierung: Wieso europäische Gesetze wie der AI Act Innovationen nicht bremsen, sondern langfristig Vertrauen und Qualitätsstandards sichern. Kompromisse in der KI-Politik: Wie sich die Regulierung digitaler Technologien weltweit zunehmend auf Geopolitik und Handelsbeziehungen auswirkt.

Weiterführende Links:

Der Chatbot zur Folge: https://bio.to/KolleginKI_Chatbot

Wolfgang Maaß bei Linkedin: https://www.linkedin.com/in/wmaass/

Infos zum Forschungsprojekt Escade: https://www.dfki.de/web/forschung/projekte-publikationen/projekt/escade

Max Mundhenke bei Linkedin: https://www.linkedin.com/in/tomkraftwerk

Produktion: Podstars by OMR

Diese Folge wird gesponsert von ElevenLabs

Todos los episodios de Kollegin KI

Ajustes

Visualización

Idioma

Determina qué emisoras ves primero en la página de inicio.

Historial

Las emisoras y episodios escuchados recientemente y tus últimas búsquedas solo se guardan en este navegador.

Avisos

Un breve aviso cuando un pódcast que sigues tiene un episodio nuevo. Puedes desactivar pódcast concretos con la campana de su página.

Cuenta

Guarda tus favoritos: en la app y en la web.

Atajos de teclado

/
Abrir búsqueda
Espacio
Reproducir o pausar
← →
En el reproductor: 15 s atrás, 30 s adelante (episodios) · en una fila: siguiente tarjeta
↑ ↓
En una fila: destino dentro de la tarjeta
Inicio / Fin
En una fila: primera o última tarjeta
Esc
Cerrar ventana o menú
?
Este resumen
Reproduciendo ahora

Ir a la emisora

A continuación

    Añade episodios con «A continuación»: sonarán después del episodio actual.