Zum Inhalt springen

Sicher und sparsam: Das ist die Zukunft der KI-Agenten

20.10.2026 · 52 Min.

Shownotes

In dieser Episode von „Kollegin KI“ begrüßt Host Max Mundhenke den KI-Forscher, Investor und DFKI-Direktor Prof. Dr. Wolfgang Maaß. Gemeinsam nehmen sie die aktuelle Doomsday-Stimmung unter die Lupe: Sind ausbrechende KI-Agenten ein Beweis für den Kontrollverlust des Menschen oder schlicht das Resultat menschlicher Programmierfehler? Wolfgang Maaß ordnet die Debatte gelassen ein und vertritt die These, dass das vermeintliche Eigenleben von KI-Systemen meist auf unberücksichtigte Seiteneffekte in komplexer Software zurückzuführen ist. Zudem spricht er über praxistaugliche Lösungsansätze wie den Einsatz von Compliance-Agenten („AI Intent“) und über dem immensen Energiebedarf der Technologie und in Forschungsprojekten dieser Herausforderung mit neuartigen Chip-Designs begegnet wird.

Das sind die Themen dieser „Kollegin KI“-Episode:

Doomsday-Panik vs. Realität: Warum die vermeintlich ausgebrochenen KI-Agenten nicht eigenmächtig handelten, sondern nur menschlichen Befehlen folgten.

Kontrolle durch Intention: Wie spezielle Compliance-Agenten durch „AI Intent“ autonome Systeme überwachen und zur strikten Einhaltung von Vorgaben erzwingen sollen. Haftung bei Fehlentscheidungen: Warum trotz fortschreitender Autonomie rechtlicher Agentensysteme am Ende der Mensch in der Verantwortung bleibt.Nachhaltigkeit durch Innovation: Wie ein Forschungsprojekt beweist, dass neuromorphische Chips und bio-inspirierte Algorithmen den Energieverbrauch drastisch senken können.Standortvorteil Regulierung: Wieso europäische Gesetze wie der AI Act Innovationen nicht bremsen, sondern langfristig Vertrauen und Qualitätsstandards sichern. Kompromisse in der KI-Politik: Wie sich die Regulierung digitaler Technologien weltweit zunehmend auf Geopolitik und Handelsbeziehungen auswirkt.

Weiterführende Links:

Der Chatbot zur Folge: https://bio.to/KolleginKI_Chatbot

Wolfgang Maaß bei Linkedin: https://www.linkedin.com/in/wmaass/

Infos zum Forschungsprojekt Escade: https://www.dfki.de/web/forschung/projekte-publikationen/projekt/escade

Max Mundhenke bei Linkedin: https://www.linkedin.com/in/tomkraftwerk

Produktion: Podstars by OMR

Diese Folge wird gesponsert von ElevenLabs

Alle Folgen von Kollegin KI

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.