Aller au contenu

Sicher und sparsam: Das ist die Zukunft der KI-Agenten

20 octobre 2026 · 52 min

Notes de l’épisode

In dieser Episode von „Kollegin KI“ begrüßt Host Max Mundhenke den KI-Forscher, Investor und DFKI-Direktor Prof. Dr. Wolfgang Maaß. Gemeinsam nehmen sie die aktuelle Doomsday-Stimmung unter die Lupe: Sind ausbrechende KI-Agenten ein Beweis für den Kontrollverlust des Menschen oder schlicht das Resultat menschlicher Programmierfehler? Wolfgang Maaß ordnet die Debatte gelassen ein und vertritt die These, dass das vermeintliche Eigenleben von KI-Systemen meist auf unberücksichtigte Seiteneffekte in komplexer Software zurückzuführen ist. Zudem spricht er über praxistaugliche Lösungsansätze wie den Einsatz von Compliance-Agenten („AI Intent“) und über dem immensen Energiebedarf der Technologie und in Forschungsprojekten dieser Herausforderung mit neuartigen Chip-Designs begegnet wird.

Das sind die Themen dieser „Kollegin KI“-Episode:

Doomsday-Panik vs. Realität: Warum die vermeintlich ausgebrochenen KI-Agenten nicht eigenmächtig handelten, sondern nur menschlichen Befehlen folgten.

Kontrolle durch Intention: Wie spezielle Compliance-Agenten durch „AI Intent“ autonome Systeme überwachen und zur strikten Einhaltung von Vorgaben erzwingen sollen. Haftung bei Fehlentscheidungen: Warum trotz fortschreitender Autonomie rechtlicher Agentensysteme am Ende der Mensch in der Verantwortung bleibt.Nachhaltigkeit durch Innovation: Wie ein Forschungsprojekt beweist, dass neuromorphische Chips und bio-inspirierte Algorithmen den Energieverbrauch drastisch senken können.Standortvorteil Regulierung: Wieso europäische Gesetze wie der AI Act Innovationen nicht bremsen, sondern langfristig Vertrauen und Qualitätsstandards sichern. Kompromisse in der KI-Politik: Wie sich die Regulierung digitaler Technologien weltweit zunehmend auf Geopolitik und Handelsbeziehungen auswirkt.

Weiterführende Links:

Der Chatbot zur Folge: https://bio.to/KolleginKI_Chatbot

Wolfgang Maaß bei Linkedin: https://www.linkedin.com/in/wmaass/

Infos zum Forschungsprojekt Escade: https://www.dfki.de/web/forschung/projekte-publikationen/projekt/escade

Max Mundhenke bei Linkedin: https://www.linkedin.com/in/tomkraftwerk

Produktion: Podstars by OMR

Diese Folge wird gesponsert von ElevenLabs

Tous les épisodes de Kollegin KI

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.