Skip to content

KI-Agenten außer Kontrolle?

September 25, 2026 · 36 min

Show notes

Ex-Hacker Mirko Ross über manipulierte Systeme und den globalen Machtkampf

Der UN-Sicherheitsrat hat sich in dieser Woche mit den Sicherheitsrisiken fortgeschrittener Systeme Künstlicher Intelligenz (KI) befasst. Führende Vertreter der Branche warnten vor den Folgen immer leistungsfähigerer Modelle. UN-Generalsekretär António Guterres mahnte, Menschen dürften Entscheidungsgewalt nicht schrittweise Maschinen überlassen. Kurz danach traf der amerikanische Präsident Donald Trump in Washington den chinesischen Staats- und Parteichef Xi Jinping. Neben Handel, Zöllen, Taiwan und seltenen Erden stand dabei auch die KI-Konkurrenz und der Entwicklungsfortschritt auf der Tagesordnung. Greifbare Ergebnisse waren danach nicht zu hören. Zudem gibt es immer wieder neue Nachrichten über Sicherheitsvorfälle, das unerlaubte Eindringen von agentischen KI-Systemen in die Computersysteme von Behörden, jüngst in Australien, oder Unternehmen. Deutschland und Europa stehen dabei vor einem doppelten Problem. Sie müssen rund um die KI, aber zugleich die Risiken für Wirtschaft, Verwaltung und kritische Infrastruktur beherrschen. Im F.A.Z.-Digitalwirtschaft-Podcast sprechen wir mit Mirko Ross, Gründer und Chef des Cybersicherheitsunternehmens asvin.io, über die neuen Risiken der KI: über manipulierte Systeme und die Frage, wie viel Entscheidungsfreiheit Unternehmen ihren KI-Agenten geben sollten. Ross bezeichnet sich selbst als ehemaligen Hacker und beschäftigt sich in seinem Unternehmen mit der Sicherheit vernetzter Systeme, Software-Lieferketten sowie industrieller und kritischer Infrastruktur. Wie sich KI-Risiken begrenzen lassen, ist eine Führungsfrage, in der Politik wie in der Wirtschaft. Unternehmen müssten zunächst wissen, welche KI-Systeme, Datenquellen, Schnittstellen und externen Abhängigkeiten sie überhaupt einsetzen, sagt Ross. Dazu kommen viele andere Punkte auf einer Checkliste, die im Podcast durchgegangen wird. Politisch hofft Ross darauf, dass man wenigstens bei der militärischen Nutzung von KI zu allgemeingültigen Regeln für die gesamte Menschheit findet, vor einer potenziellen Katastrophe und nicht erst danach.


Kontakt und weitere Angebote

Sie haben Fragen oder Anmerkungen zur Folge? Schreiben Sie uns gerne per E-Mail: [email protected]

Laden Sie die F.A.Z.-App herunter und bleiben Sie auch unterwegs informiert.

Hören Sie mit FAZ+ unsere exklusiven Podcast-Folgen auf FAZ.NET, in der FAZ-App sowie über Apple Podcasts und Spotify – inklusive Zugriff auf alle Artikel der F.A.Z. Testen Sie FAZ+ jetzt 3 Monate lang für nur 4 € im Monat. Hier geht’s zum Angebot.


Werbepartner

Mehr über die Angebote unserer Werbepartner finden Sie hier.

All episodes of F.A.Z. Digitalwirtschaft

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.