KI-Agenten außer Kontrolle?

Ex-Hacker Mirko Ross über manipulierte Systeme und den globalen Machtkampf

Der UN-Sicherheitsrat hat sich in dieser Woche mit den Sicherheitsrisiken fortgeschrittener Systeme Künstlicher Intelligenz (KI) befasst. Führende Vertreter der Branche warnten vor den Folgen immer leistungsfähigerer Modelle. UN-Generalsekretär António Guterres mahnte, Menschen dürften Entscheidungsgewalt nicht schrittweise Maschinen überlassen. Kurz danach traf der amerikanische Präsident Donald Trump in Washington den chinesischen Staats- und Parteichef Xi Jinping. Neben Handel, Zöllen, Taiwan und seltenen Erden stand dabei auch die KI-Konkurrenz und der Entwicklungsfortschritt auf der Tagesordnung. Greifbare Ergebnisse waren danach nicht zu hören. Zudem gibt es immer wieder neue Nachrichten über Sicherheitsvorfälle, das unerlaubte Eindringen von agentischen KI-Systemen in die Computersysteme von Behörden, jüngst in Australien, oder Unternehmen. Deutschland und Europa stehen dabei vor einem doppelten Problem. Sie müssen rund um die KI, aber zugleich die Risiken für Wirtschaft, Verwaltung und kritische Infrastruktur beherrschen. Im F.A.Z.-Digitalwirtschaft-Podcast sprechen wir mit Mirko Ross, Gründer und Chef des Cybersicherheitsunternehmens asvin.io, über die neuen Risiken der KI: über manipulierte Systeme und die Frage, wie viel Entscheidungsfreiheit Unternehmen ihren KI-Agenten geben sollten. Ross bezeichnet sich selbst als ehemaligen Hacker und beschäftigt sich in seinem Unternehmen mit der Sicherheit vernetzter Systeme, Software-Lieferketten sowie industrieller und kritischer Infrastruktur. Wie sich KI-Risiken begrenzen lassen, ist eine Führungsfrage, in der Politik wie in der Wirtschaft. Unternehmen müssten zunächst wissen, welche KI-Systeme, Datenquellen, Schnittstellen und externen Abhängigkeiten sie überhaupt einsetzen, sagt Ross. Dazu kommen viele andere Punkte auf einer Checkliste, die im Podcast durchgegangen wird. Politisch hofft Ross darauf, dass man wenigstens bei der militärischen Nutzung von KI zu allgemeingültigen Regeln für die gesamte Menschheit findet, vor einer potenziellen Katastrophe und nicht erst danach.

Kontakt und weitere Angebote

Sie haben Fragen oder Anmerkungen zur Folge? Schreiben Sie uns gerne per E-Mail: [email protected]

Laden Sie die F.A.Z.-App herunter und bleiben Sie auch unterwegs informiert.

Hören Sie mit FAZ+ unsere exklusiven Podcast-Folgen auf FAZ.NET, in der FAZ-App sowie über Apple Podcasts und Spotify – inklusive Zugriff auf alle Artikel der F.A.Z. Testen Sie FAZ+ jetzt 3 Monate lang für nur 4 € im Monat. Hier geht’s zum Angebot.

Werbepartner

Mehr über die Angebote unserer Werbepartner finden Sie hier.