Zum Inhalt springen

Wie Künstliche Intelligenz sicher gestaltet werden kann

20.10.2026 · 41 Min.

Shownotes

**Anzeige**

Mit dieser Folge startet die vierteljährliche Podcast-Reihe „Ein Viertel KI“, in der KI-Experte Michael Weberberger gemeinsam mit Christian Lenoble die fortschreitende Entwicklung der Künstlichen Intelligenz beleuchtet. Drei KI-Zwischenfälle haben in jüngster Zeit weltweit für Aufsehen gesorgt. So sind KI-Modelle von OpenAI, Anthropic und Meta eigenständig aus vermeintlich abgeschotteten Testsystemen ausgebrochen, in Systeme von unbeteiligten Dritten eingedrungen, haben Programmierfehler ausgenutzt und sich untereinander abgesprochen – teilweise wochenlang, ohne dabei aufzufallen, ohne Anweisung und ohne Kontrolle. Anlass genug für die Verantwortlichen, am Beispiel von Sam Altman, CEO des Softwarekonzerns OpenAI, und Dario Amodei, Mitgründer und CEO von Anthropic, dem Unternehmen hinter der Sprachmodellreihe Claude, vor den UN-Sicherheitsrat zu treten und in einer eindringlichen Ansprache vor einem drohenden Kontrollverlust über hochleistungsfähige KI-Systeme zu warnen. „Ich finde, das war der richtige Schritt. So kann die wissenschaftliche Community an dem Problemfall teilhaben, um in der Folge an Sicherheitslösungen zu arbeiten“, sagt Michael Weberberger, Geschäftsführer des KI-Dienstleisters TRUSTIFAI, eines Joint Ventures des TÜV AUSTRIA und des Software Competence Center Hagenberg (SCCH) – und verweist zugleich auf die anwachsende Bedeutung des Themas: „OpenAI verwendet heute bereits 20 Prozent seiner gesamten Rechenleistung für Monitoring-Aufgaben, um KI-Systeme zu überwachen und langfristig sicher gestalten zu können.“ „Es geht um den zentralen Begriff der Vertrauenswürdigkeit“, so Weberberger, dessen Unternehmen in Zusammenarbeit mit Forschern der Johannes Kepler Universität Linz (JKU) den weltweit ersten durchgängigen Audit- und Prüfkatalog für die Zertifizierung von Systemen des Maschinellen Lernens (ML) entwickelt hat. Der Katalog umfasst rund 400 konkrete Kriterien, die technische, rechtliche und ethische Anforderungen in messbare und überprüfbare Standards übersetzen, und der Unternehmen als praxisnaher Fahrplan zur Erreichung von Rechtskonformität mit der EU-KI-Verordnung (EU AI Act) dient. In diesem Podcast spricht der KI-Sicherheitsexperte darüber, wie Risiken systematisch erkannt werden können, wie sie sich testen und im Idealfall beherrschen lassen. Im Fokus stehen zudem die Fragen, wer den KI-Einsatz prüfen soll, wer dafür verantwortlich zu machen ist, wenn KI-Experimente schieflaufen, inwiefern Normen innovationshemmend- oder fördernd sind – und warum Sicherheit auch das entscheidende Kriterium ist, um Pilotprojekte in die Wertschöpfung zu bringen.

Alle Folgen von Was wichtig ist

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.