Saltar al contenido

Wie Künstliche Intelligenz sicher gestaltet werden kann

20 de octubre de 2026 · 41 min

Notas del episodio

**Anzeige**

Mit dieser Folge startet die vierteljährliche Podcast-Reihe „Ein Viertel KI“, in der KI-Experte Michael Weberberger gemeinsam mit Christian Lenoble die fortschreitende Entwicklung der Künstlichen Intelligenz beleuchtet. Drei KI-Zwischenfälle haben in jüngster Zeit weltweit für Aufsehen gesorgt. So sind KI-Modelle von OpenAI, Anthropic und Meta eigenständig aus vermeintlich abgeschotteten Testsystemen ausgebrochen, in Systeme von unbeteiligten Dritten eingedrungen, haben Programmierfehler ausgenutzt und sich untereinander abgesprochen – teilweise wochenlang, ohne dabei aufzufallen, ohne Anweisung und ohne Kontrolle. Anlass genug für die Verantwortlichen, am Beispiel von Sam Altman, CEO des Softwarekonzerns OpenAI, und Dario Amodei, Mitgründer und CEO von Anthropic, dem Unternehmen hinter der Sprachmodellreihe Claude, vor den UN-Sicherheitsrat zu treten und in einer eindringlichen Ansprache vor einem drohenden Kontrollverlust über hochleistungsfähige KI-Systeme zu warnen. „Ich finde, das war der richtige Schritt. So kann die wissenschaftliche Community an dem Problemfall teilhaben, um in der Folge an Sicherheitslösungen zu arbeiten“, sagt Michael Weberberger, Geschäftsführer des KI-Dienstleisters TRUSTIFAI, eines Joint Ventures des TÜV AUSTRIA und des Software Competence Center Hagenberg (SCCH) – und verweist zugleich auf die anwachsende Bedeutung des Themas: „OpenAI verwendet heute bereits 20 Prozent seiner gesamten Rechenleistung für Monitoring-Aufgaben, um KI-Systeme zu überwachen und langfristig sicher gestalten zu können.“ „Es geht um den zentralen Begriff der Vertrauenswürdigkeit“, so Weberberger, dessen Unternehmen in Zusammenarbeit mit Forschern der Johannes Kepler Universität Linz (JKU) den weltweit ersten durchgängigen Audit- und Prüfkatalog für die Zertifizierung von Systemen des Maschinellen Lernens (ML) entwickelt hat. Der Katalog umfasst rund 400 konkrete Kriterien, die technische, rechtliche und ethische Anforderungen in messbare und überprüfbare Standards übersetzen, und der Unternehmen als praxisnaher Fahrplan zur Erreichung von Rechtskonformität mit der EU-KI-Verordnung (EU AI Act) dient. In diesem Podcast spricht der KI-Sicherheitsexperte darüber, wie Risiken systematisch erkannt werden können, wie sie sich testen und im Idealfall beherrschen lassen. Im Fokus stehen zudem die Fragen, wer den KI-Einsatz prüfen soll, wer dafür verantwortlich zu machen ist, wenn KI-Experimente schieflaufen, inwiefern Normen innovationshemmend- oder fördernd sind – und warum Sicherheit auch das entscheidende Kriterium ist, um Pilotprojekte in die Wertschöpfung zu bringen.

Todos los episodios de Was wichtig ist

Ajustes

Visualización

Idioma

Determina qué emisoras ves primero en la página de inicio.

Historial

Las emisoras y episodios escuchados recientemente y tus últimas búsquedas solo se guardan en este navegador.

Avisos

Un breve aviso cuando un pódcast que sigues tiene un episodio nuevo. Puedes desactivar pódcast concretos con la campana de su página.

Cuenta

Guarda tus favoritos: en la app y en la web.

Atajos de teclado

/
Abrir búsqueda
Espacio
Reproducir o pausar
← →
En el reproductor: 15 s atrás, 30 s adelante (episodios) · en una fila: siguiente tarjeta
↑ ↓
En una fila: destino dentro de la tarjeta
Inicio / Fin
En una fila: primera o última tarjeta
Esc
Cerrar ventana o menú
?
Este resumen
Reproduciendo ahora

Ir a la emisora

A continuación

    Añade episodios con «A continuación»: sonarán después del episodio actual.