Pular para o conteúdo

Wie Künstliche Intelligenz sicher gestaltet werden kann

20 de outubro de 2026 · 41 min

Notas do episódio

**Anzeige**

Mit dieser Folge startet die vierteljährliche Podcast-Reihe „Ein Viertel KI“, in der KI-Experte Michael Weberberger gemeinsam mit Christian Lenoble die fortschreitende Entwicklung der Künstlichen Intelligenz beleuchtet. Drei KI-Zwischenfälle haben in jüngster Zeit weltweit für Aufsehen gesorgt. So sind KI-Modelle von OpenAI, Anthropic und Meta eigenständig aus vermeintlich abgeschotteten Testsystemen ausgebrochen, in Systeme von unbeteiligten Dritten eingedrungen, haben Programmierfehler ausgenutzt und sich untereinander abgesprochen – teilweise wochenlang, ohne dabei aufzufallen, ohne Anweisung und ohne Kontrolle. Anlass genug für die Verantwortlichen, am Beispiel von Sam Altman, CEO des Softwarekonzerns OpenAI, und Dario Amodei, Mitgründer und CEO von Anthropic, dem Unternehmen hinter der Sprachmodellreihe Claude, vor den UN-Sicherheitsrat zu treten und in einer eindringlichen Ansprache vor einem drohenden Kontrollverlust über hochleistungsfähige KI-Systeme zu warnen. „Ich finde, das war der richtige Schritt. So kann die wissenschaftliche Community an dem Problemfall teilhaben, um in der Folge an Sicherheitslösungen zu arbeiten“, sagt Michael Weberberger, Geschäftsführer des KI-Dienstleisters TRUSTIFAI, eines Joint Ventures des TÜV AUSTRIA und des Software Competence Center Hagenberg (SCCH) – und verweist zugleich auf die anwachsende Bedeutung des Themas: „OpenAI verwendet heute bereits 20 Prozent seiner gesamten Rechenleistung für Monitoring-Aufgaben, um KI-Systeme zu überwachen und langfristig sicher gestalten zu können.“ „Es geht um den zentralen Begriff der Vertrauenswürdigkeit“, so Weberberger, dessen Unternehmen in Zusammenarbeit mit Forschern der Johannes Kepler Universität Linz (JKU) den weltweit ersten durchgängigen Audit- und Prüfkatalog für die Zertifizierung von Systemen des Maschinellen Lernens (ML) entwickelt hat. Der Katalog umfasst rund 400 konkrete Kriterien, die technische, rechtliche und ethische Anforderungen in messbare und überprüfbare Standards übersetzen, und der Unternehmen als praxisnaher Fahrplan zur Erreichung von Rechtskonformität mit der EU-KI-Verordnung (EU AI Act) dient. In diesem Podcast spricht der KI-Sicherheitsexperte darüber, wie Risiken systematisch erkannt werden können, wie sie sich testen und im Idealfall beherrschen lassen. Im Fokus stehen zudem die Fragen, wer den KI-Einsatz prüfen soll, wer dafür verantwortlich zu machen ist, wenn KI-Experimente schieflaufen, inwiefern Normen innovationshemmend- oder fördernd sind – und warum Sicherheit auch das entscheidende Kriterium ist, um Pilotprojekte in die Wertschöpfung zu bringen.

Todos os episódios de Was wichtig ist

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.