#103: EU AI Act: Risikostufen, Pflichten und Watermarking mit SynthID
Show notes
In dieser Folge sprechen wir über den EU AI Act: was er unter einem KI-System versteht, welche Risikostufen er unterscheidet und welche Regeln bereits gelten. Wir gehen auf die kurzfristigen Änderungen durch den EU AI Omnibus ein, unter anderem die verschobenen Fristen für Hochrisiko-Systeme. Außerdem erklären wir, welche Pflichten für Anbieter von General-Purpose-AI-Modellen gelten und welche Rolle der Code of Practice dabei spielt. Im Deep Dive zur Transparenzpflicht geht es darum, wie sich KI-generierte Inhalte kennzeichnen lassen und wie Text-Watermarking mit SynthID technisch funktioniert. Zum Schluss ordnen wir ein, was die Regulierung für Data-Science-Projekte in der Praxis bedeutet.
**Zusammenfassung**
- Stand der Umsetzung: Verbotene Praktiken und die Pflicht zur KI-Kompetenz gelten seit dem 2.2.2025, die Transparenzpflichten seit dem 2.8.2026.
- EU AI Omnibus: Die Fristen für Hochrisiko-Systeme wurden auf den 2.12.2026 (Stand-alone) bzw. 2.12.2027 (eingebettet) verschoben, zudem kam ein Verbot nicht einvernehmlicher sexualisierter Deepfakes hinzu.
- Definition von KI: Der AI Act beschreibt KI-Systeme als maschinengestützte Systeme mit unterschiedlichem Autonomiegrad, die aus Eingaben ableiten, wie sie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen.
- Risikostufen: Unterschieden werden verbotene Praktiken (z. B. Manipulation, Social Scoring), Hochrisiko-Anwendungen (z. B. kritische Infrastruktur, Gesundheit, Bildung, Justiz) und die Restkategorie mit geringem Risiko.
- General-Purpose-AI: Große Foundation-Modelle unterliegen Dokumentations- und Informationspflichten, etwa zu Trainingsdaten und Urheberrecht; ab 10^25 FLOPs Trainingsaufwand wird ein systemisches Risiko vermutet.
- Code of Practice: Anbieter*innen können Compliance über den Code of Practice mit den Kapiteln Transparenz, Urheberrecht sowie Sicherheit und Gefahrenabwehr nachweisen.
- Kennzeichnung von KI-Inhalten: Bilder, Videos und Audio lassen sich per Wasserzeichen oder Metadaten (C2PA) markieren, Texte über eine subtile Beeinflussung der Token-Auswahl wie bei SynthID – beide Ansätze haben aber klare Grenzen bei Erkennung und Manipulationssicherheit.
- Bedeutung für die Praxis: Wichtig sind die Risikoeinordnung eines Projekts, eingebaute Transparenzmechanismen etwa bei Chatbots und dokumentierte Maßnahmen zur KI-Kompetenz – vieles davon entspricht ohnehin guter Praxis.
**Links**
- Verordnung (EU) 2024/1689 (AI Act) auf EUR-Lex: https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Bundesnetzagentur – KI-Verordnung, Zeitplan und Überblick (deutsch): https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/1_Ziel/start_ziel.html - EU-Kommission – Safer and more transparent AI (2.8.2026): https://commission.europa.eu/news-and-media/news/safer-and-more-transparent-ai-2026-08-02_en
- Rat der EU – Final green light für den AI Omnibus: https://www.consilium.europa.eu/en/press/press-releases/2026/06/29/artificial-intelligence-council-gives-final-green-light-to-simplify-and-streamline-rules/
- technology.org – What actually applies on 2 August 2026: https://www.technology.org/2026/07/17/eu-ai-act-what-actually-applies-on-2-august-2026/
- Nature-Paper zu SynthID-Text: https://www.nature.com/articles/s41586-024-08025-4
- Google DeepMind – Watermarking mit SynthID: https://deepmind.google/blog/watermarking-ai-generated-text-and-video-with-synthid/
- C2PA – Standard für Herkunftsnachweise von Inhalten: https://c2pa.org/
Lust auf einen Schnack bei der goto; Konferenz in Kopenhagen?
Sebastian auf LinkedIn: https://www.linkedin.com/in/sebastianwarnholz
goto; Konferenz in Kopenhagen: https://gotocph.com/2026
📬 Fragen, Feedback oder Themenwünsche?
Schreibt uns gern an: [email protected]