Zum Inhalt springen

#59 Wenn KI Modelle hacken, was als sicher galt

31.08.2026 · 36 Min.

Shownotes

Wir sind zurück aus der Sommerpause und bringen die neusten KI News mit und sprechen über Themen, die uns in den letzten Wochen bewegt haben. Diesmal geht es um aktuelle Sicherheitsvorfälle rund um KI Modelle, neue Entwicklungen beim EU AI Act und die Frage, wie Fortschritt und Sicherheit zusammen gedacht werden können. Außerdem werfen wir einen Blick auf die Rolle von Open Source in der KI Entwicklung und darauf, was all das kulturell und ethisch für uns bedeutet.

🔎 Begriff im Fokus:

OpenSource: (wörtlich „offene Quelle“) wird Software bezeichnet, deren Quellcode (der Bauplan eines Programms) öffentlich zugänglich ist und von Dritten eingesehen, genutzt, verändert sowie verbreitet werden darf.

OpenWeight: Open-Weight-Modell ist ein künstliches Intelligenzmodell, bei dem die fertig trainierten Modellgewichte (die Parameter oder Zahlenwerte des Wissens) öffentlich zum Download bereitstehen, damit jeder sie auf eigener Hardware ausführen kann. Der Quellcode ist aber nicht offen.

🔗 Literatur & Studien:

Paper zu Shieldstral von Mistral: https://arxiv.org/abs/2607.25857

Link zum Buch “the Alignment Problem von Brian Christian: https://www.hugendubel.de/de/taschenbuch/brian_christian-the_alignment_problem-40398595-produkt-details.html?utm_source=google&utm_medium=cpc&utm_campaign=20795765403&adCode=320R20I20U31M&utm_term=&gad_source=1&gad_campaignid=20795766201&gbraid=0AAAAADi36RBldPwW8V6QI9TVozADobvwn&gclid=CjwKCAjwqc_UBhBKEiwAWbl25sxnnFzW9wMjEFa5J97Q_n1LNV4ThwIAp032yeBgArIMVhoK1l0HkBoCm2YQAvD_BwE

🔗 Links:

Undere Podcast-Folge zum EU AI Act und den Regeln zur Kennzeichnungspflicht: https://open.spotify.com/episode/6xjIujQTdjM0owQ3uzLQYH

Artikel zur Übernahme von Huggingface von Nvidia (mit Umsatzinfos):https://www.heise.de/news/Bericht-Nvidia-uebernimmt-Hugging-Face-fuer-12-9-Milliarden-Dollar-11431261.html

Second Brain Guide von Inken: https://vely.ai/second-brain-guide

Und haltet nach Sarahs Kurs ausschau, sobald der online ist, werden wir berichten! :)

📲 Media-Kanäle:

🔗 Sarah’s Instagram: @sarah_rojewski 🔗

Inken’s Instagram: @askinkenai


Alle Folgen von Reboot Society – KI, Diversität und die neue Weltordnung

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.