Saltar al contenido

#59 Wenn KI Modelle hacken, was als sicher galt

31 de agosto de 2026 · 36 min

Notas del episodio

Wir sind zurück aus der Sommerpause und bringen die neusten KI News mit und sprechen über Themen, die uns in den letzten Wochen bewegt haben. Diesmal geht es um aktuelle Sicherheitsvorfälle rund um KI Modelle, neue Entwicklungen beim EU AI Act und die Frage, wie Fortschritt und Sicherheit zusammen gedacht werden können. Außerdem werfen wir einen Blick auf die Rolle von Open Source in der KI Entwicklung und darauf, was all das kulturell und ethisch für uns bedeutet.

🔎 Begriff im Fokus:

OpenSource: (wörtlich „offene Quelle“) wird Software bezeichnet, deren Quellcode (der Bauplan eines Programms) öffentlich zugänglich ist und von Dritten eingesehen, genutzt, verändert sowie verbreitet werden darf.

OpenWeight: Open-Weight-Modell ist ein künstliches Intelligenzmodell, bei dem die fertig trainierten Modellgewichte (die Parameter oder Zahlenwerte des Wissens) öffentlich zum Download bereitstehen, damit jeder sie auf eigener Hardware ausführen kann. Der Quellcode ist aber nicht offen.

🔗 Literatur & Studien:

Paper zu Shieldstral von Mistral: https://arxiv.org/abs/2607.25857

Link zum Buch “the Alignment Problem von Brian Christian: https://www.hugendubel.de/de/taschenbuch/brian_christian-the_alignment_problem-40398595-produkt-details.html?utm_source=google&utm_medium=cpc&utm_campaign=20795765403&adCode=320R20I20U31M&utm_term=&gad_source=1&gad_campaignid=20795766201&gbraid=0AAAAADi36RBldPwW8V6QI9TVozADobvwn&gclid=CjwKCAjwqc_UBhBKEiwAWbl25sxnnFzW9wMjEFa5J97Q_n1LNV4ThwIAp032yeBgArIMVhoK1l0HkBoCm2YQAvD_BwE

🔗 Links:

Undere Podcast-Folge zum EU AI Act und den Regeln zur Kennzeichnungspflicht: https://open.spotify.com/episode/6xjIujQTdjM0owQ3uzLQYH

Artikel zur Übernahme von Huggingface von Nvidia (mit Umsatzinfos):https://www.heise.de/news/Bericht-Nvidia-uebernimmt-Hugging-Face-fuer-12-9-Milliarden-Dollar-11431261.html

Second Brain Guide von Inken: https://vely.ai/second-brain-guide

Und haltet nach Sarahs Kurs ausschau, sobald der online ist, werden wir berichten! :)

📲 Media-Kanäle:

🔗 Sarah’s Instagram: @sarah_rojewski 🔗

Inken’s Instagram: @askinkenai


Todos los episodios de Reboot Society – KI, Diversität und die neue Weltordnung

Ajustes

Visualización

Idioma

Determina qué emisoras ves primero en la página de inicio.

Historial

Las emisoras y episodios escuchados recientemente y tus últimas búsquedas solo se guardan en este navegador.

Avisos

Un breve aviso cuando un pódcast que sigues tiene un episodio nuevo. Puedes desactivar pódcast concretos con la campana de su página.

Cuenta

Guarda tus favoritos: en la app y en la web.

Atajos de teclado

/
Abrir búsqueda
Espacio
Reproducir o pausar
← →
En el reproductor: 15 s atrás, 30 s adelante (episodios) · en una fila: siguiente tarjeta
↑ ↓
En una fila: destino dentro de la tarjeta
Inicio / Fin
En una fila: primera o última tarjeta
Esc
Cerrar ventana o menú
?
Este resumen
Reproduciendo ahora

Ir a la emisora

A continuación

    Añade episodios con «A continuación»: sonarán después del episodio actual.