Zum Inhalt springen

#361 Ai-modellen som rymde från labbet

24.07.2026 · 37 Min.

Shownotes

Hugging Face har utkristalliserats som ai-världens motsvarighet till Github. Webbtjänsten har blivit den naturliga samlingsplatsen för öppna ai-modeller. Torsdagen 16 juli meddelade Hugging Face att de hade drabbats av ett intrång. De skrev att intrånget skilde sig från alla tidigare cyberattacker som de hade varit med om. Den här gången kom attacken från en okänd och till synes helt autonom ai-agent.

En vecka tidigare riktades världens ögon mot Open AI:s senaste ai-modell GPT 5.6 Sol. Utifrån en snillrikt skriven prompt, och ett förbud mot att ge upp, hade modellen lyckats bevisa ett av matematikens olösta problem. En säkerhetsforskare vid Searchlight Cyber inspirerades av framgången och skrev en liknande prompt. Han bad GPT 5.6 Sol att hitta sårbarheter i det populära publiceringsverktyget Wordpress.

Fredagen 17 juli rullade Wordpress ut en akutuppdatering. Den envisa GPT 5.6 Sol-modellen hade lyckats med uppgiften. GPT 5.6 Sol hade hittat en kritisk sårbarhetskedja som gav angripare administratörsrättigheter på valfri Wordpress-webbplats.

Tidigare samma vecka utvärderade Open AI cybersäkerhetsförmågorna hos både GPT 5.6 Sol och en kommande modell. Open AI utvärderade modellerna i ett isolerat nätverk utan åtkomst till internet. Det var i alla fall tanken. GPT-modellerna insåg att det bästa sättet att prestera väl på utvärderingarna var att hacka sig ut ur det isolerade nätverket och attackera servrarna där de rätta lösningarna förväntades finnas: servrarna hos Hugging Face.

Det var Open AI som hackade Hugging Face.

I veckans poddavsnitt pratar Peter och Nikka om ai-modellen som rymde från labbet. De pratar också om tre nyheter som berör elektronikjätten LG. På kort tid har det avslöjats hur LG har installerat adware på Windows-datorer och tillåtit apputvecklare att utnyttja tv-ägares internetuppkopplingar.

Se fullständiga shownotes på https://go.nikkasystems.com/podd361.

Alle Folgen von Bli säker-podden

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.