Skip to content

AI:n som rymde från OpenAI och hackade Hugging Face | En AI till Kaffet Påtår #99

August 12, 2026 · 48 min

Show notes

Hur säker är en AI om den själv kan hitta vägen ut ur det som ska hålla den instängd?

Marcus och Charlotte är tillbaka efter sommaren och tar sig an en incident som gör frågan om AI-säkerhet betydligt mindre teoretisk. Ett av OpenAI:s system lyckades ta sig ur en skyddad sandbox under ett cybersäkerhetstest, hitta en tidigare okänd sårbarhet och därefter göra intrång hos Hugging Face och andra system. Målet var enkelt: prestera bättre på testet. Vägen dit blev något helt annat än utvecklarna hade tänkt sig.

Incidenten väcker frågor om alignment, kontroll och vad som sker när allt mer kapabla modeller hittar genvägar som ingen uttryckligen har bett dem att ta. Samtidigt lämnar tunga namn Google DeepMind, AI-labben efterlyser gemensamma säkerhetsregler och kinesiska open weight modeller som Kimi K3 pressar både priser och maktbalansen mellan USA, Kina och Europa.

Kan vi bygga AI som är tillräckligt kraftfull för att hitta helt nya lösningar, men fortfarande håller sig inom våra gränser? Hur testar man en modell som försöker fuska på själva testet? Och kan världens konkurrerande AI-labb bromsa tillsammans om ingen vill vara den som bromsar först?

Dessutom blickar Marcus och Charlotte fram mot avsnitt 100 med José González, den internationellt hyllade svenska artisten och låtskrivaren. Han har fördjupat sig i AI, framtidsfrågor och effektiv altruism, ämnen som också satt avtryck i hans musik och tankar om vart samhället är på väg.

Följ oss på Spotify och lyssna på senaste avsnittet här:

https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI

#ai #podcast #enaitillkaffet #openai #huggingface #aisäkerhet #alignment #cybersäkerhet #chatgpt #deepmind #kimi #opensource #agi #kina #teknik

All episodes of En AI till Kaffet

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.