En ny era för cybersäkerhet?

I oktober 2026 kom veckan som cyberkretsar kallar Black October. Två säkerhetshål i PHP, språket som driver ungefär 70 procent av världens webbplatser, fick myndigheter och företag att stänga sina sajter i förebyggande syfte. Felen hade hittats med hjälp av AI, och när detaljerna läckte före uppdateringen kunde angripare använda AI för att hitta samma sak på några timmar.

Jonas von Essen (tvåfaldig världsmästare i minne) och Benjamin Verbeek (AI-utvecklare och fysiker) pratar om vad det betyder. Hur fungerar en AI-agent egentligen? Kan vi snart läsa en AI:s tankar, och vad händer när modellerna börjar vinka till den som läser? Varför hittar AI-modeller som stängs in ändå sätt att prata med varandra? Och vad kan du själv göra redan i helgen?

Inspelat 26 oktober 2026.

Mer om Hugging Face-incidenten i avsnitt 4: https://youtu.be/Oos74MUEgs4

Kapitel:

0:00 Avsnitt 5 och AI-briefingen i riksdagen

3:49 Vad är en AI-agent?

7:16 Kan man läsa en AI:s tankar?

10:30 När modellerna vet att de övervakas

15:14 Samma verktyg, åt båda hållen

17:57 Öppna modeller och träning utan internet

22:28 Modeller som pratar genom väggen

25:36 Öppna modeller i Mythos-klass

27:04 Black October: hålet i PHP

29:21 Kapplöpningen att patcha

33:41 Ett nytt, säkrare internet?

36:37 Tips: lösenord och tvåstegsverifiering

39:49 Din mammas flicknamn är ingen hemlighet

40:18 Phishing och röstkloning

44:53 Kodord och deepfake-video

47:14 Tipsen och länkarna

49:35 Sverige i baksätet

Rättelser och förtydliganden (vi pratade fritt, och några detaljer blev fel på inspelningen):

- AI-agenter som pratar med varandra (ca 23:00): i OpenAI:s rapport (23 okt 2026) skickade agenter i isolerade virtuella maskiner på samma server signaler via processorns cacheminne och via skrivmönster. Exemplet med datorer som kommunicerar via temperatur kommer från OpenAI-forskaren Noam Brown och är en teoretisk möjlighet från tidigare forskning, inget som modellerna har gjort.

- PHP-hålet (ca 30:40): Wikipedia låg uppe. Det Wikimedia stängde i förebyggande syfte var stödtjänster som Toolforge och Phabricator.

Vad kan jag göra? Använd unika lösenord med en lösenordshanterare, slå på tvåstegsverifiering med en app i stället för sms, och kom överens om ett kodord med dina närmaste. Internetstiftelsens guide: https://internetkunskap.se/snabbkurser/losenord-och-e-legitimation/sa-skapar-du-starka-losenord/

Jonas samlar tipsen från avsnittet här: https://jonasvonessen.se/cyber/

Vill du påverka politiken? Jonas samlar länkar, en mejlmall till politiker och ett nyhetsbrev här: https://jonasvonessen.se/agera/

Källor och länkar finns i YouTube-beskrivningen.

Hosted on Acast. See acast.com/privacy for more information.