En ny era för cybersäkerhet?
Notas del episodio
I oktober 2026 kom veckan som cyberkretsar kallar Black October. Två säkerhetshål i PHP, språket som driver ungefär 70 procent av världens webbplatser, fick myndigheter och företag att stänga sina sajter i förebyggande syfte. Felen hade hittats med hjälp av AI, och när detaljerna läckte före uppdateringen kunde angripare använda AI för att hitta samma sak på några timmar.
Jonas von Essen (tvåfaldig världsmästare i minne) och Benjamin Verbeek (AI-utvecklare och fysiker) pratar om vad det betyder. Hur fungerar en AI-agent egentligen? Kan vi snart läsa en AI:s tankar, och vad händer när modellerna börjar vinka till den som läser? Varför hittar AI-modeller som stängs in ändå sätt att prata med varandra? Och vad kan du själv göra redan i helgen?
Inspelat 26 oktober 2026.
Mer om Hugging Face-incidenten i avsnitt 4: https://youtu.be/Oos74MUEgs4
Kapitel:
0:00 Avsnitt 5 och AI-briefingen i riksdagen
3:49 Vad är en AI-agent?
7:16 Kan man läsa en AI:s tankar?
10:30 När modellerna vet att de övervakas
15:14 Samma verktyg, åt båda hållen
17:57 Öppna modeller och träning utan internet
22:28 Modeller som pratar genom väggen
25:36 Öppna modeller i Mythos-klass
27:04 Black October: hålet i PHP
29:21 Kapplöpningen att patcha
33:41 Ett nytt, säkrare internet?
36:37 Tips: lösenord och tvåstegsverifiering
39:49 Din mammas flicknamn är ingen hemlighet
40:18 Phishing och röstkloning
44:53 Kodord och deepfake-video
47:14 Tipsen och länkarna
49:35 Sverige i baksätet
Rättelser och förtydliganden (vi pratade fritt, och några detaljer blev fel på inspelningen):
- AI-agenter som pratar med varandra (ca 23:00): i OpenAI:s rapport (23 okt 2026) skickade agenter i isolerade virtuella maskiner på samma server signaler via processorns cacheminne och via skrivmönster. Exemplet med datorer som kommunicerar via temperatur kommer från OpenAI-forskaren Noam Brown och är en teoretisk möjlighet från tidigare forskning, inget som modellerna har gjort.
- PHP-hålet (ca 30:40): Wikipedia låg uppe. Det Wikimedia stängde i förebyggande syfte var stödtjänster som Toolforge och Phabricator.
Vad kan jag göra? Använd unika lösenord med en lösenordshanterare, slå på tvåstegsverifiering med en app i stället för sms, och kom överens om ett kodord med dina närmaste. Internetstiftelsens guide: https://internetkunskap.se/snabbkurser/losenord-och-e-legitimation/sa-skapar-du-starka-losenord/
Jonas samlar tipsen från avsnittet här: https://jonasvonessen.se/cyber/
Vill du påverka politiken? Jonas samlar länkar, en mejlmall till politiker och ett nyhetsbrev här: https://jonasvonessen.se/agera/
Källor och länkar finns i YouTube-beskrivningen.
Hosted on Acast. See acast.com/privacy for more information.