10 dagar i San Francisco
Notas do episódio
Benjamin har just kommit hem från tio dagar i San Francisco, mitt i en septembermånad där det kom en stor
AI-nyhet nästan varje dag. Han satt på OpenAI:s kontor när GPT-6 Astra släpptes, läste om
Navier–Stokes vid morgonkaffet och tog tunnelbanan till METR, organisationen som granskar AI-labben.
Och han upptäckte att även väldigt smarta människor i branschen inte hade läst rapporterna som alla
borde ha läst.
Jonas von Essen (tvåfaldig världsmästare i minne) och Benjamin Verbeek (AI-utvecklare och fysiker)
pratar om hur det känns inifrån: varför oron växer ju närmare fronten man kommer, modellerna som
genast förstår att de testas, agenten som tog sig ut ur sin sandlåda för att svara på en enkel
fråga, och varför oberoende granskning och obligatorisk incidentrapportering kan vara det mest
konkreta nästa steget.
Inspelat 1 oktober 2026.
Se avsnittet på Youtube: https://youtu.be/Oos74MUEgs4
Ny på alignment? I avsnitt 3 går vi igenom varför en AI som inte är ond ändå kan bli farlig: https://youtu.be/fwhFwW-Vcl4?si=8R2bJE2wGl78yvaN
Kapitel:
0:00 Välkommen hem från San Francisco
1:04 September på plats: Astra och Pace the Frontier
2:03 En utomjordisk intelligens
4:55 Smarta människor som inte läst rapporten
8:26 AI-expert är inte samma sak som AI-säkerhetsexpert
10:27 Några hundra personer vid fronten
12:46 Navier–Stokes-morgonen
16:03 Tidslinjen trycks ihop
18:04 Från matematik till medicin
20:38 Samma förmåga, åt båda hållen
24:19 Vending-Bench: modeller som vet att de testas
27:30 Flygplanen som inte kom tillbaka
31:00 Ett släpp som stoppas, en träning som pausas
33:46 Agenten som tog sig ut
37:05 När säkerheten blir affärskritisk
39:35 Kan säkerheten fälla börsen?
42:26 Besöket hos METR
49:13 collusion.wiki och incidenterna som inte rapporterades
52:16 Europa har knappt börjat
54:33 Tack för att ni lyssnar
Vad kan jag göra? Jonas samlar länkar, en mejlmall till politiker och ett nyhetsbrev här:
https://jonasvonessen.se/agera/
Källor och länkar finns i YouTube-beskrivningen.
Hosted on Acast. See acast.com/privacy for more information.