Skip to content

Alignment: varför en AI som inte är ond ändå kan bli farlig

September 27, 2026 · 57 min

Show notes

En AI-modell fick veta att den skulle stängas av. I mejlkorgen hittade den att forskaren som

fattat beslutet var otrogen och började utpressa honom. Det var ett testscenario hos

Anthropic, men varför gör en modell så när ingen har bett den om det?


Det här avsnittet går till botten med alignment-problemet: kärnan i hela AI-säkerhetsdebatten.

Jonas och Benjamin förklarar varför självbevarelsedrift uppstår av sig själv när man tränar

modeller att lösa problem, vad Hugging Face-incidenten och de kapade tyska diskussionsforumen

faktiskt visade, hur Anthropics utpressningsstudie gick till, och varför "sandbagging" är det

som oroar forskarna mest just nu. Med gorillor, ett låst klassrum, en kafferobot och hundra

agenter med ett kreditkort.


Inspelat 23 september 2026.


Kapitel:

0:00 Kallöppning: Att låtsas vilja väl

0:28 Vilken tid att driva en AI-podd i

0:52 September i korthet

4:48 Även de lugna forskarna är oroliga

8:18 Orden vi saknar

9:19 Kan en AI tänka och vilja?

14:01 Gorillor och människor

17:58 Behöver den en kropp?

22:00 Att förmänskliga AI:n

22:47 Så tränas modellerna

24:22 Det låsta klassrummet

26:39 Odlas fram, inte byggs

27:45 Instrumentell konvergens

29:26 Kafferoboten

31:22 Den tyske administratören

33:37 Utpressningsstudien

36:01 Whack-a-mole

39:51 Sandbagging

40:50 När allt ser perfekt ut

41:45 Ren selektion

43:34 Hundra agenter och ett kreditkort

47:45 Varför inte dra ur sladden?

54:33 Mänskligheten mot AI

55:52 Avslutning


Vill du göra något? Jonas samlar länkar, en mejlmall till politiker och ett nyhetsbrev på

https://jonasvonessen.se/agera/


Källor finns i YouTube-beskrivningen.

Hosted on Acast. See acast.com/privacy for more information.

All episodes of AI med Jonas & Benjamin

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.