Skip to content

Transparens i AI var bare en illusion - Med Data scientist, Benjamin Lazar

November 10, 2025 · 1 h 24 min

Show notes

Hvad sker der reelt under motorhjelmen på de store sprogmodeller? I dette kigger vi på tre indflydelsesrige blogposts fra topforskere hos OpenAI, Thinking Machines Lab og Chroma.

Vi lærer, hvorfor den "transparens", vi tror vi har, når modeller viser deres tankeproces, ofte er en illusion eller efterrationalisering designet til at tilfredsstille os.

Vi diskuterer, hvorfor jagten på 100% konsistente svar (determinisme) er både ekstremt dyr og ofte forretningsmæssigt unødvendig.

Til sidst analyserer vi "Context Rot", der viser, hvorfor store kontekstvinduer fejler i praksis, og understreger den kritiske nødvendighed af intelligent context engineering og data governance.

Det er en teknisk diskussion med store strategiske konsekvenser for alle, der arbejder seriøst med implementering af AI.

Har du feedback eller spørgsmål, du vil have vi svarer på i podcasten? Skriv til [email protected]

Links:

Om Transparens og Reasoning (Lilian Weng):
https://lilianweng.github.io/posts/2025-05-01-thinking/

Om Determinisme og Konsistente Svar (Thinking Machines Lab):
https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/

Om Kontekstvinduer og "Context Rot" (Chroma):
https://research.trychroma.com/context-rot

Bonus - Omtalt i diskussionen om data vs. tricks (Richard Sutton):
The Bitter Lesson - http://www.incompleteideas.net/IncIdeas/BitterLesson.html

All episodes of AI, en Dans på Roser

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.