Saltar al contenido

Transparens i AI var bare en illusion - Med Data scientist, Benjamin Lazar

10 de noviembre de 2025 · 1 h 24 min

Notas del episodio

Hvad sker der reelt under motorhjelmen på de store sprogmodeller? I dette kigger vi på tre indflydelsesrige blogposts fra topforskere hos OpenAI, Thinking Machines Lab og Chroma.

Vi lærer, hvorfor den "transparens", vi tror vi har, når modeller viser deres tankeproces, ofte er en illusion eller efterrationalisering designet til at tilfredsstille os.

Vi diskuterer, hvorfor jagten på 100% konsistente svar (determinisme) er både ekstremt dyr og ofte forretningsmæssigt unødvendig.

Til sidst analyserer vi "Context Rot", der viser, hvorfor store kontekstvinduer fejler i praksis, og understreger den kritiske nødvendighed af intelligent context engineering og data governance.

Det er en teknisk diskussion med store strategiske konsekvenser for alle, der arbejder seriøst med implementering af AI.

Har du feedback eller spørgsmål, du vil have vi svarer på i podcasten? Skriv til [email protected]

Links:

Om Transparens og Reasoning (Lilian Weng):
https://lilianweng.github.io/posts/2025-05-01-thinking/

Om Determinisme og Konsistente Svar (Thinking Machines Lab):
https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/

Om Kontekstvinduer og "Context Rot" (Chroma):
https://research.trychroma.com/context-rot

Bonus - Omtalt i diskussionen om data vs. tricks (Richard Sutton):
The Bitter Lesson - http://www.incompleteideas.net/IncIdeas/BitterLesson.html

Todos los episodios de AI, en Dans på Roser

Ajustes

Visualización

Idioma

Determina qué emisoras ves primero en la página de inicio.

Historial

Las emisoras y episodios escuchados recientemente y tus últimas búsquedas solo se guardan en este navegador.

Avisos

Un breve aviso cuando un pódcast que sigues tiene un episodio nuevo. Puedes desactivar pódcast concretos con la campana de su página.

Cuenta

Guarda tus favoritos: en la app y en la web.

Atajos de teclado

/
Abrir búsqueda
Espacio
Reproducir o pausar
← →
En el reproductor: 15 s atrás, 30 s adelante (episodios) · en una fila: siguiente tarjeta
↑ ↓
En una fila: destino dentro de la tarjeta
Inicio / Fin
En una fila: primera o última tarjeta
Esc
Cerrar ventana o menú
?
Este resumen
Reproduciendo ahora

Ir a la emisora

A continuación

    Añade episodios con «A continuación»: sonarán después del episodio actual.