Pular para o conteúdo

Den falske tryghed, der gør dine AI-systemer dårligere: Human in the Loop - Soloafsnit med Dan Rose

7 de abril de 2026 · 49 min

Notas do episódio

"Vi sætter bare et menneske ind i loopet" er blevet standardsvaret, når compliance spørger til risici. Men hvad nu hvis det gør tingene værre?

I det her soloafsnit tager Dan Rose fat på Human in the Loop – et begreb, der er vokset eksplosivt og er skrevet direkte ind i EU's AI Act, men som forskning viser gang på gang kan sænke kvaliteten, forværre bias og reducere dygtige medarbejdere til juridiske stødpuder.

Dan kommer ind på:

Præstationsparadokset:
Hvorfor menneske plus AI ikke altid giver det bedste resultat – og hvornår AI faktisk klarer sig bedre alene.

De kognitive faldgrupper:
Vigilance decrement, belejlighedsbias, forankringsbias og bekræftelsesbias – og hvad de gør ved dine medarbejdere, når de sættes til at godkende AI-output.

Den moralske deformationszone:
Hvorfor Human in the Loop alt for ofte er et "cover your ass"-værktøj, der placerer ansvaret hos medarbejderen uden at give dem reel kontrol.

Tre konkrete designgreb: Kognitiv tvangsfunktion, delegation inversion og kortet vs. terrænet – sådan bygger du workflows, der rent faktisk virker.

Har du ønsker til emner eller gæster? Skriv til [email protected]


Kildeliste:

Human-AI Synergy (MIT, 2025): Når mennesker gør AI dårligere:
https://mitsloan.mit.edu/ideas-made-to-matter/when-humans-and-ai-work-best-together-and-when-each-better-alone

Ansvarshuller (AU, 2023): Hvorfor det er uetisk at give medarbejderen ansvaret for AI-fejl:
https://link.springer.com/article/10.1007/s10676-023-09699-6

Manglende Metaviden (2022): Vi er dårlige til at vurdere, hvornår vi skal stole på maskinen:
https://pubsonline.informs.org/doi/10.1287/isre.2021.1079

Kognitive Tvangsfunktioner: Fartbump der tvinger os til selv at tænke:
Studie 1: https://arxiv.org/abs/2101.04517

Studie 2: https://arxiv.org/abs/2402.16279

Moral Crumple Zones (2019): Mennesket som "deformationszone" når teknikken fejler:
https://estsjournal.org/index.php/ests/article/view/260

Case: Zillows algoritme-flop (2021): Da AI-styrede boligkøb kostede millioner:
https://www.gsb.stanford.edu/insights/flip-flop-why-zillows-algorithmic-home-buying-venture-imploded

Succes-case: Radiologi (2023): Markant bedre diagnosticering via AI-støtte:
https://pubmed.ncbi.nlm.nih.gov/37993303/

Todos os episódios de AI, en Dans på Roser

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.