Aller au contenu

Den falske tryghed, der gør dine AI-systemer dårligere: Human in the Loop - Soloafsnit med Dan Rose

7 avril 2026 · 49 min

Notes de l’épisode

"Vi sætter bare et menneske ind i loopet" er blevet standardsvaret, når compliance spørger til risici. Men hvad nu hvis det gør tingene værre?

I det her soloafsnit tager Dan Rose fat på Human in the Loop – et begreb, der er vokset eksplosivt og er skrevet direkte ind i EU's AI Act, men som forskning viser gang på gang kan sænke kvaliteten, forværre bias og reducere dygtige medarbejdere til juridiske stødpuder.

Dan kommer ind på:

Præstationsparadokset:
Hvorfor menneske plus AI ikke altid giver det bedste resultat – og hvornår AI faktisk klarer sig bedre alene.

De kognitive faldgrupper:
Vigilance decrement, belejlighedsbias, forankringsbias og bekræftelsesbias – og hvad de gør ved dine medarbejdere, når de sættes til at godkende AI-output.

Den moralske deformationszone:
Hvorfor Human in the Loop alt for ofte er et "cover your ass"-værktøj, der placerer ansvaret hos medarbejderen uden at give dem reel kontrol.

Tre konkrete designgreb: Kognitiv tvangsfunktion, delegation inversion og kortet vs. terrænet – sådan bygger du workflows, der rent faktisk virker.

Har du ønsker til emner eller gæster? Skriv til [email protected]


Kildeliste:

Human-AI Synergy (MIT, 2025): Når mennesker gør AI dårligere:
https://mitsloan.mit.edu/ideas-made-to-matter/when-humans-and-ai-work-best-together-and-when-each-better-alone

Ansvarshuller (AU, 2023): Hvorfor det er uetisk at give medarbejderen ansvaret for AI-fejl:
https://link.springer.com/article/10.1007/s10676-023-09699-6

Manglende Metaviden (2022): Vi er dårlige til at vurdere, hvornår vi skal stole på maskinen:
https://pubsonline.informs.org/doi/10.1287/isre.2021.1079

Kognitive Tvangsfunktioner: Fartbump der tvinger os til selv at tænke:
Studie 1: https://arxiv.org/abs/2101.04517

Studie 2: https://arxiv.org/abs/2402.16279

Moral Crumple Zones (2019): Mennesket som "deformationszone" når teknikken fejler:
https://estsjournal.org/index.php/ests/article/view/260

Case: Zillows algoritme-flop (2021): Da AI-styrede boligkøb kostede millioner:
https://www.gsb.stanford.edu/insights/flip-flop-why-zillows-algorithmic-home-buying-venture-imploded

Succes-case: Radiologi (2023): Markant bedre diagnosticering via AI-støtte:
https://pubmed.ncbi.nlm.nih.gov/37993303/

Tous les épisodes de AI, en Dans på Roser

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.