Skip to content

S08E89 - Human-in-the-loop: een handtekening garandeert geen menselijke controle

September 10, 2026 · 11 min

Show notes

Marijn van Aerle, medeoprichter en CTO van Floryn, bouwde een controlesysteem waarbij een beoordelaar niet zomaar akkoord kan klikken op een AI-voorstel. Het probleem: na tweehonderd keer goedkeuren wordt controleren een reflex, ook bij AI-voorstellen die fout zijn. Van Aerle laat zien hoe zijn systeem afwijkende beslissingen automatisch naar een tweede beoordelaar stuurt, met de vraag wat er anders is aan dit dossier.

Bij Floryn corrigeert het model de mens niet, maar signaleert het wanneer een besluit afwijkt van vergelijkbare zaken - vóór het bericht naar de klant gaat. Uit onderzoek van Info Support blijkt dat minder dan 10% van de organisaties AI-governance formeel heeft vastgelegd, terwijl 80% AI al gebruikt in het ontwikkelproces. Morgen kun je zelf één cijfer opzoeken: hoeveel van de laatste honderd AI-voorstellen zijn afgekeurd.

Onderwerpen

  • Automatiseringsbias en het verslijten van menselijke controle bij AI-systemen
  • Het meten van effectiviteit van human-in-the-loop controle aan de hand van afkeurpercentages
  • Vier concrete aanpassingen om AI-toezicht daadwerkelijk te laten functioneren
  • Floryn's praktijkvoorbeeld van wederzijds leren tussen AI-model en menselijke beoordelaars
Links

Genoemde entiteiten: gemeente Amsterdam - AI Lab - Floryn

Stuur ons een bericht

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

All episodes of AIToday Live

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.