Saltar al contenido

S08E89 - Human-in-the-loop: een handtekening garandeert geen menselijke controle

10 de septiembre de 2026 · 11 min

Notas del episodio

Marijn van Aerle, medeoprichter en CTO van Floryn, bouwde een controlesysteem waarbij een beoordelaar niet zomaar akkoord kan klikken op een AI-voorstel. Het probleem: na tweehonderd keer goedkeuren wordt controleren een reflex, ook bij AI-voorstellen die fout zijn. Van Aerle laat zien hoe zijn systeem afwijkende beslissingen automatisch naar een tweede beoordelaar stuurt, met de vraag wat er anders is aan dit dossier.

Bij Floryn corrigeert het model de mens niet, maar signaleert het wanneer een besluit afwijkt van vergelijkbare zaken - vóór het bericht naar de klant gaat. Uit onderzoek van Info Support blijkt dat minder dan 10% van de organisaties AI-governance formeel heeft vastgelegd, terwijl 80% AI al gebruikt in het ontwikkelproces. Morgen kun je zelf één cijfer opzoeken: hoeveel van de laatste honderd AI-voorstellen zijn afgekeurd.

Onderwerpen

  • Automatiseringsbias en het verslijten van menselijke controle bij AI-systemen
  • Het meten van effectiviteit van human-in-the-loop controle aan de hand van afkeurpercentages
  • Vier concrete aanpassingen om AI-toezicht daadwerkelijk te laten functioneren
  • Floryn's praktijkvoorbeeld van wederzijds leren tussen AI-model en menselijke beoordelaars
Links

Genoemde entiteiten: gemeente Amsterdam - AI Lab - Floryn

Stuur ons een bericht

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Todos los episodios de AIToday Live

Ajustes

Visualización

Idioma

Determina qué emisoras ves primero en la página de inicio.

Historial

Las emisoras y episodios escuchados recientemente y tus últimas búsquedas solo se guardan en este navegador.

Avisos

Un breve aviso cuando un pódcast que sigues tiene un episodio nuevo. Puedes desactivar pódcast concretos con la campana de su página.

Cuenta

Guarda tus favoritos: en la app y en la web.

Atajos de teclado

/
Abrir búsqueda
Espacio
Reproducir o pausar
← →
En el reproductor: 15 s atrás, 30 s adelante (episodios) · en una fila: siguiente tarjeta
↑ ↓
En una fila: destino dentro de la tarjeta
Inicio / Fin
En una fila: primera o última tarjeta
Esc
Cerrar ventana o menú
?
Este resumen
Reproduciendo ahora

Ir a la emisora

A continuación

    Añade episodios con «A continuación»: sonarán después del episodio actual.