De overheid gebruikt steeds vaker algoritmes in de uitvoer van wet- en regelgeving. Het is aan het parlement om te controleren of dit op een verantwoorde manier gebeurt. Maar uit verschillende rapporten blijkt dat het volksvertegenwoordigers aan kennis van AI ontbreekt om het gebruik van dergelijke systemen afdoende te kunnen toetsen. Promovenda Juliette Ermers van het AI Lab voor Publieke Diensten onderzoekt hoe het parlement grip kan krijgen op de algoritmische uitvoering.
“Uitvoeringsinstanties zoals de Belastingdienst en het UWV werken dagelijks met complexe algoritmische systemen, maar door de inherente ondoorzichtigheid van deze systemen is het voor de parlementsleden lastig te begrijpen hoe ze technisch werken. Bovendien gaan de ontwikkelingen razendsnel. Daardoor is het een uitdaging om het werk van de uitvoeringsinstanties, dat in beginsel onder de ministeriële verantwoordelijkheid valt, betekenisvol te controleren.”
Aan de hand van casestudies en interviews bij twee uitvoeringsinstanties en met experts en Kamerleden wil Ermers succesvolle praktijken en knelpunten van de informatierelaties en verantwoordingsmechanismen in kaart brengen, zodat duidelijk wordt welke bevoegdheden en instrumenten het parlement kan inzetten om meer grip te krijgen op de algoritmische uitvoering en wat daar in de praktijk voor nodig is.
Lees het hele stuk op de site van de Universiteit Utrecht.
