Over het toetsingskader algoritmes

Het toetsingskader ‘Aandacht voor algoritmes’ is een praktisch instrument waarmee (overheids)organisaties kunnen toetsen of algoritmes voldoen aan bepaalde kwaliteitscriteria én of de risico’s voldoende in beeld zijn en/of worden beperkt.

Het toetsingskader is in eerste instantie bedoeld als controle achteraf voor auditors (controleurs en toezichthouders). Het toetsingskader laat de risico’s zien van het beoordeelde algoritme. Auditors kunnen de uitkomsten van de toetsing gebruiken in hun rapporten aan de gecontroleerde (overheids)organisatie en aanbevelingen doen voor verbetering.

Voor (overheids)organisaties die gebruikmaken van algoritmes, is het toetsingskader een praktisch instrument met concrete punten waarop auditors deze algoritmes kunnen toetsen.

Daarnaast moet het gebruik van het toetsingskader ook leiden tot meer inzicht in algoritmes.

Zo werkt het toetsingskader

Het toetsingskader bestaat uit 5 perspectieven op algoritmes. Voor elk perspectief zijn de belangrijkste risico’s geformuleerd. Aan elk risico is een onderzoeksvraag verbonden. Door de vragen te beantwoorden en een score te geven, wordt het voor de gebruiker duidelijk in welke mate de risico’s beperkt worden bij het gekozen algoritme. Hoe groot de risico’s voor een specifiek algoritme zijn, hangt van 2 dingen af: de mate waarin geavanceerde technieken in het algoritme worden toegepast en de impact van het algoritme op de burger.

Toepasbaarheid van toetsingskader

Het toetsingskader is geschikt voor toetsing van simpele én geavanceerde algoritmes. Het kader is bovendien zo veel mogelijk techniekonafhankelijk geformuleerd. Ook is het generiek in de zin dat het in elke sector of elk beleidsveld toepasbaar is.

Bij het invullen van het toetsingskader kan duidelijk worden dat niet elk onderdeel en elke onderzoeksvraag altijd even relevant is. Tenslotte verschillen (overheids)organisaties onderling en zijn er algoritmes in veel verschillende soorten en maten. Daarom is het belangrijk dat gebruikers vóór het invullen eerst een algemeen beeld krijgen van het algoritme en de setting/context. Zo kunnen gebruikers selecteren welke vragen in het toetsingskader relevant zijn voor het algoritme dat ze willen toetsen.