Rekenkamer ziet aandachtspunten bij algoritmes van Marechaussee en Rijkswaterstaat

Nieuwsbericht | 15-05-2024 | 11:01

Het onderzoek bij de Marechaussee richtte zich op een algoritme dat wordt gebruikt om te helpen bij het bepalen welke vluchten extra gecontroleerd worden tijdens grenscontroles op de luchthaven. Het algoritme checkt onder meer op risicoprofielen van reizigers. De Rekenkamer constateert dat de Marechaussee serieus werk maakt van de risicobeheersing rondom inzet van het algoritme. Zo is er een stuurgroep die nieuwe en bestaande profielen bespreekt en die bijhoudt hoeveel hits een profiel heeft opgeleverd. 

We zien echter ook dat het IT-beheer beter moet. Het risico bestaat namelijk dat onbevoegden toegang kunnen krijgen tot de omgeving van het algoritme en daarin wijzigingen kunnen aanbrengen. Dat risico is onvoldoende afgedekt. Ook kan het zijn dat niet te achterhalen is wanneer en door wie er (ongewenste) aanpassingen zijn gedaan. Daarvoor heeft de minister van Justitie en Veiligheid een aandachtspunt gekregen.

Rijkswaterstaat

De Rekenkamer heeft ook gekeken naar een algoritme van Rijkswaterstaat. Dat wordt gebruikt om weginspecteurs zo slim mogelijk in te zetten als er incidenten zijn op de weg en de inspecteur de doorstroming van het verkeer moeten regelen. Met dit algoritme kan Rijkswaterstaat incidenten op snelwegen sneller afhandelen. Maar het valt de Rekenkamer wel op dat er niet wordt voldaan aan de vereisten van de privacywet AVG. Rijkswaterstaat geeft onvoldoende aan hoe zij omgaat met gegevens. De minister is verantwoordelijk voor het voldoen aan de AVG.

Algoritme voor jeugdstrafrecht verbeterd

Voor het tweede jaar op rij werd ook een algoritme gecontroleerd dat in het jeugdstrafrecht wordt gebruikt voor een onderbouwd advies om te voorkomen dat een jongere na een misdaad in herhaling valt. Vorig jaar bleek nog dat dat algoritme niet voldeed aan de privacywet AVG. Dit jaar is de Rekenkamer positiever: de minister van Justitie en Veiligheid heeft goede vooruitgang geboekt om het algoritme nu hand in hand te laten gaan met privacybescherming. We moedigen het ministerie aan om door te gaan op de ingeslagen weg en ook het IT-beheer structureel te verbeteren.

Volgens collegelid Ewout Irrgang is het algoritmeonderzoek van de Rekenkamer steeds belangrijker: “Algoritmes spelen een steeds grotere rol in onze samenleving en overheden maken er steeds meer gebruik van. Ze kunnen een nuttig hulpmiddel zijn, maar de verantwoordelijkheid ligt altijd bij mensen. Het is belangrijk dat de Algemene Rekenkamer toetst op basis van wat je vandaag de dag mag verwachten van de Rijksoverheid. Omdat de ontwikkelingen heel snel gaan op het gebied van AI verandert dat ook voortdurend.”

Nieuw toetsingskader

Daarom heeft de Rekenkamer voor deze onderzoeken gebruikgemaakt van een geactualiseerde versie van het toetsingskader algoritmes. De eerste versie stamt uit 2021 en was de eerste in zijn soort. In de nieuwe versie is een aantal zaken veranderd. De belangrijkste verbetering is dat er zogenaamde ‘inspectiestappen’ zijn toegevoegd. Daarin staat beschreven hoe je kunt vaststellen of de risico’s van een algoritme goed worden beheerst, met mogelijke bronnen waar dat uit zou kunnen blijken. In de praktijk helpt dit de controlerende organisatie om samenhangend te toetsen en te beoordelen. Ook helpt het door ons gecontroleerde organisaties om de beheersing van risico’s aan te tonen.

Verder zijn de verwijzingen naar bronnen geactualiseerd. Er stonden bijvoorbeeld bij het onderdeel IT-beheer nog oude normen in. Die zijn nu aangepast naar de nieuwe normen uit de Baseline Informatiebeveiliging Overheid (BIO). Ook is de formulering van een aantal onderzoeksvragen en beheersmaatregelen verduidelijkt en op een aantal plekken is de volgorde aangepast. De minister van BZK werkt aan een rijksbreed toetsingskader voor algoritmes.

Het nieuwe toetsingskader is te vinden op de website van de Algemene Rekenkamer.