Betere kwaliteitscontrole en meer inzicht voor burgers nodig bij algoritmes overheid
Algemene Rekenkamer ontwikkelt toetsingskader
Net als bedrijven zet de rijksoverheid steeds vaker algoritmes in om handelingen te automatiseren, een probleem op te lossen of een voorspelling te doen. Een verantwoorde ontwikkeling naar complexere geautomatiseerde toepassingen vereist beter overzicht – dat hebben ministers nu niet – en betere kwaliteitscontrole. Hiervoor heeft de Algemene Rekenkamer een toetsingskader ontwikkeld. Dat bevat ook ethische vragen. De Rekenkamer schrijft dat vragen van bezorgde burgers over de toepassing van algoritmes meer aandacht verdienen.
Ambtenaren worden steeds meer ondersteund door algoritmes
Een algoritme is een set van regels en instructies die een computer uitvoert. Hiermee kunnen grote hoeveelheden data gecombineerd en geanalyseerd worden. Algoritmes gebruiken raakt belangen van burgers en bedrijven. Nu zijn het veelal nog eenvoudige algoritmes in processen voor bedrijfsvoering of dienstverlening, zoals het geautomatiseerd versturen van antwoordbrieven of een eerste selectie voor uitkeringen. Soms zet de rijksoverheid al innovatieve algoritmes in, al dan niet met gebruik van artificiële intelligentie. Ministeries en uitvoeringsorganisaties als UWV en Sociale Verzekeringsbank hebben op verzoek vele tientallen algoritmes aangereikt. Volledig zelflerende algoritmes (die beleid uitvoeren zonder tussenkomst van een mens) heeft de Algemene Rekenkamer daar niet bij aangetroffen. In de samenleving bestaan zorgen over het gebruik van algoritmes. Het onderzoek Aandacht voor algoritmes van 26 januari 2021 belicht de kansen, bedreigingen en mythes over algoritmes.
Onderdeel van dit onderzoek is de ontwikkeling van een toetsingskader om de kwaliteit en verantwoorde inzet van algoritmes in de praktijk te kunnen beoordelen. De Rekenkamer nodigt de overheid uit dit toetsingskader, tot stand gekomen met inbreng van experts van binnen en buiten de rijksoverheid, ook als basis te gebruiken bij de ontwikkeling van nieuwe algoritmes.
Deze toets test een algoritme op aspecten van sturing en verantwoording, model en data, de privacy-waarborgen, de kwaliteit van de IT general controls (ITGC, zoals wie heeft toegang en hoe wordt met back-ups omgegaan) en ethische vragen. Bij ethische vragen staat de menselijke maat centraal. Doel van deze toets is het opsporen van mogelijke zwakheden bij het gebruik van algoritmes. Het toetsingskader staat in het rapport en is digitaal beschikbaar via https://www.rekenkamer.nl/algoritmes-toetsingskader.
Burger staat onvoldoende centraal
De Algemene Rekenkamer stelt vast dat bij algoritmes niet de burger, maar de overheid centraal staat. Er is bij de overheid oog voor de privacy van burgers, maar ethische aspecten krijgen weinig aandacht. Daartoe behoren dat algoritmes niet discrimineren, rekening houden met diversiteit van de bevolking en controleerbaar zijn door menselijke tussenkomst. Burgers moeten het gebruik en de werking van een algoritme kunnen begrijpen. Ook moeten zij weten waar zij terecht kunnen met vragen of bezwaren. Zorgen of twijfels over algoritmes verdienen serieuze aandacht.
Een algoritme is niet risicoloos. Verkeerd gebruik van een dataverzameling kan een discriminerende werking hebben als deze vooroordelen bevat. Zo vonniste vorig jaar een rechter dat het door overheden voor uitkeringsdoelen gebruikte systeem Syri discriminerend werkt, waarop het gebruik werd stopgezet.
De overheid kan bij de inzet van algoritmes afhankelijk worden van externe leveranciers (eigendomsrecht, verwerking persoonsgegevens). De overheid dient data voldoende te beveiligen (sabotage, spionage en criminaliteit voorkomen), beheer en onderhoud van algoritmes moeten op orde zijn.
Het onderzoek heeft geleerd dat de onderzochte algoritmes te analyseren zijn; deze algoritmes zijn geen black box. Het belang van kwaliteitscontrole neemt verder toe als algoritmes meer zelflerend worden (minder inbreng uitvoerende ambtenaar).
Reactie staatssecretaris op aanbevelingen
De staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties reageert als coördinerend bewindsman voor IT-beheer op de aanbevelingen en verbeterpunten uit het onderzoeksrapport.
In haar nawoord stelt de Algemene Rekenkamer vast dat bij vrijwel alle departementen een significante behoefte bij medewerkers bestaat naar meer eenduidigheid van te hanteren begrippen, richtlijnen en standaarden voor kwaliteit. De onderzoeksbevindingen en het toetsingskader bieden daar handvatten voor.
Het toetsingskader algoritmes bestaat uit 5 perspectieven
De Algemene Rekenkamer ziet de toepassing van algoritmes als vast onderdeel van haar onderzoek naar de bedrijfsvoering van het Rijk en de uitvoering. Daarbij zal het toetsingskader gebruikt worden, en verder doorontwikkeld.
Op 28 januari 2021 wordt voor (betrokken) functionarissen uit overheid en bedrijfsleven een digitaal congres over dit thema belegd.