Diverse algoritmes overheid werken volgens Rekenkamer ondermaats
De Algemene Rekenkamer constateert dat diverse algoritmes van de overheid niet aan de basiseisen voldoen. Zes van de negen onderzochte uitvoeringsorganisaties scoorden ondermaats, door onder meer vooringenomenheid, datalekken of ongeautoriseerde toegang.
In het onderzoek ‘Algoritmes getoetst’ onderzocht de Rekenkamer, op basis van risicoselectie, negen algoritmes die in gebruik zijn bij evenzovele uitvoeringsorganisaties van de rijksoverheid en werden beoordeeld op hun werking.
De politie kwam het slechtst uit het onderzoek van de Rekenkamer en scoorde op alle toetsingspunten onvoldoende. Zo maakte de politie gebruik van historische data van bijvoorbeeld wijken, om via kansberekening de te verwachten criminaliteit aldaar te bepalen. "Doordat in het verleden bepaalde wijken intensiever zijn gecontroleerd, is de kans groot dat in de voorspellingen onwenselijke systematische afwijkingen ontstaan", zo meldt de Rekenkamer in zijn rapport.
Overheidsorganisaties die goed scoorden waren het Centraal Bureau Rijvaardigheidsbewijzen, het Centraal Justitieel Incasso Bureau en het Inlichtingenbureau, dat de uitwisseling van (persoons)gegevens tussen gemeenten en overheidsinstanties faciliteert.
Kans op discriminatie
Wanneer een algoritme niet goed wordt ingezet, is er volgens de Rekenkamer kans op discriminatie of zijn persoons- of bedrijfsinformatie niet veilig opgeslagen. Een bekend voorbeeld is de kindertoeslagenaffaire, waarbij mensen met een laag inkomen door een algoritme automatisch in het vizier van de Belastingdienst kwamen voor een fraudecontrole.
Burgers en bedrijven "moeten erop kunnen vertrouwen dat de inzet van algoritmes door de rijksoverheid op een verantwoorde wijze plaatsvindt", aldus de Rekenkamer. Zonder de inzet ervan is beleid niet uitvoerbaar, omdat algoritmes miljoenen handelingen per maand verrichten.
Het onderzoeksrapport is op 18 mei, gelijktijdig met het verantwoordingsonderzoek over 2021, gepubliceerd en naar de Tweede en Eerste Kamer gestuurd.
Gerelateerd
Grote zorgen Rekenkamer om beveiliging netwerk Defensie
Het is "zeer zorgelijk" dat Defensie de beveiliging van het geheime glasvezelnetwerk "onvoldoende op orde heeft", gezien de dreiging van sabotage. Dat stelt de Algemene...
KPMG: Bekendheid met algoritmes groeit, vertrouwen daalt
Het vertrouwen in algoritmes blijft al vijf jaar fors dalen. Het vertrouwen daalde dit jaar met 22 procent ten opzichte van vorig jaar, wat in lijn is met de dalingen...
Veel arbeidsongevallen blijven buiten beeld bij Arbeidsinspectie
Elk jaar worden ongeveer tweehonderdduizend werknemers slachtoffer van een arbeidsongeval. Uit onderzoek van de Algemene Rekenkamer blijkt dat zeker de helft van...
Rekenkamer: Stimuleren arbeidsmarkt met subsidies werkt niet
De Algemene Rekenkamer heeft verschillende subsidieregelingen doorgelicht waarmee de rijksoverheid de arbeidsmarkt beter wil laten functioneren. Conclusie: de subsidies,...
Rekenkamer: steeds haastiger beleid, controle onder druk
Controle op en verantwoording over nieuwe wetten en regels wordt lastiger, omdat er steeds vaker met haast nieuw beleid wordt gemaakt. Volgens de Algemene Rekenkamer...