Nieuws 04 maart 2019

Amsterdam schakelt KPMG in voor screening algoritmes

De gemeente Amsterdam heeft KPMG ingeschakeld voor het controleren van de werking van algoritmes. Zo moet worden voorkomen dat algoritmes discrimineren of andere ongewenste beslissingen nemen.

Dat meldt het Financieele Dagblad. Het gaat om apps en websites van de gemeente zelf, maar ook van commerciële partijen in de stad, zoals taxi- en restaurant-apps.

De gemeente worstelt met het vinden van een manier om ongewenste effecten van kunstmatige intelligentie te controleren, stelt Ger Baron, chief technology officer (cto) van de gemeente Amsterdam, tegenover de krant. "Een algoritme moet precies doen wat je beweert. Het mag ook geen strafbare dingen doen zoals mensen discrimineren. De accountant moet hier een stempel voor kunnen geven."

Klachtvaardigheid

De gemeente en KPMG voerden de afgelopen maanden een experiment uit met de automatische afhandeling van klachten in de buurt. Daarbij bleek dat mensen in bepaalde buurten een grotere klachtvaardigheid hebben en dat daar veel sneller wordt gemeld. "Voor een echte telefonist is dat geen probleem. Die kan omgaan met ervaren mopperaars, en beoordeelt zelf wat een serieuze klacht is. De computer niet", aldus Baron. De fouten zijn nu uit het systeem gehaald.

Hoe Amsterdam bedrijven-apps gaat screenen is nog niet duidelijk, omdat de gemeente daar nog geen ervaring mee heeft. Baron oppert dat algoritme-screening een voorwaarde zou kunnen worden voor het verlenen van een bedrijfsvergunning. 

KPMG-partner Sander Klous, tevens big data-hoogleraar aan de UvA, stelt tegenover het FD dat steeds meer bedrijven er voor kiezen vrijwillig hun algoritmes te laten screenen. "Ze willen buiten elke controverse blijven."

Kritisch

In een redactioneel commentaar is het FD kritisch over het initiatief van de gemeente Amsterdam. Ambtenaren moeten zelf nadenken over de "bijwerkingen" van een beslissing zoals de inzet van kunstmatige intelligentie, meent de krant. "De eigen verantwoordelijkheid voor eerlijke verslaggeving sterft af, omdat er toch nog een accountant overheen gaat."

Ook bedrijfskundige Edwin Borst stelt in een opiniebijdrage in het FD vragen bij de verantwoordelijkheid van de gemeente zelf. Volgens hem moet worden gewerkt aan een oplossing "waarin de medewerkers binnen een organisatie zélf verantwoordelijkheid nemen voor de ethische gevolgen van technologie". Als dat op de juiste manier wordt gedaan "is de stempel van de accountant als het goed is alleen nog maar de kers op de algoritmische taart", aldus Borst.