Opinie 03 juni 2019

Voorstel voor toezicht op algoritmen zal ineffectief blijken

Tweede Kamerlid Middendorp (VVD) wil inzicht in het gebruik van algoritmen verkrijgen door een versteviging van toezicht. Hij ziet daarbij een belangrijke rol voor accountants weggelegd en pleit daarnaast voor de oprichting van een 'algoritmetoezichthouder'. Hij ziet ook mogelijkheden om algoritmegebruik in de jaarlijkse rapportagecyclus van (overheids-)instellingen te laten meenemen.

Toen ik over deze voorstellen las dacht ik: ach, weer zo'n losse flodder van een politicus die is losgezongen van de praktijk. Maar om niet te snel te oordelen en louter af te gaan op mediaberichten, zocht ik de initiatiefnota van Middendorp op. Gelukkig maar, want die kan niet zomaar worden afgedaan als een losse flodder. Daarvoor heeft het Kamerlid in de elf pagina's die de nota telt, te veel energie en ijver gestopt. Zijn intenties zijn goed, hij wil mensen niet 'in een digitale jungle overlaten aan de sturing van algoritmen', zeker niet daar waar deze hen emotioneel of financieel kunnen benadelen.

Circus

Inhoudelijk overtuigen de argumenten van Middendorp mij echter totaal niet. Hij wijst zonder overdrijving op het bestaan van 'miljoenen algoritmen'. Hij wil deze niet allemaal controleren, maar naar risicoprofiel inzicht verwerven in wat algoritmen precies doen: welke kansen ze bieden en welke de samenleving juist kunnen schaden. Vooral dat laatste raakt de verantwoordelijkheid van de overheid.

Middendorp voorziet in een drietrapsraket. De eerste trede in overheidstoezicht is volgens Middendorp rapportage van instellingen die algoritmen gebruiken. Zij dienen te rapporteren over algoritmen met een hoog risicoprofiel, risicobeheersing en de resultaten van algoritmen. Externe accountants en 'in-control-verklaringen' vormen de tweede trede en een algoritmetoezichthouder de derde.

Anno 2019 is er bijna geen instelling denkbaar die zonder automatisering en algoritmen werkt. Hoe lang zal het duren voordat er geen instelling meer is die zonder de toeppassing van kunstmatige intelligentie functioneert? Wat zullen de administratieve kosten zijn van dit circus van rapportage, controle en toezicht?

Middendorp geeft beperkt antwoord op dergelijke vragen: hij wil het mkb ontzien, geen onnodige administratieve lasten creëren en hij verwacht met een kleine organisatie het toezicht uit te voeren. Daarbij negeert hij dat misbruik juist ook in het mkb kan plaatsvinden en dat rapportages en accountants geld kosten.

Hoe serieus neem je het probleem eigenlijk als je denkt dat het met een kleine toezichtsorganisatie valt op te lossen? Waaraan kan de maatschappij vertrouwen ontlenen dat instellingen actief en eerlijk zullen gaan rapporteren over algoritmen met een hoog risico, gebreken in interne beheersingssystemen en negatieve resultaten van algoritmen?

Zijn accountants er wel toe uitgerust om, zoals Middendorp het noemt, 'mee te kijken' met algoritmegebruikende instellingen of kunnen zij hun tijd en energie beter steken in adequate controle van de financiële verslaglegging? Zijn in control-verklaringen in die financiële verslaggeving inmiddels niet dusdanig ineffectief gebleken, dat daarin nog geen begin van een oplossing ligt?

Prehistorisch

Naar mijn mening zijn de VVD-voorstellen voor toezicht op het gebruik van algoritmen onvoldoende doordacht en zullen ze bij invoering ineffectief blijken, hooguit schijnzekerheid geven. De meerwaarde van de voorstellen zit dan ook niet in de inhoud ervan. De achterliggende intenties, de samenleving beschermen tegen misbruik van algoritmen en kunstmatige intelligentie, zijn goed.

Het is nodig het probleem op de politieke agenda te zetten. Misbruik van algoritmen en kunstmatige intelligentie ligt iedere dag op de loer en we zien daar steeds vaker, zowel bij overheid als bedrijfsleven, voorbeelden van. De initiatiefnota toont echter onbedoeld de grote kloof tussen de overheid en het bedrijfsleven, dat op dit punt veel verder is in denken en doen.

De overheid loopt, zoals zo vaak, achter de feiten en ontwikkelingen aan. Deze kennis- en expertisekloof dient te worden gedicht. De overheid zou zelf in staat moeten zijn de belangrijkste risico's die aan algoritme kleven, te benoemen en het beleid daarop af te stemmen. Je afhankelijk maken van zelfrapportages is niet meer dan een zwaktebod.

Het ICT-gebruik van de Belastingdienst illustreert die kloof: aanpassingen van tarieven voor omzetbelasting zullen geautomatiseerde processen en systemen doen vastlopen. Zolang de overheid op dit vlak prehistorisch acteert, lijkt mij een effectieve aanpak van algoritmen, kunstmatige intelligentie, hightech en fintech te hoog gegrepen.

Deze opinie is vandaag ook gepubliceerd in het FD.