Limperg Symposium 'Statistical Model Auditing'
Op woensdag 30 mei 2012 vond aan de Vrije Universiteit het vijfde Limperg Symposium Statistical Auditing plaats, met als thema 'Statistical Model Auditing' Dit bleek een schot in de roos: de belangstelling was groter dan verwacht. Een beknopte impressie van het gebodene.
Ed Broeze en Hans Blokdijk
Gepresenteerd werden enkele belangwekkende toepassingen van modellen.
Benodigd weerstandsvermogen door kansinschattingen
Gemeentes willen een buffer hebben voor het opvangen van tegenvallers: weerstandsvermogen. Hoe groot moet dat zijn? Vaak is de kans groot dat de tegenvaller heel klein of nul is, en de kans klein dat je een enorme tegenvaller het hoofd moet bieden; kansen daartussenin laten zich eveneens inschatten.
Vaak wordt nu 'risico' weergegeven als één getal: som van de kansen maal mogelijke tegenvallers. Als de buffer gelijk is aan dit 'risico', 'is het risico afgedekt'.
Maar er is nog een forse kans op tegenvallers groter dan dit 'risico'. Norbert van Haaften (Deloitte) liet een door hem gebruikt model zien waarin (1) de mogelijke tegenvallers met een verfijndere kansverdeling werden geïnventariseerd, (2) het 'risico', met een samengestelde kansverdeling over de totaal mogelijke tegenvaller werd berekend, en (3) de 'klant' met die ook in grafiek weergegeven kansverdeling met meer inzicht in kansen tot een beslissing over de aan te houden buffer kon komen.
Balance sheet ratings: niet zomaar kengetallen
De aandacht voor modellen is sterk gegroeid, omdat zij een rol spelen in de huidige financiële crisis. Onder meer omdat, volgens Fritz Witt (zelfstandig rating analist; Nyenrode), traditionele kengetallen te weinig voorspellend vermogen hebben voor de continuïteit van een bedrijf. Hij toonde modellen waarin balance sheet ratings worden samengesteld uit kengetallen die in simulaties van gevarieerde scenario's en blijkens logistische regressie de grootste voorspellende kracht hebben. Hij gaf daarbij een overzicht van de ontwikkeling van deze aanpak.
Data-analyse en/of steekproeven?
Arnold Roza (Belastingdienst) liet zien dat in al dit data-analytische geweld het gebruik van steekproeven nog steeds heel nuttig en nodig is: controle tot op detailniveau zal altijd nodig blijven. Maar data-analyse kan daarbij heel nuttig zijn, omdat er delen van de jaarrekening mee gevonden kunnen worden die een verhoogd risico op fouten hebben. Hij bepleitte een 'symbiose' van deze twee technieken.
De stand van het vak
Modellen zijn per definite altijd geschematiseerde afspiegelingen van de werkelijkheid. Maar: hoe goed is die afspiegeling? Die kwaliteit is bepalend voor het succes van het gebruik van een model, en van de daarop gebaseerde beslissingen. Dit betekent dat de audit van modellen zeer zinvol is.
Met een citaat van Cukier: "A new kind of professional has emerged, the data scientist, who combines the skills of software programmer, statistician and storyteller/artist to extract the nuggets of gold hidden under mountains of data", onderstreepte Jacques de Swart (PWC, Nyenrode) dat model audit nog in de kinderschoenen staat. Alom worden modellen gebruikt, vaak ad hoc ontwikkeld; voor een audit hiervan zijn RA, RE, RO (nog) niet opgeleid. In zijn presentatie schetste hij contouren van hoe zo'n audit eruit zou moeten zien.
Koen Dessens en Michiel Lodewijk (Deloitte) toonden het gelijk van De Swart met de bevinding in hun wereldwijde survey betreffende 'Model Governance', dat 14 procent van hun responderende, op model audit gerichte afdelingen nog nooit een model hadden afgekeurd. Een uitdaging, naast vele andere die uit hun survey naar voren kwamen.
Slachtoffer van eigen succes
De door de vooraankondiging gewekte belangstelling was zo groot, dat de reeds jaren voor het symposium gebruikte zaal te klein bleek. De organisatoren betreuren dat zij een aantal belangstellenden teleur hebben moeten stellen, en anderen niet het gebruikelijke comfort hebben kunnen bieden. Deze ervaring zal niet vergeten worden!
Gerelateerd
Machine learning in de audit: uitschieters bij vastgoedwaardering
Regressie is een vorm van machine learning met als doel het voorspellen van cijfers op basis van een aantal kenmerken. Met open-sourcesoftware kun je zonder programmeerkennis...
Machine learning in de audit: voorspellen van klantverloop
Het doel van machine learning is om voorspellingen te maken aan de hand van data. Binnen dit veld worden doorgaans drie hoofdtoepassingen onderscheiden: classificatie,...
De steekproefomvang ontmaskerd - deel 5
In vorige columns hebben we verschillende manieren besproken om tot een steekproefomvang te kunnen komen. Deze column is de laatste van de serie waarin we verschillende...
De steekproefomvang ontmaskerd - deel 4
Een accountant die gebruikmaakt van software om een steekproefomvang te berekenen, moet zeker weten dat die software dat goed doet. Daarvoor moet je de rekenmethode...
Symposium: Machine Learning in de audit
Hoe is het momenteel gesteld met de toepassing van Machine Learning in de audit? Aankondiging van een symposium.