Snelle opkomst AI vraagt om waakzaamheid
Kunstmatige intelligentie (AI) maakt een stormachtige ontwikkeling door, maar staat als technologie deels nog in de kinderschoenen. De beheersing van de risico’s van AI-systemen gaat niet in hetzelfde tempo. Zorgvuldige inzet moet voorop staan en we moeten ons voorbereiden op meer incidenten met AI. Waakzaamheid is geboden.
Dat schrijft de Autoriteit Persoonsgegevens (AP) in de jongste Rapportage AI- & Algoritmerisico's Nederland (RAN). Als coördinator van het toezicht op algoritmes en AI analyseert de AP elk halfjaar de risico's rond AI-systemen en adviseert de samenleving, bedrijven, overheid en politiek over te nemen stappen.
Laag vertrouwen
In Nederland is het vertrouwen in AI lager dan in andere landen. Mensen zullen de risico's van AI-systemen steeds vaker gaan tegenkomen in hun dagelijks leven. Van misbruik van generatieve AI voor cyberaanvallen en deepfakes, tot nieuwe vormen van privacyschendingen en de kans op discriminatie en willekeur.
AP-voorzitter Aleid Wolfsen gaat uit van "stormachtige tijden" rondom de opkomst van dergelijke nieuwe systeemtechnologie die tegelijk veel kansen biedt, zoals bij medische behandelingen en inclusieve dienstverlening. "Maar ook de risico's zijn bekend", stelt hij. "De waarschuwing die we afgeven is dat zolang organisaties nog twijfelen over de mate waarin ze de risico's van AI kennen, zij terughoudend moeten zijn met de inzet van AI."
Informatievoorziening onder druk
De AP analyseerde voor deze editie van de rapportage onder meer de risico's van AI voor online informatievoorziening, zoals nieuws. Generatieve AI brengt een groot risico op misinformatie en desinformatie met zich mee. Door AI-toepassingen die levensechte tekst, plaatjes, video en audio genereren, kunnen mensen er niet meer op vertrouwen dat wat ze zien of horen ook echt klopt.
Daarom is het belangrijk dat mensen begrijpen hoe aanbevelingssystemen werken en dat zij de kans krijgen het systeem uit te zetten of aan te passen. Ook moeten mensen de juistheid van informatie kunnen controleren.
Uit een enquête van de AP onder gemeentelijke organisaties blijkt dat die nog maar beperkt overzicht hebben over hun AI-systemen, dat raadsleden twijfelen of zij voldoende kennis hebben van AI en dat slechts enkele lokale rekenkamers sporadisch onderzoek doen naar AI-systemen.
Het is noodzakelijk om gemeenteraadsleden en andere volksvertegenwoordigers te versterken, om de democratische controle op de inzet van AI te waarborgen, benadrukt de autoriteit.
Nationale AI-strategie
Tot slot roept de AP het kabinet op om onverminderd prioriteit te blijven geven aan algoritmeregistratie door overheidsorganisaties en te overwegen om ook semi-publieke organisaties hun algoritmes te laten registreren. Juist in bijvoorbeeld het onderwijs, de gezondheidszorg, de sociale huursector en het openbaar vervoer wordt AI ingezet in situaties waarin mensen kwetsbaar zijn.
Het is belangrijk om te voorkomen dat kaders te vrijblijvend zijn of (onbewust) ruimte geven aan onvoldoende precieze of meetbare standaarden, die soms achterlopen op of strijdig zijn met wetenschappelijke inzichten.
De AP ziet het aantreden van een nieuw kabinet als hét moment om de nationale AI-strategie tegen het licht te houden.
Bron: Autoriteit Persoonsgegevens
Gerelateerd
![](/siteassets/accountant.nl/afbeeldingen-440x300/ict-technologie-cybersecurity-toekomst/ai_vrouw_440x300.jpg)
SmartBooqing zet slimme turbo op boekhoudwerk
Het automatiseren van boekhoudingen is misschien niet het meest sexy onderwerp. Maar er is met wat slimme systemen wel flinke productiviteitswinst te halen. SmartBooqing...
![](/siteassets/accountant.nl/afbeeldingen-440x300/ict-technologie-cybersecurity-toekomst/ai_440x300.jpg)
AI-personeel bezorgd over slecht toezicht AI-bedrijven
Grote AI-bedrijven zoals OpenAI en Google Deepmind zijn niet transparant genoeg over de risico's van kunstmatige intelligentie. Financiële belangen dwarsbomen effectief...
![](/siteassets/accountant.nl/afbeeldingen-440x300/ict-technologie-cybersecurity-toekomst/ai_440x300.jpg)
Eerste nieuwe Europese AI-regels over halfjaar van kracht
De nieuwe EU-regels voor kunstmatige intelligentie (AI) gaan dit jaar niet meer in. De verboden op de gevaarlijkste toepassingen worden begin 2025 van kracht, verwacht...
![](/siteassets/accountant.nl/afbeeldingen-440x300/ict-technologie-cybersecurity-toekomst/ai_mind_440x300.jpg)
MindBridge, oudgediende in AI-land
Nart Wielaard gaat in een reeks artikelen op zoek naar innovatie in de accountancy. Hij houdt tools, initiatieven, startups en gevestigde partijen tegen het licht....
![](/siteassets/accountant.nl/afbeeldingen-440x300/eenmalig/masterclass-voor-docenten_440x300.jpg)
Masterclass docenten accountancy over 'Vertrouwen in de toekomst'
De NBA organiseerde ook dit jaar een masterclass voor docenten accountancy. Tijdens de bijeenkomst aan de Hogeschool van Amsterdam op 16 april werden de docenten...