Nart Wielaard

Het goede nieuws: Wetgevers en toezichthouders zijn bepaald niet tandeloos tegenover grote technologiebedrijven en hun vermeende onwil om desinformatie tegen te gaan. Zeker niet in Europa. Een markant moment was toen Thierry Breton, de eurocommissaris voor Interne Markt, half oktober jl. snel in actie kwam na het opgelaaide geweld in Israël en de Gazastrook. Binnen een paar dagen schreef hij een brief waarin hij Elon Musk als eigenaar van X (waarschijnlijk ten overvloede) wees op het bestaan van de Digital Services Act. Deze Europese regelgeving was een paar maanden daarvoor, na een jarenlang traject, goedgekeurd om burgers te beschermen tegen onder meer verspreiding van onjuiste informatie en misbruik van persoonlijke gegevens door grote platforms zoals X, Facebook en nog een dozijn grote spelers (aan wetgeving voor de categorie daaronder wordt momenteel nog gewerkt).

De Franse eurocommissaris schreef in de brief dat hij aanwijzingen heeft dat X wordt gebruikt om illegale inhoud en desinformatie in de EU te verspreiden, wilde van Musk horen hoe hij zich aan de wet houdt en wees hem er ook op dat er een boete kan volgen van zes procent van de inkomsten. In het uiterste geval kan Breton X zelfs de toegang op het internet in de EU ontzeggen.

'Het maatschappelijk debat klonk eigenlijk als een versleten langspeelplaat die maar blijft hangen en toonde ook weer aan hoe ingewikkeld dit thema is.'

De reacties op de brief waren stevig en tamelijk voorspelbaar. Musk zelf vroeg de eurocommissaris om voorbeelden. Voorstanders applaudisseerden over de actie van Breton en meenden dat het goed was om Musk op zijn verantwoordelijkheden te wijzen. En tegenstanders proclameerden dat het hek nu echt van de dam ging op het vlak van overheidscensuur: een Orwelliaans ministry of truth is niet ver weg meer. Het maatschappelijk debat klonk eigenlijk als een versleten langspeelplaat die maar blijft hangen en toonde ook weer aan hoe ingewikkeld dit thema is. Want de kernvraag is steeds dezelfde: Hoe bepaal je wat wel en niet waar is? Dat is een vraag waar je om meerdere redenen - waarvan enkele zijn behandeld in deze serie - eigenlijk niet uitkomt.

Piramide

Niettemin: De Europese Commissie heeft dus in elk geval de wettelijke basis om tanden te laten zien. En dat is ook een breuk met het wat passieve verleden. De DSA introduceert een piramide met vier categorieën digitale toepassingen. De zwaarste categorie - waarbij grondrechten worden geschonden of de veiligheid van mensen in het geding is - is simpelweg verboden in Europa. Denk daarbij aan systemen die het gedrag van mensen beoordelen en het gebruik van realtime biometrische identificatie. Voor de drie categorieën daaronder bestaan verschillende regimes van voorwaarden en toezicht. Het gaat achtereenvolgens om hoog risico - bijvoorbeeld in medische hulpmiddelen, beperkt risico - bijvoorbeeld bij het gebruik van voice- of chatbots en minimaal risico - zoals zoekmachines of aanbevelingsalgoritmen.

'De schaal waarop desinformatie zich afspeelt, is zonder meer groter dan pakweg tien jaar geleden, maar het fenomeen zelf is niet nieuw.'

Het wetsvoorstel werd echter ontwikkeld nog voordat er (eind 2022) een hausse aan generatieve AI-toepassingen - waaronder ChatGPT - opkwam en moest dan ook onder hoge tijdsdruk nog even worden aangepast aan die actualiteit. Een van de onvoorziene zaken was dat je als gebruiker van deze tools zelf bepaalt wat je ermee doet. In de wet werd vooral uitgegaan van het reguleren van professionele gebruikers. Concreter: Volgens het wetsvoorstel moet een systeem laten weten aan een gebruiker of deze met een mens of met AI communiceert. Maar het wetsvoorstel rept niet over de vraag of je als gebruiker zelf moet laten weten of je een foto of tekst produceert met behulp van AI. De uitkomst van de last minute aanpassing aan de actualiteit is een compromis: De regels vallen voor deze tools bijna net zo streng uit als voor toepassingen die onder 'hoog risico' vallen.

Auteursrecht

Dan is er ook nog een ander gebied waar de wetgeving 'opeens' kreeg te maken met terra incognita als gevolg van de snelle ontwikkelingen. Dat heeft te maken met het feit dat de AI-modellen het hele internet afgrazen op zoek naar beschikbare teksten om zichzelf steeds verder te verbeteren. Daarmee komt de vraag op of dat geen schending van auteursrecht is. In de Verenigde Staten zijn meerdere rechtszaken aangespannen tegen OpenAI, voor het gebruik van datasets die illegaal gekopieerde werken bevatten. En als dergelijke rechtszaken in het nadeel van OpenAI zouden uitvallen, speculeren experts erop dat dat zomaar het einde van de AI-toepassing zou kunnen inluiden.

Tot slot een relativering. De schaal waarop desinformatie zich afspeelt, is zonder meer groter dan pakweg tien jaar geleden, maar het fenomeen zelf is niet nieuw. Onderzoek op de site van het Wetenschappelijk Onderzoek- en Documentatiecentrum uit 2022 legt wat dat betreft de vinger op de juiste plek: Waarschijnlijk is bestaande wetgeving voor een groot deel al prima om makers en verspreiders van desinformatie aan te pakken. Maar de angel zit in de handhaving. En daarmee zijn we weer terug bij de tanden van Eurocommissaris Breton. Is er straks in heel Europa voldoende handhavingsmacht, die ook echt kan bijten als dat nodig is?

Dit is het tiende en laatste deel van een reeks bijdragen waarin Nart Wielaard op zoek is naar waarheid in een digitale wereld en wat dat betekent voor de accountant. Op de recente Accountantsdag, eind november in Leusden, sprak Nart tijdens twee sessies met experts over AI en het accountantsberoep.