Consumentenbond: bescherm rechten consumenten bij gebruik AI
De Consumentenbond vraagt toezichthouders en de politiek om de rechten van consumenten centraal te stellen bij de ontwikkeling en toepassing van kunstmatige intelligentie (AI) en met name generatieve AI.
Die laatste categorie omvat bekende systemen als ChatGPT. Bij de inzet van AI-systemen moeten consumenten erop kunnen vertrouwen dat er geen sprake is van praktijken als misleiding en manipulatie, discriminatie, fraude en misbruik van persoonlijke informatie.
Aanleiding voor de oproep is een onderzoek van de Noorse zusterorganisatie van de Consumentenbond Forbrukerrådet dat de belangrijkste risico's van AI op een rij zet. Daarom roepen consumentenorganisaties in Europa en de Verenigde Staten nu op om te zorgen dat AI veilig is. De oproep van de Consumentenbond is gericht aan de Autoriteit Consument & Markt (ACM), de Autoriteit Persoonsgegevens (AP) en staatssecretaris Alexandra van Huffelen van digitalisering.
De Consumentenbond ziet de voordelen van zowel AI als generatieve AI en is daar zeker niet tegen, benadrukt directeur Sandra Molenaar. "Maar transparantie moet de basis zijn. Consumenten moeten weten wanneer ze met AI te maken hebben en waar ze verhaal kunnen halen als ze nadeel ondervinden van AI." Aanleiding voor de oproep is te zorgen dat er duidelijke regels komen voor dergelijke systemen. "Helaas heeft de geschiedenis aangetoond dat we er niet op kunnen vertrouwen dat de grote techbedrijven deze zaken zelf vooropstellen", aldus Molenaar.
Persoonsgegevens
De AP geeft in een reactie aan de zorgen van de Consumentenbond te delen en maakt zich in het bijzonder zorgen om de omgang met persoonsgegevens. De waakhond zegt al verschillende acties te ondernemen. De ACM zegt de huidige regelgeving al te gebruiken om AI-bedrijven aan te pakken. "We vinden het vooral belangrijk dat mensen goed geïnformeerd worden", aldus een woordvoerder. "We zien ook het risico dat deze systemen heel menselijk overkomen en tot misleiding kunnen leiden."
Een woordvoerder van Van Huffelen zegt dat de staatssecretaris al bezig is met het beschermen van consumentenrechten als AI wordt gebruikt. Dat doet ze onder meer door te onderzoeken of deze systemen voldoen aan privacyvoorwaarden en of mensen- en kinderrechten worden nageleefd. "Daarnaast moet het voor mensen altijd duidelijk zijn of ze te maken hebben met een mens of een systeem." De bewindsvrouw verwacht meer te kunnen doen als de Europese wet om AI te reguleren is afgerond.
Bron: ANP
Gerelateerd
Zonder zelf na te denken
Pieter de Kok bericht over de stand van zaken rondom Machine Learning. Geen vervanging, maar wel een hulpmiddel voor auditors.
Een langzaam ontluikende liefde; AI en de accountant
AI en accountants. Het zou op papier een geweldig huwelijk kunnen zijn, maar alleen een select groepje accountants durft een versierpoging aan. En zoals dat vaak...
Staatssecretaris: fiscus mocht omstreden database niet gebruiken
De Belastingdienst had de omstreden database Risico Analyse Model (RAM) niet moeten en mogen gebruiken. Ambtenaren konden hiermee lukraak gevoelige persoonsgegevens...
Het antwoord op alles?
Het wegautomatiseren van accountants blijkt in de praktijk best lastig, aldus Joris Joppe.
Bedrijven gebruiken vaker kunstmatige intelligentie
Het gebruik van technologie rond kunstmatige intelligentie (AI) door Nederlandse bedrijven neemt toe. Volgens het Centraal Bureau voor de Statistiek (CBS) gebruikte...