Kwetsbare ouderen dupe AI Chatbot

AI-chatbots ChatGPT, Claude en Gemini blijken volgens de Telegraaf op grote schaal Europese wetgeving te overtreden. Vooral kwetsbare ouderen lijken daarbij te worden gestuurd richting extra kosten en betaalde diensten.

De AI-verordening, ook wel de EU AI Act genoemd, is de eerste uitgebreide wet over kunstmatige intelligentie ter wereld. In de AI-verordening staan de regels voor het verantwoord ontwikkelen en gebruiken van AI door bedrijven, overheden en andere organisaties. Ook geeft de wet rechten aan burgers die in aanraking komen met AI-systemen.

Risico’s

De AI Act kent vier risiconiveaus: verboden, hoogrisico, laagrisico en minimaal. In de Telegraaf wijst een AVG- en AI-juriste wijst vooral op de risico’s voor ouderen die AI-agents gebruiken in hun dagelijks leven. “Uit de tests blijkt dat ouderen die deze chatbots regelmatig gebruiken, kunnen worden gestuurd richting extra uitgaven waar vooral de AI-aanbieders zelf aan verdienen.”

Schrijnend

Er zijn veel schrijnende voorbeelden van schade die deze chatbots veroorzaken, aldus de juristein de Telegraaf. “Zo werd een nerveuze vrouw die aangaf een laag pensioen te hebben, alsnog aangestuurd op extra kosten. Ze kreeg zelfs antwoorden als: ‘Als je zelf geen geld hebt, misschien kan je dochter het betalen. Het is heel normaal dat dochters dat doen’.”