{"id":120760,"date":"2025-07-16T02:53:17","date_gmt":"2025-07-16T02:53:17","guid":{"rendered":"https:\/\/www.irakezen.nl\/du\/zeer-voorzichtig-omgaan-met-algoritmes-en-kunstmatige-intelligentie-die-emoties-kunnen-herkennen-waarschuwt-ap\/"},"modified":"2025-07-16T02:53:17","modified_gmt":"2025-07-16T02:53:17","slug":"zeer-voorzichtig-omgaan-met-algoritmes-en-kunstmatige-intelligentie-die-emoties-kunnen-herkennen-waarschuwt-ap","status":"publish","type":"post","link":"https:\/\/irakezen.nl\/du\/zeer-voorzichtig-omgaan-met-algoritmes-en-kunstmatige-intelligentie-die-emoties-kunnen-herkennen-waarschuwt-ap\/","title":{"rendered":"Zeer voorzichtig omgaan met algoritmes en kunstmatige intelligentie die emoties kunnen herkennen, waarschuwt AP"},"content":{"rendered":"

<\/p>\n

\n

Gebruik van technologie om menselijke emoties te herkennen werpt ethische vragen op en brengt risico\u2019s met zich mee. Die waarschuwing geeft de Autoriteit Persoonsgegevens (AP) dinsdag in haar jaarlijkse Rapportage AI- & Algoritmerisico\u2019s Nederland<\/a>. <\/p>\n

Bedrijven en andere organisaties gebruiken kunstmatige intelligentie in toenemende mate om menselijke emoties te herkennen. Onder meer om te achterhalen of een klant tevreden is en om winkeldiefstal te voorkomen door verdacht gedrag te detecteren. De AP, toezichthouder op de privacy, ziet echter dat bij emotieherkenning nogal eens omstreden aannames worden gedaan over emoties. Ook bij de meetbaarheid ervan stelt ze vragen.<\/p>\n

Emotieherkenningssystemen <\/h2>\n

Algoritmes en AI-modellen kunnen menselijke emoties detecteren en interpreteren via tekst, audio, video, biometrische gegevens of een combinatie ervan. Denk bijvoorbeeld aan gesprekken met chatbots waarin kan worden beoordeeld of woorden neutraal, positief of negatief zijn. AI-gedreven spraakanalyses die aan de hand van de intonatie, snelheid en toonhoogte kunnen inschatten of iemand bijvoorbeeld gefrustreerd is. <\/p>\n

Emotieherkenningssystemen kunnen processen in verschillende sectoren verbeteren en effici\u00ebnter maken, zoals klanttevredenheid in de marketing, maar er kleven ook risico\u2019s aan, zegt de AP. Uit haar onderzoek komt naar voren dat deze systemen gebruikmaken van universele emoties. Het uitgangspunt is dat iedereen natuurlijke emoties op dezelfde manier ervaart en uitdrukt. <\/p>\n

Dit blijkt in de praktijk echter niet het geval. Emotieherkenningssystemen zijn voornamelijk getraind op basis van westerse opvattingen over emoties, die niet per definitie universeel zijn. In de praktijk zijn emoties vaak moeilijk te analyseren en sterk afhankelijk van de context. AP-voorzitter Aleid Wolfsen waarschuwt daarom voor het gebruik van deze systemen. Emoties kun je \u201eniet altijd een-op-een vertalen\u201d, zegt hij. \u201eEen hoge hartslag is niet altijd een teken van angst, en een harde stem niet altijd een uitdrukking van woede.\u201d <\/p>\n

Ethische vraagstuk <\/h2>\n

Wat ook naar voren komt uit het rapport is dat de privacy in het geding kan komen bij het detecteren, verwerken en analyseren van menselijke emoties. AI-gedreven systemen die emoties herkennen, hebben namelijk toegang nodig tot persoonlijke data als je hartslag en je lichaamshouding. Daarnaast vormt de toenemende verwerking van data van deze gevoelige gegevens naar bijvoorbeeld databases in the cloud<\/em> een privacyrisico. Dat emotieherkenning voornamelijk gebaseerd is op westerse data op het gebied van emoties kan ook discriminatie in de hand werken, omdat deze systemen getraind zijn op data die niet representatief is voor alle culturen en bevolkingsgroepen. <\/p>\n

Volgens Wolfsen is het \u201eeen ethisch vraagstuk of je als maatschappij het herkennen van emoties met AI toelaatbaar vindt. Daarvoor is een maatschappelijke en democratische afweging nodig: of je deze systemen wilt gebruiken en zo ja, in welke vorm en waarvoor.\u201d <\/p>\n

Praktijkvoorbeelden <\/h2>\n

In haar rapportage richtte de AP zich dit jaar vooral op emotieherkenningssystemen in de praktijk. Zo onderzocht de toezichthouder het gebruik van emotieherkenning met AI bij het meten van de hartslag in bijvoorbeeld smartwatches en fitnessarmbanden. Daarnaast nam ze enqu\u00eates af bij klantenservices die gesprekken opnamen en analyseerden met taalmodellen die audio van geluidsopnames omzetten in tekst emoties van de betrokkenen. . Uit al deze onderzoeken bleek dat de AI-systemen emoties niet altijd accuraat konden herkennen en dat de uitkomsten van de analyses onbetrouwbaar waren. Zo was niet te achterhalen op basis waarvan een sporthorloge had vastgesteld dat iemand stress ervoer of waarom aan \u2018blije\u2019 of \u2018boze\u2019 woorden deze specifieke emoties waren toegekend. <\/p>\n

In het geval van de enqu\u00eates bij de klantenservices concludeerde de AP dat het voor de bedrijven zelf niet duidelijk was dat de gesprekken ook werden opgenomen voor emotieherkenning. Zij dachten dat dit puur voor trainingsdoeleinden gebeurde, wat een inbreuk van de privacy kan vormen.<\/p>\n

Daarom concludeert de AP dat er zeer voorzichtig moet worden omgegaan met het gebruik en toestaan van dit soort toepassingen, om risico\u2019s op discriminatie en inperking van de menselijke autonomie en waardigheid te minimaliseren. Wolfsen: \u201eEmoties raken sterk aan je menselijke autonomie. Als je emoties wilt herkennen, moet dat dan ook zeer zorgvuldig en op basis van betrouwbare technologie gebeuren.\u201d Daar is momenteel volgens Wolfsen nu vaak geen sprake van. <\/p>\n


\n