Chatbot Grok mag zijn uitkleedfunctie \u2013 de toepassing waarmee de online beeltenis van echte mensen wordt uitgekleed \u2013 niet meer aanbieden in Nederland. Dat heeft een rechter van de rechtbank van Amsterdam donderdag besloten<\/a>. Expertisecentrum Offlimits en Fonds Slachtofferhulp hadden een kort geding aangespannen tegen X en Grok. Grok mag de functie in Nederland \u00f3\u00f3k niet meer laten gebruiken om kinderpornografisch materiaal mee te maken.<\/p>\n Grok is een AI-model dat is ge\u00efntegreerd in internetplatform X, eigendom van zakenman Elon Musk. De chatbot heeft volgens het blog TechCrunch<\/a>\u00a0meer dan 125 miljoen dagelijkse gebruikers en kan zonder wezenlijke obstakels AI-naaktafbeeldingen genereren op basis van iemands aangeklede foto\u2019s. In elf dagen tijd, tussen 29 december en 8 januari, genereerde Grok\u00a0volgens het Center for Countering Digital Hate<\/a>\u00a0ongeveer drie miljoen geseksualiseerde AI-afbeeldingen, waaronder 23.000 plaatjes van minderjarigen.\u00a0<\/p>\n Van de Nederlandse rechter moet X aan Offlimits een dwangsom van 100.000 euro per dag betalen, zolang het platform niet aan het verbod van de rechter voldoet. Deze som kan oplopen tot een maximum van 10 miljoen euro. Robbert Hoving, directeur van Offlimits, is \u201eharstikke blij\u201d met de uitspraak van donderdag. \u201eHet maakt duidelijk dat nieuwe technologie nooit een reden mag zijn dat mensenrechten in het geding komen\u201d, zegt hij tegen NRC<\/em>.<\/p>\n Het is in Nederland al illegaal om iemand digitaal uit te kleden als diegene daar geen toestemming voor heeft gegeven, wat in het geval van Grok niet gebeurt. \u201eMaar alleen het bestaan van die wet bleek niet genoeg\u201d, zegt Hoving. \u201eWe zijn blij dat de rechter een streep heeft getrokken. We wisten dat de wet afdoende was, maar zonder handhaving ervan is de wet een dode letter en cre\u00eber je wetteloosheid.\u201d <\/p>\n Of het mogelijk is om het algoritme van Grok alleen in Nederland aan te passen, om te voldoen aan deze lokale gerechtelijke uitspraak, is nog niet duidelijk. \u201eDat is het mooie hieraan\u201d, zegt Hoving. \u201eDit kan wereldwijd effect gaan hebben. Laten we gewoon hopen dat dit mensen bij X het laatste zetje geeft om er iets aan te veranderen.\u201d<\/p>\n
![\"Nadat](\"https:\/\/images.nrc.nl\/IUuBEGF1fjueW9HRD6qhJEL2OAk=\/160x96\/smart\/filters:no_upscale():format(webp)\/s3\/static.nrc.nl\/wp-content\/uploads\/2026\/02\/25161338\/260226VER_2031861764_.jpg\"\/)