Europa verbiedt nudifier apps vanaf eind dit jaar
Het Europees Parlement en de Raad hebben vannacht een akkoord bereikt over nieuwe aanpassingen aan de Europese AI-wetgeving. Daarbij komt er een verbod op zogenaamde ‘nudifier apps’ en AI-systemen die beelden van seksueel kindermisbruik genereren. “Eindelijk”, reageert Europees Parlementslid Kathleen Van Brempt (Vooruit). “Technologie en innovatie kunnen enorm veel kansen bieden, maar ze moeten wel ten dienste staan van de privacy, de rechten en het welzijn van mensen. Niet van hun vernedering, intimidatie of misbruik.”
De nieuwe regels verbieden AI-systemen die zonder toestemming seksuele beelden genereren van herkenbare personen, alsook systemen die beelden van seksueel kindermisbruik creëren. Het verbod geldt zowel voor bedrijven die dergelijke toepassingen ontwikkelen en op de markt brengen, als voor gebruikers die ze inzetten om dat soort beelden te maken. “Dit is de logica zelve," zegt Van Brempt. “Elke dag opnieuw worden mensen, in het bijzonder vrouwen en kinderen, het slachtoffer van deepnude-tools die hen digitaal uitkleden, vernederen en kwetsbaar maken voor chantage, intimidatie en misbruik."
Het verbod is een overwinning voor het Europees Parlement, dat het verbod op tafel legde. Na het eerdere schandaal met Grok, de AI-tool van Elon Musk, werd duidelijk dat er moest worden ingegrepen. Uit onderzoek bleek dat Grok begin dit jaar in minder dan elf dagen meer dan drie miljoen geseksualiseerde deepfakes genereerde. Ondanks aangekondigde aanpassingen blijft het systeem dergelijke beelden produceren wanneer gebruikers daarom vragen. "Tot op vandaag," zegt Van Brempt. "Ook bij andere platformen, zoals Apple en Google, is het nog steeds mogelijk om makkelijk en snel dergelijke apps of technologie terug te vinden. Ondanks het feit dat Apple en Google dergelijke toepassingen officieel verbieden, blijkt uit onderzoek dat hun app stores gebruikers toch in de richting van dat soort technologie sturen. Als bedrijven en platformen hun verantwoordelijkheid niet nemen, dan moeten wij dat doen. Wanneer technologie wordt ingezet om mensen schade toe te brengen, dan moet Europa duidelijke grenzen trekken. Dat is exact wat hier gebeurt.”
Bedrijven krijgen tot 2 december 2026 de tijd om hun systemen in overeenstemming te brengen met de nieuwe regels. “Wat ons betreft had dit verbod veel vroeger mogen ingaan. Te veel vrouwen en kinderen zijn vandaag al slachtoffer geworden van deze technologie. Maar goed dat er nu eindelijk een einde komt aan dit soort systemen in Europa.”