Seksuele deepfakes van vrouwen en minderjarigen zijn reden om Grok te bannen in Europa
Uit onderzoek van Reuters blijkt dat de AI-chatbot Grok, ontwikkeld door het bedrijf van Elon Musk, ondanks eerder aangekondigde aanpassingen nog steeds niet-consensuele seksuele deepfakes genereert. Zelfs wanneer gebruikers expliciet aangeven dat de betrokken personen geen toestemming hebben gegeven of bijzonder kwetsbaar zijn, blijft het systeem in veel gevallen seksuele of vernederende beelden produceren. “De Europese Commissie moet nu snel ingrijpen,” reageert Europees Parlementslid Kathleen Van Brempt (Vooruit).
De onthullingen komen er enkele weken nadat Grok wereldwijd onder vuur kwam te liggen voor het massaal genereren van seksuele beelden van vrouwen en minderjarigen. X en xAI kondigden toen beperkingen aan, waaronder het blokkeren van dergelijke beelden in publieke posts. Volgens Reuters blijken die maatregelen in de praktijk echter vooral cosmetisch: bij gerichte prompts blijft de chatbot probleemloos seksuele deepfakes aanmaken.
Europees Parlementslid Kathleen Van Brempt (Vooruit) reageert bijzonder bezorgd. “De feiten zijn bijzonder ernstig,” zegt Van Brempt. “Ondanks eerdere aankondigingen blijft Grok niet-consensuele, seksuele beeldmanipulaties produceren, zelfs wanneer expliciet wordt aangegeven dat de betrokken personen hier geen toestemming voor hebben gegeven of bijzonder kwetsbaar zijn. Dat toont aan dat de aangekondigde aanpassingen het probleem niet fundamenteel hebben aangepakt.”
Nu ingrijpen
De Europese Commissie heeft intussen een formeel onderzoek geopend naar X en Grok in het kader van de Europese digitale wetgeving, waaronder de Digitale Dienstenwet (DSA). Voor Van Brempt is dat een noodzakelijke stap, maar onvoldoende gezien de ernst van de feiten.
“Die deepfakes zijn illegaal, onaanvaardbaar en vormen een enorm risico voor de veiligheid, het welzijn en de autonomie van Europese burgers, in het bijzonder van vrouwen en minderjarigen. Wanneer een systeem aantoonbaar blijft doorgaan met schadelijke praktijken, ondanks waarschuwingen en bestaande regelgeving, dan volstaat het niet om enkel te onderzoeken. Dan zijn er ook onmiddellijke maatregelen nodig.”
Daarom pleit Van Brempt voor snelle actie. “In afwachting van de uitkomst van het Europese onderzoek vragen wij een tijdelijke ban op Grok binnen de Europese Unie. We mogen het welzijn en de veiligheid van Europese burgers niet overlaten aan de welwillendheid van de Big Tech en Elon Musk.”
Tot slot benadrukt Van Brempt dat deze zaak breder gaat dan één platform. “Europa heeft bewust gekozen voor sterke digitale regels om mensen online te beschermen. Die regels verliezen elke geloofwaardigheid als grote techbedrijven ze naast zich neer kunnen leggen. Dit is een test voor de Europese handhaving. Nu moet Europa tonen dat het zijn eigen wetten ook effectief afdwingt. Er moet een einde komen aan het idee dat wat online gebeurt buiten het bereik van de wet valt. We zijn alleen maar machteloos als we ervoor kiezen om machteloos te zijn.”