Nieuwe incidenten bewijzen nood aan sneller en strenger optreden tegen Grok van Elon Musk

De problemen met Grok blijven zich opstapelen. Ondanks waarschuwingen en eerdere beloftes blijft de AI-chatbot van Elon Musk seksuele deepfakes genereren van vrouwen en kinderen. “Elke seconde dat we wachten met ingrijpen, aanvaarden we dat onschuldige mensen het slachtoffer worden van het misbruik van deze technologie en de weigering van xAI om daartegen op te treden,” zegt Europees Parlementslid Kathleen Van Brempt (Vooruit). “Het is tijd voor een strengere aanpak.” 

De AI-chatbot Grok, ontwikkeld door het bedrijf xAI van Elon Musk en geïntegreerd in het platform X, ligt al maanden onder vuur. In januari kwam de chatbot in opspraak nadat ze op grote schaal seksueel expliciete deepfakes genereerde van vrouwen en minderjarigen. Uit onderzoek bleek dat Grok begin dit jaar in minder dan elf dagen meer dan drie miljoen geseksualiseerde deepfakes genereerde. Ondanks aangekondigde aanpassingen blijft het systeem dergelijke beelden produceren wanneer gebruikers daarom vragen. “In plaats van de functie uit te schakelen, heeft xAI ze gewoon beperkt tot betalende gebruikers,” zegt Van Brempt. “Dat Musk met zijn ‘pay-to-play’-model geld verdient op de rug van slachtoffers, vrouwen en kinderen is ronduit ranzig en schandalig.”

Volgens Van Brempt zijn de feiten bijzonder ernstig. “We spreken over het systematisch genereren van seksuele deepfakes van vrouwen en minderjarigen zonder toestemming. Maar daar stopt het niet.” Afgelopen weekend genereerde de chatbot op X ook wansmakelijke berichten over tragedies in het voetbal, waaronder het Heizeldrama en de vliegramp van München. In een ander bericht werd zelfs de overleden Liverpool-spits Diogo Jota geviseerd. De betrokken clubs moesten het platform vragen om de berichten te verwijderen. Sommige posts waren toen al miljoenen keren bekeken.

Lopende onderzoeken

De Europese Commissie opende begin dit jaar een onderzoek naar X en Grok in het kader van de Europese digitale wetgeving. Ook nationale autoriteiten zijn intussen in actie gekomen. Spanje, Frankrijk en Ierland startten onderzoeken naar mogelijke inbreuken op de wetgeving door het platform en zijn AI-chatbot. “Het probleem is dat die procedures tijd vragen, terwijl de schade gewoon blijft opstapelen. Dat is onaanvaardbaar,” zegt Van Brempt. 

“Zelfs als de berichten uiteindelijk worden verwijderd - en dat is vaak niet het geval, is de schade al aangericht. De onderzoeken zijn noodzakelijk, maar de impact en de ernst van de feiten zijn zo groot dat we niet kunnen wachten tot die onderzoeken zijn afgerond. Het is hoog tijd dat Europa strengere maatregelen treft om de schade te beperken en het misbruik een halt toe te roepen.” 

Deepfakes verbieden

Vandaag is het verspreiden van seksueel getinte beelden zonder toestemming in veel gevallen al verboden. Volgens Van Brempt moet Europa een stap verder gaan. “Niet alleen de verspreiding, maar ook het maken van seksuele deepfakes expliciet verboden worden. Anders blijven we achter de feiten aanlopen.”

Ze verwijst daarbij naar wetgeving in Ierland. “Met de zogenaamde Coco’s Law heeft Ierland belangrijke stappen gezet om het maken en verspreiden van intieme beelden zonder toestemming strafbaar te maken,” zegt Van Brempt. Die wet werd genoemd naar Nicole ‘Coco’ Fox, een tiener die zichzelf van het leven beroofde nadat ze jarenlang het slachtoffer was van zware online pesterijen. 

Vandaag getuigde haar moeder, Jackie Fox, in het Europees Parlement over de impact van cyberpesten en digitaal geweld. Ze riep de Europese instellingen op om de bescherming tegen online misbruik uit te breiden naar heel Europa.

Platformen verantwoordelijk

Maar ook de platformen zelf dragen verantwoordelijkheid. “Eigenlijk zegt het al genoeg dat xAI het genereren van seksuele deepfakes niet onmogelijk maakt, maar simpelweg beperkt tot betalende gebruikers,” zegt Van Brempt. “Dat toont dat ze perfect weten wat er gebeurt. De technologie kan worden aangepast. Ze kiezen er alleen voor om dat niet te doen. Platforms bepalen wat hun systemen wel en niet kunnen. Als ze dergelijk misbruik toestaan, moeten ze daar ook verantwoordelijkheid voor nemen.”

Volgens Van Brempt moet Europa nu durven ingrijpen. “De Digitale Dienstenwet geeft lidstaten de mogelijkheid om op te treden wanneer een platform ernstige risico’s vormt voor de veiligheid en de rechten van burgers. We moeten die instrumenten ook durven gebruiken. In afwachting van de uitkomst van het Europese onderzoek, en zolang xAI geen doortastende maatregelen neemt, is het perfect legitiem om het gebruik van Grok in de Europese Unie tijdelijk te beperken of te bannen.”

De Europese Commissie kan zich daarbij niet langer verschuilen achter de handhaving door de lidstaten. “We staan sterker wanneer Europa gezamenlijk optreedt,” zegt ze. “De Commissie had al lang een voorstel kunnen voorbereiden. Het wordt hoog tijd dat ze dat nu ook doet. De veiligheid van Europese burgers mag nooit afhangen van de goodwill van Big Tech of Elon Musk.”