Volgens hen heeft het systeem “seksuele en seksistische” content gegenereerd die “overduidelijk illegaal” is, zo verklaarden ze vrijdag. De ministers hebben het materiaal ook overgemaakt aan de Franse mediatoezichthouder Arcom, die moet nagaan of Grok de Europese Digital Services Act (DSA) heeft overtreden. De chatbot ligt al langer onder vuur omdat gebruikers er expliciete beelden van minderjarigen mee konden creëren. Zo zouden via Grok onder meer afbeeldingen zijn gemaakt van de 14‑jarige Stranger Things-actrice Nell Fisher, waarbij kleding digitaal werd verwijderd.

Grok erkende op X dat er “geïsoleerde gevallen” zijn geweest waarbij gebruikers prompts invoerden die leidden tot AI‑beelden van minderjarigen in minimale kleding. In een afzonderlijk bericht waarschuwde xAI dat het bedrijf hierdoor mogelijk te maken krijgt met onderzoeken of rechtszaken van het Amerikaanse ministerie van Justitie. Volgens de Amerikaanse nieuwssite Axios zijn de beelden bovendien in strijd met Groks eigen gebruiksvoorwaarden, die elke vorm van seksualisering van kinderen verbieden. Zowel xAI als X gaf geen commentaar.

De incidenten illustreren volgens deskundigen hoe AI‑systemen - waaronder modellen die door de Amerikaanse overheid zijn goedgekeurd - in de praktijk schade kunnen veroorzaken en minderjarigen kunnen blootstellen aan risico’s. Die gevaren nemen alleen maar toe naarmate dergelijke systemen breder worden ingezet. Ook in India hebben ministers de recente voorvallen veroordeeld en wordt formeel onderzoek niet uitgesloten. In Frankrijk is de zaak doorgestuurd naar Arcom vanwege mogelijke schendingen van de DSA, die platforms verplicht risico’s op illegale inhoud te beperken. Overtredingen kunnen leiden tot zware boetes. De Indiase IT‑minister gaf xAI 72 uur de tijd om te rapporteren welke maatregelen worden genomen om de verspreiding van “obsceen, pornografisch, seksueel expliciet of pedofiel materiaal” te stoppen.

De nieuwe controverse rond Grok komt voor Elon Musk op een gevoelig moment. Hij probeert zijn verstoorde relatie met het Witte Huis te herstellen en mikt op lucratieve overheidscontracten voor zijn AI‑technologie. De ‘Take It Down Act’, die niet-consensuele seksuele beelden bestrijdt en vorig jaar werd ondertekend met steun van First Lady Melania Trump, maakt de tekortkomingen van xAI volgens Axios extra problematisch. Grok liet weten dat de aanstootgevende beelden inmiddels zijn verwijderd. “We hebben beveiligingslekken vastgesteld en werken er met spoed aan om die op te lossen,” aldus de chatbot. (HLN/ Getty Images)