De webwinkel heeft de beelden verwijderd voordat er modellen mee zijn getraind en er melding van gemaakt. Het Amerikaanse meldpunt NCMEC kreeg vorig jaar vijftien keer zoveel AI-gerelateerde meldingen als in 2024. De meeste van die meldingen kwamen van Amazon.

Een woordvoerder van Amazon stelt dat de trainingsdata van externe bronnen komen en dat het bedrijf geen details heeft die kunnen worden gebruikt bij onderzoek naar de herkomst ervan. De webwinkel zegt in een verklaring zijn uiterste best te doen om materiaal met betrekking tot seksueel misbruik van kinderen te voorkomen. Bedrijven zijn in de competitieve AI-race op zoek naar enorme hoeveelheden data om hun modellen te trainen. Daarbij wordt veel gebruikgemaakt van openbare bronnen op het internet. De risico's worden niet altijd overzien. Het trainen van kunstmatige intelligentie met bijvoorbeeld beelden van kindermisbruik kan tot gevolg hebben dat een model vergelijkbare beelden maakt. Andere grote technologiebedrijven hebben hun trainingsdata ook gescand en mogelijk misbruikmateriaal gemeld aan NCMEC. Zij deden slechts een handvol meldingen en gaven volgens een woordvoerder van het meldpunt wél meer details over de herkomst van het materiaal. (NU)