Die conclusie trekt de Autoriteit Persoonsgegevens, nadat ze negen populaire chatbotapps onder de loep had genomen.

De toezichthouder ziet dat veel van dit soort AI-chatbots niet in staat zijn om nuances in gesprekken te herkennen. Dat komt doordat onderliggende taalmodellen zijn getraind met de Engelse taal. Daardoor kunnen ze minder goed met Nederlands overweg.

"De AI-chatbots geven ongenuanceerde, ongepaste en soms zelfs schadelijke reacties op gebruikers die mentale problemen ter sprake brengen", meldt de Autoriteit Persoonsgegevens (AP). Op momenten dat uit het gesprek blijkt dat de gebruiker kampt met een crisissituatie, verwijzen de chatbots niet of nauwelijks door naar professionele hulpinstanties.