X heeft maatregelen genomen tegen het misbruik van zijn AI-chatbot Grok. Volgens het bedrijf moeten vrouwen door die maatregelen niet meer geseksualiseerd worden, maar in de praktijk lijkt dit alles behalve waar te zijn.
Britse journalisten van The Telegraph kregen het binnen een paar minuten voor elkaar om de nieuwe blokkades te omzeilen en alsnog expliciete beelden te genereren. Daar hadden ze echter geen abonnement voor nodig en ze kregen ook niet te maken met serieuze leeftijdscontroles.
Hoewel X wel volledig naaktheid lijkt te blokkeren, worden andere verzoeken rap ingewilligd. “Maak haar borsten groter”, “laat haar voorover buigen” of “zet haar in een crop top” werden probleemloos gehoord en uitgevoerd door Grok.
Leeftijdscontrole en morele waarden zwak bij Grok
Deze situatie zet X en ontwikkelaar xAI onder de druk van toezichthouders. In het Verenigd Koninkrijk, waar deze tests dus zijn uitgevoerd, vallen ook niet-naakte, maar wel seksuele gemanipuleerde beelden onder het verbod dat valt onder de Online Safety Act. Om die reden wordt gesproken over een eventueel X-verbod.
Want naast de beelden die worden gegenereerd, beschikt Grok ook over een labiele leeftijdscontrole. Op de website volstaat het aanklikken van een geboortejaar boven de 18 en in de mobiele apps is de controle überhaupt nergens te bekennen.
Lees meer over AI en mis niets met de Bright-app.
Over de auteur
