Grok, de AI die je onder andere op het social medium X kunt vinden, is al enige tijd het doelwit van kritiek omdat het zich onder andere antisemitisch zou uitdrukken. Je kunt met Grok ook afbeeldingen laten genereren en daar wordt de laatste tijd volop over geklaagd: het wordt namelijk gebruikt om deepfake naaktbeeld te maken van zowel volwassenen als kinderen.
Zonder toestemming wordt xAI’s Grok ingezet om mensen op foto’s uit te kleden en dat is voor volwassenen al problematisch, maar het blijkt ook te werken op kinderen. Op X kun je direct een afbeelding aanpassen zonder dat je de toestemming van de originele plaatser van die afbeelding nodig hebt. Stel dus dat je een foto op X zet van jezelf in een kersttrui van je kerstdiner van vorige week, dan kan iemand anders op X die foto pakken en laten ontkleden zonder dat je hier ooit een melding van krijgt.
Grok
De laatste week is het schering en inslag met het aantal naaktfoto’s wat de AI van Elon Musk maakt. Vooral vrouwen en kinderen moeten het ontgelden: zij worden volop naakt, in bikini en zwanger weergegeven. Niet alleen onbekend mensen, maar ook wereldleiders en beroemdheden krijgen deze behandeling.
Volgens AI-authenticatiebedrijf Copyleaks zou het een enorme trend zijn die is ingezet door de pornoindustrie. Mensen die pornografische content maakten vroegen Grok om sexy afbeeldingen van zichzelf te maken en toen was al gauw het hek van de dam. Echter ging het al gauw om foto’s van mensen die daar geen toestemming voor hadden gegeven.
Schaars geklede 12-jarigen
In een X-bericht, dat inmiddels van het platform is verwijderd, bewerkte Grok een foto van twee jonge meisjes in schaarse kleding en seksueel suggestieve poses. Een X-gebruiker wilde dat Grok excuses aanbood voor dit “incident”, en gaf aan dat dit een enorm falen van de veiligheidsmaatregelen is en dat het zowel in strijd is met het beleid van xAI als met de Amerikaanse wetgeving. De meisjes waren waarschijnlijk 12 tot 16 jaar oud.
Het is iets dat absoluut moet worden aangepakt door Grok, want het valt onder kinderporno, ook als de persoon in kwestie er toestemming voor heeft gegeven. Bovendien moet X zich achter de oren krabbelen en bedenken of het een platform wil zijn dat hiermee, ook bij volwassenen, geassocieerd wil worden.
Lees meer over AI.
Over de auteur
