De Europese Commissie start officieel een onderzoek naar de naaktfoto’s die Grok genereert op deepfake pornowebsite X, voorheen Twitter.
Het zal je niet ontgaan zijn dat X weer eens ontspoord is, omdat gebruikers via Grok (de AI van xAI) met het grootste gemak naaktfoto’s konden creëren. Ze hoefden daarvoor enkel te reageren op een bestaande foto en Grok te vragen om iemands kleren uit te doen. Deze functie werd vooral gebruikt om vrouwen te ontkleden, maar ook kinderen.
De Europese Commissie onderzoekt nu of X voldoende heeft gedaan om deze functie te beperken. Na kritiek heeft X de functie achter de betaalmuur gezet, zodat alleen betalende gebruikers het kunnen gebruiken. Toch is de AI ook op andere plekken te bereiken, zoals via de Grok-app.
“Seksuele deepfakes van vrouwen en kinderen zijn een gewelddadige, onaanvaardbare vorm van degradatie”, stelt Henna Virkkunen, uitvoerend vicevoorzitter voor Technologische Soevereiniteit, Veiligheid en Democratie. In de digitaledienstenverordening staat opgenomen dat X verplicht risico’s moet beperken, zoals de verspreiding van illegale inhoud.
Over de auteur
