Begin januari ontstond er wereldwijd enorme commotie rondom Grok, de AI-bot van X, die zonder pardon naaktbeelden genereerde. Groks mogelijkheden worden afgezwakt, maar wie denkt dat de strijd tegen AI-naaktfoto’s daarmee gestreden is, heeft het mis. De App Store en Play Store staan namelijk nog bomvol met AI-apps die hetzelfde kunnen.
De App Store van Apple en de Google Play Store beloven gecontroleerde plekken te zijn, waar gebruikers alleen veilige apps kunnen downloaden. Je verwacht er geen apps die met malware zijn geïnfecteerd of apps die schadelijke inhoud bevatten, maar helaas blijkt dat in de praktijk keer-op-keer anders.
Vermomd als leuke app, maak je in één klik naaktbeelden
De website Tech Transparency Project deed onderzoek naar de appwinkels en ontdekte minstens 55 apps bij Google en 47 apps bij Apple die mensen (deels) kunnen uitkleden. Veel van deze apps vermommen zich als AI video generator, om van foto’s leuke dansvideo’s te maken. Van buiten oogt het daarom onschuldig, maar de sjablonen in de app kunnen veel meer dan in de appwinkels wordt beloofd.
Voorbeelden zijn DreamFace, Collart, WonderSnap en Bodiva. Allemaal apps die gratis en binnen enkele klikken de kleding van vrouwen verwijderden. De meeste onderzochte apps hebben in de gebruikersovereenkomst staan dat het maken van naaktbeelden of andere onethische inhoud verboden is, maar ze houden de gebruiker allesbehalve tegen.
© Tech Transparency ProjectAndere apps vermommen zich als Face Swap of AI-verkleed apps. Normaal plak je jouw hoofd op die van een vriend, of pas je een trui die je op het oog hebt. Het onderzoek van TTP laat echter zien dat je niets je ervan weerhoudt om iemands hoofd op het lichaam van een naaktmodel te plakken. En in plaats van een trui verwisselen, gum je hem zo weg, met een naaktbeeld als gevolg.
Naar aanleiding van het onderzoek heeft Google 31 van de apps verwijderd en Apple 27. Volgens de statistiek-tool AppMagic hebben zijn alle apps gezamenlijk ruim 700 miljoen keer gedownload en hebben ze zo’n 117 miljoen dollar opgehaald. En Apple en Google verdienen daar ook aan, want voor iedere in-app-aankoop, krijgen zij zo’n 30 procent.
Tegen Grok begint de Europese Unie een gerechtelijke procedure om een verbod op de AI-chatbot in de EU af te dwingen. Het probleem van de app-winkels lijkt echter dat zij de opkomst van zulke AI-apps niet kunnen bijhouden. Wanneer er eentje wordt verwijderd, staat de ander al klaar om gedownload te worden. En het review-proces van deze apps blijkt grandioos te falen.
Over de auteur
