Met de komst van generatieve AI overspoelen chatbots de App Store. Uit onderzoek blijkt dat veel van deze apps niet verantwoord met jouw persoonsgegevens omgaan, want miljoenen gesprekken, mailadressen en gebruikersnamen liggen op straat.
Het gaat om het onderzoek van CovertLabs, genaamd het Firehound project. In dit online portaal staan 191 iOS-app geregistreerd die volgens de onderzoekers informatie van gebruikers blootstellen. Dit komt onder meer door slecht beveiligde databases en cloudopslag. Op twee apps na lekken ze ook allemaal bewust persoonsgegevens.
Bijna 200 AI-apps lekken miljoenen documenten
Tweehonderd apps klinkt misschien weinig in vergelijking met de miljoenen apps in de App Store. De top tien apps delen al 1 tot 17 miljoen bestanden en gevoelige documenten. Het risico is dus enorm, zeker vanwege de vaak gevoelige aard van vragen die gebruikers aan AI-chatbots stellen. Voor miljoenen gebruikers is dan ook de volledige chatgeschiedenis gedeeld.
© CovertLabsHet gaat vooral om zogeheten AI Slop-apps. Zo worden de applicaties genoemd die ondermaats ontwikkeld zijn en die qua privacy niet meekunnen met de grote jongens als ChatGPT, Gemini en Copilot. De apps met de meeste gelekte gegevens zijn onder meer GenZArt, YPT – Study Group, Song AI Generator en Chatbot AI.
Wie van deze apps gebruikmaakt wordt geadviseerd alle accounts te verwijderen waar mogelijk en de apps te deïnstalleren. De ontdekkingen van het Firehound project zijn volgens de onderzoekers reden genoeg om beter te overwegen welke apps je wel en niet downloadt. In een tijd waarin AI ook helpt bij het maken en vormgeven van zulke apps, is een degelijk systeem met goede beveiliging niet langer vanzelfsprekend.
Over de auteur
