AI heeft veel beroepsgroepen een enorme boost gegeven in productiviteit en soms ook in kwaliteit. Meestal is dat positief, maar ook kwaadwillenden weten de chatbots te vinden. Zo heeft Google laten weten dat hun model Gemini ook behoorlijk populair is bij hackers.
Zo valt te lezen in een nieuw rapport van de Google Threat Intelligence Group. Dit cyberdreigingsteam van Google onderzoekt, analyseert en publiceert informatie over digitale dreigingen wereldwijd, van ransomware tot staatsondersteunde hackgroepen.
In hun recente rapport is te lezen dat cybercriminelen en door staten gesteunde hackers (vooral hackersgroepen uit China, Iran, Noord-Korea en Rusland) actief gebruikmaken van Google’s AI-model Gemini om hun aanvallen efficiënter en overtuigender te maken.
Gemini blijkt behoorlijk populair onder hackers
Hackers gebruiken Gemini dus niet zozeer om op nieuwe manieren bij je binnen te komen. Ze zien het meer als een middel om hun productiviteit en kwaliteit te verhogen. Eigenlijk dus precies zoals bijna iedereen het gebruikt, maar dan om hackmethodes sneller, schaalbaarder en geloofwaardiger te maken.
In het rapport omschrijft Google verschillende manieren waarop hackers Gemini gebruiken. Dit begint al bij het verzamelen van informatie over doelwitten. AI helpt hen om snel informatie over bedrijven te verzamelen en die vervolgens te misbruiken.
Phishing dankzij AI een stuk overtuigender
Dat misbruik is vaak in de vorm van phishing. Zo gebruiken ze de vergaarde informatie om een zo realistisch mogelijke mail op te stellen. Ook bij het schrijven van die berichten zelf wordt veel gebruikgemaakt van AI. Met een paar prompts hebben ze een overtuigende phishingmail zonder fouten en in ontelbaar veel talen. Zo kunnen ze nog efficiënter mensen oplichten.
Hackers gebruiken Gemini dus eigenlijk precies zoals iedereen dat doet, namelijk om efficiënter hun werk te doen. Google trof zelfs prompts aan waaruit blijkt dat hackers Gemini gebruiken om hun workflow te automatiseren. Hackers zijn dus eigenlijk ook gewoon mensen die in AI een manier zien om hun werk makkelijker te maken.
Gemini is zelf ook een doelwit
Hackers gaan daarin overigens wel wat dieper dan de gemiddelde gebruiker. Zo signaleert Google ook pogingen om Gemini zelf te kopiëren. Onderzoekers zagen gevallen waarin meer dan 100.000 prompts werden gebruikt in een poging om het modelgedrag systematisch te analyseren en te repliceren. Een techniek die bekendstaat als model-extractie.
Dat is niet alleen een intellectueel-eigendomsprobleem, maar ook een veiligheidsrisico: hoe meer inzicht kwaadwillenden krijgen in de werking van zo’n model, hoe gerichter ze beveiligingsmaatregelen kunnen omzeilen. En dat is niet de enige manier waarop ze AI op een meer technische manier misbruiken.
Nieuwe dreigingen en oplossingen
Een ander aandachtspunt is zogeheten indirecte prompt-injectie. Daarbij wordt AI misleid via ogenschijnlijk onschuldige documenten, e-mails of agenda-uitnodigingen. Hierin zitten verborgen instructies verstopt, waardoor het model onbedoelde acties uitvoert die de gebruiker niet heeft bedoeld. Zeker met de opkomst van AI-browsers is dit een groeiende zorg.
Om al deze vormen van misbruik tegen te gaan, blokkeert Google verdachte accounts en API-toegang en sluit het kwaadaardige infrastructuur af. Via zijn dreigingsteam monitort het bedrijf actief hoe hackers Gemini inzetten en past het detectiesystemen daarop aan.
Daarnaast heeft Gemini ingebouwde veiligheidsfilters die verzoeken om malware of exploitcode moeten weigeren, en worden grootschalige of afwijkende promptpatronen gedetecteerd. Ook werkt Google aan extra bescherming tegen prompt-injectie en model-extractie, om te voorkomen dat het AI-systeem zelf wordt misbruikt of gekopieerd.
Blijf scherp
Ze zitten bij Google dus niet stil, maar voor je eigen veiligheid is het vooral belangrijk dat je zelf scherp bent. Door AI is het niveau van phishing flink omhoog gegaan en is het vaak niet meer overduidelijk dat het om een nepmail gaat. Wees je er dus van bewust dat niet alleen jij je werk beter kunt doen dankzij AI, maar hackers ook.
Over de auteur
