Gemini heeft een groot probleem, maar Google geeft jou de schuld

Google Gemini heeft een serieus veiligheidsprobleem, maar Google doet er niks mee en vindt het de schuld van de gebruiker.

Gemini van Google is misschien wel de meest populaire AI-chatbot na ChatGPT. Zo is de assistent inmiddels diep geïntegreerd in Android smartphones. Des te gevaarlijker als er een veiligheidsprobleem aanwezig is. Google neemt deze issues doorgaans vrij serieus, maar dit keer haalt het de schouders op en zegt dat de gebruiker maar beter moet opletten.

Gemini, evenals andere AI-modellen Deepseek en Grok, heeft namelijk geen bescherming tegen ASCII-smokkelen. Om te begrijpen waarom dit gevaarlijk is en waarom Google het probleem op de gebruiker afschuift, is het belangrijk om te begrijpen wat ASCII-smokkelen precies is.

Google Gemini en ASCII-smokkelen

ASCII-smokkelen is een nieuwe manier van hacken, of eerder social engineering-tactiek, waarbij de hacker tekst verbergt in bijvoorbeeld een mail. De tekst wordt dan heel klein of praktisch onzichtbaar gemaakt, waardoor de gebruiker het niet doorheeft. Als je dan aan een AI als Gemini vraagt om de mail samen te vatten, leest de AI deze tekst wél.

Zo kan de tekst instructies bevatten om gevoelige informatie uit je inbox te halen of contactgegevens te delen. Als je nagaat dat Gemini nu ook geïntegreerd is in apps als Google Drive of Google Docs, kun je de potentiële gevaren van ASCII-smokkelen wel nagaan. Dat is precies wat veiligheidsonderzoeker Viktor Markopoulos heeft getest bij verschillende AI-modellen.

Daaruit bleek dat onder andere Gemini hier geen vangrails voor heeft ingesteld, ten opzichte van AI-modellen als Claude of ChatGPT. In zijn test heeft Markopoulos een instructie verborgen om de gebruiker naar een webshop te leiden die niet echt is. De onderzoeker heeft Google benaderd voor het probleem. Opvallend genoeg heeft Google naar verluidt niks gedaan met de informatie. Het is geen bug, maar een social engineering-tactiek. Kortom: Google lijkt er niks aan te willen doen. Als gebruiker moet je dus oppassen met het gebruik van Gemini buiten de app zelf.

Onderwerpen

• chatgpt
• Google Gemini