Gemini blijkt nu ook zelf andere bedrijven te hebben gehackt

De afgelopen tijd hebben meerdere topfiguren in de AI-wereld opgeroepen de ontwikkeling van kunstmatige intelligentie te vertragen. Ze vinden dat nodig omdat ze zich zorgen maken over de snelle ontwikkeling van AI en eventuele negatieve gevolgen daarvan.

De gevolgen kunnen ernstig zijn, vrezen ze. “Het gaat onder meer om het risico op verlies van controle over AI-systemen, misbruik van AI voor cyberaanvallen en bioterrorisme, en ernstige economische ontwrichting”, schreef Anthropic-ceo Dario Amodei in een essay. Naast Amodei riep ook OpenAI-topman Sam Altman op tot een vertraging van de ontwikkelingen.

AI-modellen voeren zelfstandig hacks uit

De scheurtjes in het optimisme over AI bij de bedrijven ontstonden misschien wel toen eerder dit jaar bleek dat meerdere AI-modellen zelfstandig bedrijven hadden gehackt. Zo braken modellen van OpenAI bijvoorbeeld in bij softwarebedrijf Hugging Face, zonder dat dat de bedoeling was en een mens het model daartoe had aangezet.

Nu blijkt dat ook Gemini, het AI-model van Google dat ook door veel consumenten wordt gebruikt, tijdens een test de fout in is gegaan en een bedrijf heeft gehackt. Dat gebeurde in mei toen het Israëlische bedrijf Irregular het model in een gesloten omgeving aan het testen was, meldt The Wall Street Journal. Nadat het AI-systeem onbedoeld toegang had gekregen tot het internet, is het drie bedrijven gaan hacken.

Google zei niks omdat hacks geen schade veroorzaakten

Google bevestigt het nieuws over de hack door Gemini nu pas, terwijl het al in juli door Irregular op de hoogte is gebracht. Dat doet het naar eigen zeggen omdat tijdens de hacks geen schade is toegebracht aan de getroffen bedrijven. Die bedrijven zelf zijn wel eerder op de hoogte gebracht.

Veel belangrijke AI-bedrijven komen uit de Verenigde Staten. President Donald Trump liet eerder weten weinig te zien in regelgeving die AI-ontwikkeling moet afremmen. Het is daarom maar de vraag of er ook daadwerkelijk een vertraging komt in die ontwikkelingen.

Achtergrond: AI ontwikkelt zich te snel volgens kopstukken, maar Trump en Nvidia rennen alleen maar harder

Geschreven door Joost ter Bogt

Joost ter Bogt studeerde Journalistiek in Zwolle en ontdekte tijdens zijn stage bij NU.nl dat hij zich wilde specialiseren in tech. Na freelancewerk voor onder andere ANP en Bright schrijft hij nu voor WANT. Of het nu gaat om Google, Meta of Apple: Joost weet als geen ander wat er speelt bij big tech. Zijn liefde voor gadgets, technologie achter energievoorziening en ruimtevaart maakt hem een echte tech-duizendpoot.

Onderwerpen

• AI