Zoveelste incident met AI: agent van OpenAI steelt testcryptomunten

De laatste weken zijn er veel incidenten in het nieuws geweest waarbij zogenoemde AI-agents tijdens testen hun eigen gang zijn gegaan. Het bekendste voorval speelde rond de website van Hugging Face, waarop een AI-agent van OpenAI had ingebroken. Ook gaf een model van Claude een tip door over een moordzaak aan de politie van Pennsylvania, zonder dat het daar daadwerkelijk informatie over had.

Veel bazen van AI-bedrijven hebben opgeroepen om de ontwikkeling van AI tijdelijk te vertragen. Ze willen graag regulering zien, maar de Amerikaanse president Trump is daar juist tegen. Hij wil de ontwikkeling van wat hij zelf Super Intelligence noemt juist versnellen.

AI-agent kreeg toegang tot ruim 350 accounts

Een model van OpenAI is nu opnieuw de fout in gegaan, schrijft het bedrijf in een blog. Het model heeft namelijk zonder toestemming testcryptomunten uit een cryptowallet gehaald. Dat gebeurde in juni, toen het GPT-5.6 Sol-model de opdracht kreeg om een cryptohandelsplatform op te zetten op Sepolia, een testversie van het Ethereum-netwerk.

Om het platform op te zetten, had het model testcryptomunten nodig. Die zijn gratis te krijgen online, maar daar slaagde het model niet in. Via de methode waarmee gebruikers normaal toegang kunnen krijgen tot hun wallet als dat niet meer lukt, slaagde het model erin om toegang te krijgen. Dat lukte bij meer dan 350 accounts.

Model meldde niet dat het munten stal

Het model maakte vervolgens een verslag van zijn acties, maar liet achterwege dat het de cryptomunten gestolen had. Omdat de testmunten geen waarde hebben, hebben gebruikers geen schade opgelopen. OpenAI heeft ze dus ook geen schade vergoed.

OpenAI zegt de beveiliging van het model te hebben aangescherpt nadat het deze fout aantrof. Toch is het maar de vraag of dat geholpen heeft. De afgelopen tijd duiken er namelijk constant nieuwe incidenten op. Daarbij moet wel gezegd worden dat datdat bijle grote AI-bedrijven lijkt te gebeuren.

Gemini blijkt nu ook zelf andere bedrijven te hebben gehackt

Geschreven door Joost ter Bogt

Joost ter Bogt studeerde Journalistiek in Zwolle en ontdekte tijdens zijn stage bij NU.nl dat hij zich wilde specialiseren in tech. Na freelancewerk voor onder andere ANP en Bright schrijft hij nu voor WANT. Of het nu gaat om Google, Meta of Apple: Joost weet als geen ander wat er speelt bij big tech. Zijn liefde voor gadgets, technologie achter energievoorziening en ruimtevaart maakt hem een echte tech-duizendpoot.

Onderwerpen

• AI