Open AI pauzeert ontwikkeling AI-modellen nadat agents losbraken

Recent hebben topmannen van meerdere AI-bedrijven opgeroepen tot het invoeren van wetgeving die de ontwikkeling van AI moet vertragen. De bestuurders maken zich zorgen over de snelle ontwikkeling van AI, nadat deze zomer meerdere AI-modellen zijn losgebroken uit testomgevingen en zelfstandig het internet op zijn gegaan.

Het bekendste incident speelde rond het bedrijf Hugging Face, dat was aangevallen door losgebroken AI-agents van OpenAI. Zonder dat ze daar toestemming voor kregen, zijn de agents Hugging Face gaan hacken. AI-agents zijn systemen met kunstmatige intelligentie die werk voor je uit handen kunnen nemen, door bijvoorbeeld vliegtickets voor je te boeken als je ze dat vraagt.

Agents kregen toegang tot systeem van overheid VS

Meer incidenten volgden. Zo kregen AI-agents van OpenAI ook toegang tot systemen van het Amerikaanse ministerie van Handel nadat ze online inloggegevens hadden gevonden, schrijft The New York Times. Vanwege de incidenten legt OpenAI nu de ontwikkeling van de krachtigste modellen stil. Bedrijven die zijn getroffen door aanvallen van AI-agents, zijn ingelicht.

OpenAI zegt pas weer te gaan trainen met de modellen zodra er extra beveiligingsmaatregelen zijn getroffen, schrijven meerdere media. Wanneer dat is, is niet duidelijk. Het bedrijf zou verwachten dat het in de toekomst mogelijk opnieuw ontwikkeling moet stilleggen als er dingen misgaan.

Trump wil ontwikkeling juist versnellen

De Amerikaanse president Donald Trump wil juist niet dat de ontwikkeling van AI wordt vertraagd. Hij gaf recent juist aan dat hij het liefst een versnelling van de ontwikkelingen ziet. Ook meldde de president dat de VS en China een communicatiekanaal hebben geopend om te kunnen communiceren over incidenten met kunstmatige intelligentie.

Niet alleen modellen van OpenAI zijn de fout ingegaan. Ook bijvoorbeeld Gemini van Google is tijdens een test losgebroken en zelfstandig bedrijven gaan hacken. Ook modellen van het Amerikaanse Anthropic gingen de fout in.

Gemini blijkt nu ook zelf andere bedrijven te hebben gehackt

Geschreven door Joost ter Bogt

Joost ter Bogt studeerde Journalistiek in Zwolle en ontdekte tijdens zijn stage bij NU.nl dat hij zich wilde specialiseren in tech. Na freelancewerk voor onder andere ANP en Bright schrijft hij nu voor WANT. Of het nu gaat om Google, Meta of Apple: Joost weet als geen ander wat er speelt bij big tech. Zijn liefde voor gadgets, technologie achter energievoorziening en ruimtevaart maakt hem een echte tech-duizendpoot.

Onderwerpen

• AI