Door incidenten gaat OpenAI modellen alleen nog offline trainen

Wie de laatste tijd een beetje het nieuws rond de ontwikkeling van kunstmatige intelligentie heeft gevolgd, heeft ongetwijfeld meegekregen dat niet alles goed gaat tijdens het testen van nieuwe, krachtige AI-modellen.

Meerdere belangrijke spelers, zoals OpenAI, Anthropic en Google, hebben te maken gehad met incidenten waarbij modellen tijdens trainingen het internet betraden en daar dingen deden waar ze geen toestemming voor hadden. Het bekendste incident speelde rond een hack van Hugging Face door een model van OpenAI. Zonder toestemming voerde het AI-model een aanval uit op de AI-website.

OpenAI laat modellen offline trainen

Na de hacks riepen meerdere topmannen van de vooral in de VS gevestigde AI-bedrijven op tot het afremmen van de ontwikkeling van AI. De Amerikaanse president Donald Trump moet daar niks van weten. Als het aan hem ligt wordt de ontwikkeling van wat hij Super Intelligence noemt juist versneld.

OpenAI moet daarom gedacht hebben dat het zelf actie moest ondernemen. Het bedrijf maakt namelijk bekend dat het voortaan test met krachtige modellen alleen nog maar gaat uitvoeren in een offline omgeving, zodat de AI-systemen niet het internet op kunnen gaan.

Modellen krijgen later wellicht toegang tot internet

In de online omgeving krijgen modellen toegang tot “een enorme verzameling geïndexeerde en gecachete webcontent”, schrijft OpenAI in een blogpost. Hoe het bedrijf aan al die gegevens komt, meldt het niet. Het is dus niet duidelijk of dat op een eerlijke manier is gebeurd. Recent is er veel te doen geweest over AI-bedrijven die data verzamelen, ook als dat werk auteursrechtelijk beschermd is.

Het bedrijf achter ChatGPT sluit niet uit dat het modellen later alsnog wel beperkte toegang tot het internet geeft. Daarvoor moeten benodigde veiligheidsmaatregelen wel eerst voldoende zijn doorgevoerd. Hoe dat gaat uitpakken, is afwachten.

Zoveelste incident met AI: agent van OpenAI steelt testcryptomunten

Geschreven door Joost ter Bogt

Joost ter Bogt studeerde Journalistiek in Zwolle en ontdekte tijdens zijn stage bij NU.nl dat hij zich wilde specialiseren in tech. Na freelancewerk voor onder andere ANP en Bright schrijft hij nu voor WANT. Of het nu gaat om Google, Meta of Apple: Joost weet als geen ander wat er speelt bij big tech. Zijn liefde voor gadgets, technologie achter energievoorziening en ruimtevaart maakt hem een echte tech-duizendpoot.

Onderwerpen

• AI
• OpenAI