Ilona Braam | LinkedIn Tech 17 feb 2019

OpenAI’s text generator is dusdanig goed, dat hij gevaarlijk is

OpenAI is een non-profit die zich bezig houdt met kunstmatige intelligentie en als doel heeft om vredelievende AI te ontwikkelen met een positieve impact op de mensheid. Ze zijn dus niet bezig met robots die mogelijk op een gegeven moment te wereld willen overnemen of op een andere manier voor onheil zorgen. Het lijkt er echter op dat ze per ongeluk nu toch iets hebben ontwikkeld dat niet al te beste gevolgen zou kunnen hebben. Hun nieuwe text generator blijkt namelijk dusdanig goed in elkaar te steken, dat hij zelfs gevaarlijk zou kunnen zijn.

Natuurlijke en samenhangende teksten

Het nieuwe natuurlijke taal model van OpenAI gaat onder de naam GPT-2 en is onder andere getraind om het volgende woord in teksten te kunnen voorspellen. De sample bestond 40GB aan internetteksten en het resultaat is een systeem dat zich kan aanpassen aan de stijl en het onderwerp van de tekst. Hiermee zou je dus teksten kunnen genereren over een bepaald onderwerp die samenhangend zijn en door een mens geschreven lijken.

Handige bots of nare comments

Dat is natuurlijk ideaal om in te zetten bij spraakherkenningssystemen of bijvoorbeeld voor bots die zelf antwoorden moeten genereren om je op een site te helpen. Aan de andere kant kan de tech ook ingezet worden voor wat minder fijne dingen, zoals het creëren van fake nieuws, het automatisch posten van nare comments op social media of het imiteren van mensen. Dat laatste doet een beetje denken aan de Black Mirror aflevering “Be Right Back”, waarin een AI systeem de overleden vriend van een een jonge vrouw nadoet en dusdanig goed dat het toch eng wordt.

“Recyclen is slecht voor de wereld”

Een voorbeeld van hoe het mis zou kunnen gaan, is de tekst die GPT-2 heeft gegenereerd met het onderwerp “recyclen is goed voor de wereld”. Ergens is duidelijk iets misgegaan, aangezien de gegenereerde tekst begint met de woorden “Recycling is NOT good for the world”. Er wordt uiteengezet dat recycling slecht is voor het milieu, slecht is voor onze gezondheid en slecht is voor de economie. Het zou obesitas en hartziektes veroorzaken en zelfs kanker zou het gevolg zijn van recyclen. Het zou tot slot een gigantische verspilling zijn van tijd, energie, geld en grondstoffen.

OpenAI tech beperkt vrijgeven

Je kunt je voorstellen dat OpenAI hier toch van geschrokken moet zijn en heeft besloten de tech niet volledig vrij te geven. In plaats daarvan wordt een beperkte versie van het model vrijgegeven, maar dat besluit is niet bij iedereen in goede aarde gevallen. Verschillende mensen beschuldigen het bedrijf ervan om research voor zichzelf te houden en dat dit het tegenovergestelde is van het open karakter van wat het bedrijf zou moeten zijn. OpenAI geeft echter aan dat het hun prioriteit is om ervoor te zorgen dat er geen misbruik gemaakt kan worden van hun technologie.

Impact van AI op maatschappij

Over een half jaar gaan ze zich weer over het besluit buigen. Mogelijk is de tech er dan wel klaar voor om in de wereld vrijgelaten te worden. Ze geven aan dat het in de tussentijd verstandig is voor overheden om met oplossingen te komen voor het monitoren van de impact die kunstmatige intelligentie op de maatschappij zou kunnen hebben. Zelfs Elon Musk werd er nog even bijgehaald, aangezien hij één van de eerste investeerders was in OpenAI. Musk geeft echter aan dat hij al meer dan een jaar niks meer met het bedrijf te maken heeft gehad en dat ze op goede voet uit elkaar zijn gegaan.

De man heeft het natuurlijk ook al druk genoeg met al zijn eigen projecten en onlangs liet hij weten wat volgens hem een retourtje naar Mars zal gaan kosten.

Techcrunch