ChatGPT wordt minder gevaarlijk en flirterig voor minderjarigen

ChatGPT gaat een aantal beperkingen opleggen voor minderjarige gebruikers, nadat de app de leeftijd zelf inschat.

Des te meer ChatGPT een integraal onderdeel wordt van ons leven, des te gevaarlijker het wordt. Recent komen er steeds meer akelige berichten over hoe tieners te afhankelijk worden van ChatGPT als compagnon en soms zelfs stappen te ver gaan.

De populaire chatbot werkt voor veel mensen goed als mentale of emotionele ondersteuning, gezien ChatGPT het praktisch altijd met je eens is. Eenzame tieners raken echter nog meer geïsoleerd omdat ze genoegen nemen met ChatGPT en anderen worden zelfs aangemoedigd om zichzelf te verwonden of beschadigen. Hoog tijd dat OpenAI daar wat aan gaat doen en de eerste stappen hierin worden eindelijk gemaakt.

ChatGPT wordt beperkt voor tieners

In een blogpost schrijft OpenAI-CEO Sam Altman over hoe mensen erg persoonlijke dingen delen met ChatGPT. Altman trekt de vergelijking met beroepsgeheimen bij bijvoorbeeld dokters en is van mening dat dergelijke bescherming ook van toepassing is bij de gesprekken met ChatGPT. Oké, ChatGPT wordt dus nog meer privé, maar is dat genoeg om minderjarigen met mentale problemen te beschermen?

OpenAi werkt aan verschillende vangrails zodat ChatGPT mensen geen schadelijke adviezen geeft. Mocht het systeem herkennen dat er gepraat wordt over zorgwekkende onderwerpen, dan kan er mogelijk menselijke interventie plaatsvinden.

Om tieners extra goed te beschermen, werkt OpenAI aan een systeem dat minderjarigen automatisch herkent. Het systeem kijkt naar hoe mensen ChatGPT gebruiken en hoe ze ermee praten. Als een minderjarige gebruikmaakt van de chatbot, krijgen ze te maken met een beperkte versie die niet ingaat op flirterige gesprekken of gevoelige onderwerpen zoals zelfdoding.

Denk je aan zelfdoding? Praat er 24/7 gratis en anoniem over met 113 Zelfmoordpreventie via 0800-0113 of chat op 113.nl

Maar toch vrijheid?

Ondanks alle beperkingen en vangrails, is Altman wel van mening dat ChatGPT de vrijheid moet behouden. “We willen dat gebruikers onze tools kunnen gebruiken op de manier die zij willen. Ons model gaat niet uit zichzelf een flirterig gesprek beginnen, maar als een gebruiker erom vraagt, horen ze dat te krijgen”, schrijft Altman.

ChatGPT is voor veel mensen een heuse vriend geworden. Sommige mensen geven hun chatbot een naam of behandelen het als hun persoonlijke dokter, in plaats van naar een professional te gaan. Ook starten mensen relaties met ChatGPT. Zo groeit de subreddit r/MyBoyfriendIsAI enorm in populariteit. Daar delen mensen afbeeldingen, verhalen of zelfs rouwmomenten als hun AI-vriend niet meer hetzelfde is vanwege een nieuw model als GPT-5.

Onderwerpen

• chatgpt