Meta onder vuur: historische rechtszaken zetten Instagram op scherp om veiligheid van jongeren

Eerder deze week vonden er twee rechtszaken plaats waarbij Instagram-maker Meta aangeklaagd werd voor honderden miljoenen dollars. Daarbij heeft de jury van zowel LA als Mexico Meta schuldig bevonden. Het is voor het eerst dat Meta succesvol is aangeklaagd over zaken rondom de content van het platform.

Wat is er aan de hand?

We hebben allemaal inmiddels wel door dat social media-platformen als YouTube, TikTok, en Instagram niet helemaal goed voor ons zijn. Algoritmes zijn zo ingesteld om je aandacht vast te houden en je door te laten scrollen. Soms wordt er ook content getoond die mogelijk schadelijk is voor de kijker. Kortom: Social media is best schadelijk, vooral voor jongeren en kinderen.

Het probleem is dat de platformen zelf nooit aangeklaagd konden worden voor het hosten van twijfelachtige content. Sectie 230 in de Amerikaanse wet stelt dat platformen immuun zijn voor schadelijke gevolgen van content geplaatst door derden, in dit geval de gebruikers. Daardoor is het voor aanklagers nooit echt mogelijk geweest om bedrijven als Meta verantwoordelijk te houden. Dit keer werd de Instagram-eigenaar aangeklaagd op basis van bedrijfsvoering en productontwerp, wat een doorslaggevende omweg bleek te zijn.

De zaak in Mexico

De twee zaken waarin Meta schuldig is bevonden, verschillen wel een beetje van elkaar. Die uit Mexico ging over dat Meta een platform biedt dat een broedplaats zou zijn voor kinderlokkers. Verschillende onderzoekers deden zich voor als minderjarigen en werden vervolgens direct benaderd door volwassenen voor seksuele doeleinden.

Het oordeel van de jury was dat Meta de consumentenbeschermingswet heeft geschonden door te liegen over de veiligheid van hun platforms. Daarna kwamen interne documenten naar buiten waaruit bleek dat Meta intern wist dat er dagelijks honderdduizenden incidenten van seksuele uitbuiting plaatsvonden. Het bedrijf deed hier bewust niks mee omdat het de groei en de betrokkenheid van gebruikers in de weg zou zitten.

Aanklagers trekken een vergelijking met de tabaksindustrie in de jaren 90. Ondanks dat Meta wist dat het slecht was, verkozen ze geld boven veiligheid. Meta-teams hebben een zogenoemde MSI-score, wat staat voor Meaningful Social Interaction. Het is een maatstaf om te kijken hoeveel interacties er op een platform plaatsvinden. Het beperken van de apps, het filteren van content en algoritmes zou resulteren in een lagere MSI-score, dus liet Meta het gebeuren. Mexico eist een boete van 375 miljoen dollar terwijl Meta in hoger beroep gaat.

Meta in rechtszaak in LA

In de zaak van LA werd niet alleen Meta, maar ook YouTube ook aangeklaagd. In dit geval ging het om Kaley, een 20-jarige vrouw die naar eigen verslaafd raakte aan apps als TikTok en Instagram. De algoritmes brachten haar in een neerwaartse spiraal, waarbij likes alles betekenden. Ze zat te veel op de apps, tot wel 16 uur per dag, ontwikkelde een eetstoornis en andere mentale problemen.

Het is echter de aanpak van haar advocaten die de zaak uniek maken. Ze gingen niet achter de content zelf aan, gezien dat door Sectie 230 onmogelijk is, maar keken naar het ontwerp van de app zelf. Zo werd er beargumenteerd dat functies als eindeloos scrollen, notificaties en algoritmes inspelen op dopaminepieken. Hiermee zouden ze hetzelfde effect hebben op een kinderbrein als gokkasten of nicotine.

De jury ging mee met de aanklacht en oordeelde dat Meta en YouTube nalatig zijn geweest in het design van hun apps en websites. Kaley krijgt hiervoor 6 miljoen dollar aan schadevergoedingen die YouTube en Meta gezamenlijk moeten betalen. Hoewel dat kleingeld is voor deze bedrijven, is het belangrijker dat deze zaak als een soort voorbeeld dient voor duizenden vergelijkbare zaken. Het feit dat de jury de platformen als schuldig heeft beoordeeld, is een historische overwinning die nog veel verandering teweeg kan brengen bij social media.

Onderwerpen

• Meta
• Youtube