Recente rechterlijke uitspraken in Californië en New Mexico markeren een significante verschuiving in de manier waarop technologiebedrijven verantwoordelijk worden gehouden voor het welzijn van jonge gebruikers. Jury’s hebben Meta (voorheen Facebook) en YouTube aansprakelijk bevonden voor het willens en wetens bijdragen aan geestelijke gezondheidsproblemen en het blootstellen van kinderen aan roofdieren, resulterend in vonnissen van meerdere miljoenen dollars. Dit gaat niet alleen over de inhoud; het gaat over het ontwerp van deze platforms.
Een keerpunt in technische verantwoordelijkheid
Jarenlang hebben advocaten en voormalige werknemers beweerd dat Meta winst belangrijker vond dan veiligheid. Het rechtssysteem valideert nu deze claims. Een jury uit Californië kende 6 miljoen dollar toe aan een jonge vrouw wier depressie en angst verband hielden met dwangmatig gebruik van sociale media, waarbij werd vastgesteld dat Meta en YouTube met kwade bedoelingen handelden. Tegelijkertijd beval een jury uit New Mexico Meta om 375 miljoen dollar te betalen omdat ze er niet in slaagde gebruikers te beschermen tegen kinderroofdieren op Instagram en Facebook, daarbij verwijzend naar schendingen van de wetgeving inzake consumentenbescherming.
Deze uitspraken zijn van belang omdat ze een precedent scheppen. Tot nu toe hebben technologiebedrijven grotendeels straffeloos geopereerd, beschermd door juridische mazen in de wet en een gebrek aan concrete verantwoording. De rechtbanken erkennen nu dat platforms die zijn ontworpen voor verslaving schade veroorzaken, en dat bedrijven de verantwoordelijkheid dragen voor die schade.
Binnen Meta’s kennis van schade
De zaken zijn sterk afhankelijk van interne metadocumenten, waaruit een berekende aanpak blijkt voor het uitbuiten van kwetsbare gebruikers. Eén analyse identificeerde tweens expliciet als de meest waardevolle demografische groep vanwege hun langdurige betrokkenheid: kinderen die vroeg lid worden, blijven langer. Een 13-jarige gebruiker werd intern gewaardeerd op $ 270 aan totale advertentie-inkomsten.
Zelfs Meta’s eigen leidinggevenden erkenden het verslavende karakter van de platforms. Instagram-CEO Adam Mosseri vergeleek de ervaring met het bingewatchen van Netflix terwijl hij $ 10 miljoen per jaar verdiende, een cijfer dat verband houdt met groeistatistieken. Klokkenluiders als Brian Boland getuigen dat producten op de markt zijn gebracht zonder veiligheidstests en dat zorgen werden genegeerd. Voormalige werknemers zeggen dat ze de opdracht hebben gekregen om te voorkomen dat er vindbare gegevens worden aangemaakt over Meta’s bewustzijn van de schade aan kinderen.
Het oordeel: ontwerp als probleem
De rechtszaken gaan niet over specifieke berichten of inhoud, maar over de algoritmische loops die de betrokkenheid tegen elke prijs maximaliseren. Oneindig scrollen, gepersonaliseerde feeds en pushmeldingen zijn ontworpen om gebruikers verslaafd te houden, ongeacht de psychologische impact. Dit ontwerp is vooral gevaarlijk voor kinderen van wie de hersenen nog in ontwikkeling zijn.
De jury’s vonden Meta nalatig bij het ontwerpen van platforms die misbruik maken van deze kwetsbaarheid. Ze legden 70% van de verantwoordelijkheid voor de schade van een jonge vrouw bij het bedrijf. Dit is een directe berisping van Meta’s publieke beweringen dat sociale media geen schade aanrichten, verklaringen die onder ede zijn afgelegd voor het Congres.
Wat is het volgende?
Deze uitspraken zijn waarschijnlijk nog maar het begin. Er zijn duizenden soortgelijke rechtszaken aanhangig, en deze belangrijke zaak zal de uitkomst ervan beïnvloeden. Meta heeft gereageerd met oppervlakkige ‘veiligheidskenmerken’ die volgens onafhankelijke evaluaties grotendeels ineffectief zijn. De aanpak van het bedrijf weerspiegelt bedrijfstactieken uit het verleden: creëer de illusie van verandering terwijl de winst behouden blijft.
Het kernprobleem blijft: de bedrijfsmodellen van technologiebedrijven zijn afhankelijk van verslaving, waardoor zelfregulering onmogelijk wordt. De rechterlijke uitspraken bevestigen dat externe verantwoording noodzakelijk is. De jury’s hebben gesproken; De vraag is nu of toezichthouders en wetgevers dit voorbeeld zullen volgen.
