Nedávná soudní rozhodnutí v Kalifornii a Novém Mexiku znamenají významný posun v tom, jak technologické společnosti odpovídají za blaho mladých uživatelů. Porota shledala Meta (dříve Facebook) a YouTube vinnými z vědomého zhoršování duševních problémů a vystavování dětí nebezpečí ze strany predátorů, což mělo za následek mnohamilionové výplatní příkazy. Nejde jen o obsah; jde o design těchto platforem.
Bod zlomu v odpovědnosti technologických společností
V průběhu let příznivci a bývalí zaměstnanci tvrdili, že Meta upřednostňuje zisk před bezpečností. Soudní systém nyní tato tvrzení potvrzuje. Kalifornská porota udělila 6 milionů dolarů mladé ženě, jejíž deprese a úzkost byly spojeny s nutkavým používáním sociálních sítí, a zjistila, že Meta a YouTube jednaly zlomyslně. Ve stejnou dobu porota v Novém Mexiku nařídila společnosti Meta, aby zaplatila 375 milionů dolarů za to, že nedokázala ochránit uživatele před pedofily na Instagramu a Facebooku s odvoláním na porušení zákonů na ochranu spotřebitele.
Na těchto rozhodnutích záleží, protože představují precedens. Technologické společnosti dosud jednaly většinou beztrestně, chráněny právními mezerami a nedostatkem konkrétní odpovědnosti. Soudy nyní uznávají, že platformy navržené k tomu, aby byly návykové, způsobují škodu, a že za to nesou odpovědnost společnosti.
Uvnitř meta znalostí o škodě
Případy široce využívají interní dokumenty Meta, které odhalují vypočítavý přístup ke zneužívání zranitelných uživatelů. Jedna analýza výslovně jmenovala dospívající jako nejhodnotnější demografickou skupinu kvůli jejich dlouhodobému zapojení – děti, které se k platformě připojí brzy, na ní zůstanou déle. 13letý uživatel byl interně oceněn na 270 $ v celoživotním příjmu z reklamy.
Dokonce i manažeři společnosti Meta uznali návykovou povahu platforem. Generální ředitel Instagramu Adam Mosseri porovnal tuto zkušenost s přejídáním Netflixu a vydělal 10 milionů dolarů ročně, což je částka spojená s metrikami růstu. Zasvěcenci jako Brian Boland tvrdí, že produkty byly uvedeny na trh bez bezpečnostních testů a obavy byly ignorovány. Bývalí zaměstnanci říkají, že jim bylo řečeno, aby se vyvarovali vytváření zdokumentovaných důkazů o tom, že Meta ví o škodě dětem.
Verdikt: Design jako problém
Žaloby se netýkají konkrétních příspěvků nebo obsahu, ale algoritmických smyček, které maximalizují zapojení za každou cenu. Nekonečné posouvání, personalizované zdroje a oznámení push jsou navrženy tak, aby udržely uživatele v zapojení bez ohledu na psychologický dopad. Tento design je nebezpečný zejména pro děti, jejichž mozek se teprve vyvíjí.
Porota shledala Meta vinnou z nedbalosti při vytváření platforem, které tuto zranitelnost zneužívají. Společnost považovala za 70% odpovědnou za škodu způsobenou mladé ženě. Toto je přímá výtka veřejných prohlášení společnosti Meta, že sociální média nezpůsobují škodu, učiněná pod přísahou před Kongresem.
Co bude dál?
Tato rozhodnutí jsou pravděpodobně jen začátek. Tisíce podobných soudních sporů probíhají a tento přelomový případ ovlivní jejich výsledek. Meta reagovala povrchními „bezpečnostními prvky“, které se podle nezávislých hodnocení ukázaly jako do značné míry neúčinné. Přístup společnosti odráží minulou firemní taktiku: vytváření iluze změny při zachování zisku.
Hlavní problém zůstává: obchodní modely technologických společností závisí na závislosti, což znemožňuje samoregulaci. Soudní rozhodnutí potvrzují, že vnější kontrola je nezbytná. Porota promluvila; nyní je otázkou, zda regulační orgány a zákonodárci budou následovat.
