Putusan pengadilan baru-baru ini di California dan New Mexico menandai perubahan signifikan dalam cara perusahaan teknologi bertanggung jawab atas kesejahteraan pengguna muda. Para juri memutuskan bahwa Meta (sebelumnya Facebook) dan YouTube bertanggung jawab karena secara sadar berkontribusi terhadap masalah kesehatan mental dan membuat anak-anak terpapar predator, sehingga menghasilkan penilaian bernilai jutaan dolar. Ini bukan hanya tentang konten; ini tentang desain platform ini.
Titik Balik dalam Akuntabilitas Teknologi
Selama bertahun-tahun, para advokat dan mantan karyawan menuduh Meta lebih mengutamakan keuntungan daripada keselamatan. Sistem hukum kini sedang memvalidasi klaim tersebut. Juri California menghadiahkan $6 juta kepada seorang wanita muda yang depresi dan kecemasannya terkait dengan penggunaan media sosial kompulsif, dan mendapati Meta dan YouTube bertindak dengan niat jahat. Pada saat yang sama, juri di New Mexico memerintahkan Meta untuk membayar $375 juta karena gagal melindungi pengguna dari predator anak di Instagram dan Facebook, dengan alasan pelanggaran undang-undang perlindungan konsumen.
Putusan ini penting karena merupakan preseden. Hingga saat ini, sebagian besar perusahaan teknologi beroperasi dengan impunitas, dilindungi oleh celah hukum, dan kurangnya akuntabilitas yang konkrit. Pengadilan kini mengakui bahwa platform yang dirancang untuk kecanduan menyebabkan kerugian, dan bahwa perusahaan bertanggung jawab atas kerugian tersebut.
Di Dalam Pengetahuan Meta tentang Bahaya
Kasus-kasus ini sangat bergantung pada dokumen Meta internal, yang mengungkapkan pendekatan yang diperhitungkan untuk mengeksploitasi pengguna yang rentan. Sebuah analisis secara eksplisit mengidentifikasi remaja sebagai kelompok demografis yang paling berharga karena keterlibatan mereka dalam jangka panjang – anak-anak yang bergabung lebih awal akan tinggal lebih lama. Seorang pengguna berusia 13 tahun secara internal dihargai sebesar $270 dalam pendapatan iklan seumur hidup.
Bahkan eksekutif Meta sendiri mengakui sifat adiktif dari platform tersebut. CEO Instagram Adam Mosseri membandingkan pengalaman tersebut dengan menonton Netflix secara berlebihan sambil menghasilkan $10 juta per tahun, angka yang terkait dengan metrik pertumbuhan. Pelapor seperti Brian Boland bersaksi bahwa produk diluncurkan tanpa pengujian keamanan, dan kekhawatiran diabaikan. Mantan karyawan mengatakan bahwa mereka diinstruksikan untuk menghindari pembuatan catatan yang dapat ditemukan mengenai kesadaran Meta akan bahaya terhadap anak-anak.
Putusan: Desain sebagai Masalah
Tuntutan hukumnya bukan tentang postingan atau konten tertentu, tetapi putaran algoritmik yang memaksimalkan interaksi dengan cara apa pun. Pengguliran tanpa batas, umpan yang dipersonalisasi, dan pemberitahuan push dirancang untuk membuat pengguna tetap terhubung, terlepas dari dampak psikologisnya. Desain ini sangat berbahaya bagi anak-anak yang otaknya masih berkembang.
Para juri menilai Meta lalai dalam merancang platform yang mengeksploitasi kerentanan ini. Mereka menempatkan 70% tanggung jawab atas kerugian yang dialami seorang perempuan muda pada perusahaan. Ini adalah teguran langsung atas klaim publik Meta bahwa media sosial tidak menimbulkan kerugian, pernyataan yang dibuat di bawah sumpah di hadapan Kongres.
Apa Selanjutnya?
Putusan-putusan ini kemungkinan besar hanyalah permulaan. Ribuan tuntutan hukum serupa masih menunggu keputusan, dan kasus yang menentukan ini akan mempengaruhi hasil tuntutannya. Meta telah merespons dengan “fitur keselamatan” dangkal yang menurut evaluasi independen sebagian besar tidak efektif. Pendekatan perusahaan mencerminkan taktik perusahaan di masa lalu: menciptakan ilusi perubahan sambil mempertahankan keuntungan.
Masalah intinya tetap ada: model bisnis perusahaan teknologi bergantung pada kecanduan, sehingga membuat pengaturan mandiri menjadi tidak mungkin dilakukan. Putusan pengadilan menegaskan bahwa akuntabilitas eksternal diperlukan. Para juri telah berbicara; Pertanyaannya sekarang adalah apakah regulator dan anggota parlemen akan melakukan hal yang sama.
