Instagram, platform media sosial milik Meta, telah ditemukan meraup keuntungan dari peredaran konten kekerasan seksual pada anak di India. Temuan ini berdasarkan investigasi oleh BBC yang menunjukkan bahwa Instagram menerima pembayaran dari iklan yang mempromosikan konten kekerasan seksual pada anak.
Konten Biadab yang Menguntungkan
Menurut investigasi BBC, iklan yang beredar di Instagram di India mengandung kata seperti “video pemerkosaan” dan “video anak.” Dalam konten tersebut, tercantum tautan ke kanal Telegram tempat anggotanya membeli material seharga US$ 1 atau sekitar Rp 17 ribu. Temuan ini mengguncang pemerintah India dan memerintahkan Meta untuk mematikan semua iklan dan promosi terkait kekerasan seksual pada anak.
Apa yang Terjadi?
Meta, perusahaan induk dari Instagram, Facebook, dan WhatsApp, telah lama berkelit dari permasalahan peredaran konten kekerasan pada anak di platform milik mereka. Parahnya, Meta malah mengambil langkah untuk menghapus tim moderator manusia dan menggantinya dengan AI. Namun, laporan investigasi terbaru dari BBC menemukan bahwa AI gagal membendung peredaran konten terlarang di Instagram.
Mengapa dan Dampak
Mengapa hal ini bisa terjadi? Menurut eks VP di Facebook, Brian Boland, algoritma Instagram dirancang untuk memaksimalkan keuntungan, bukan memblokir konten. “Yang menyedihkan dan tragis selama ini, trade-off [pertimbangan pertukaran] antara pendapatan dan pengalaman pengguna selalu menjadi pembicaraan,” kata Boland. Dampaknya, Meta telah dinyatakan bersalah karena berbohong soal tingkat keselamatan di platformnya, untuk pengguna anak.
Dalam sidang di New Mexico, Amerika Serikat, Meta sudah dinyatakan bersalah karena berbohong soal tingkat keselamatan di platformnya, untuk pengguna anak. Pada Maret, juri menyatakan Meta membiarkan konten kekerasan seksual pada anak beredar, bahkan menyebut Meta menjadikan platformnya sebagai marketplace untuk trafficking anak. “Bos di Meta tahu bahwa produk mereka berdampak buruk pada anak, tidak menghiraukan peringatan dari pegawai sendiri, dan berbohong ke publik,” kata jaksa New Mexico, Raul Torrez.
Jalan Panjang yang Masih Harus Ditempuh
Kedepannya, Meta harus meningkatkan langkah-langkah untuk mencegah peredaran konten kekerasan pada anak di platform milik mereka. “Tidak ada sistem yang sempurna dan proses review kami tidak mendeteksi pelanggaran kebijakan,” kata juru bicara Meta. Namun, masyarakat berharap bahwa Meta dapat melakukan lebih banyak untuk melindungi penggunanya, terutama anak-anak.
Disclaimer: This article was automatically rewritten by AI based on source: https://www.cnbcindonesia.com/tech/20260714125201-37-750693/instagram-cuan-dari-konten-biadab-kelakuan-bos-meta-diungkap, without altering the facts of the original article.