Instagram Hapus Jutaan Video dan Foto yang Membahayakan

Mancode - Instagram telah menghapus 1,6 juta foto dan video yang menggambarkan orang bunuh diri dan melukai diri sendiri dari platformnya. Hal tersebut dilakukan dalam upaya untuk membersihkan kontennya setelah terjadi serangkaian skandal baru-baru ini.

Facebook, yang memiliki Instagram mengatakan bahwa konten yang tergolong 'mengganggu' telah dihapus dalam enam bulan terakhir ini, dengan alasan untuk "membantu menjaga keamanan Instagram".

Perusahaan ini telah berulang kali mendapat kecaman dalam beberapa bulan terakhir karena menjadi tempat yang menyajikan kecemasan, depresi, melukai diri sendiri dan bunuh diri.

Pemicunya adalah ketika Brit Molly Russell (14 tahun) melakukan bunuh diri pada tahun 2017 setelah melihat sebuah gambar grafis di Instagram.

Facebook merinci upayanya untuk menghentikan konten 'mengganggu' tersebut dengan menghubungi Instagram. "Laporan penegakan hukum" menjelaskan berapa banyak postingan dan akun yang tayang di raksasa media sosial tersebut antara Maret dan Oktober tahun ini.

"Untuk pertama kalinya, kami berbagi data tentang apa yang kami lakukan dalam menegakkan kebijakan kami di Instagram," kata Guy Rosen, Vice President of Integrity Facebook.

Instagram dan Facebook menggunakan campuran AI dan moderator manusia untuk menyaring konten yang bersifat merusak diri sendiri.

Konten tersebut dapat mencakup gambar yang diunggah oleh pengguna beberapa saat setelah memotong atau melukai tubuh mereka, atau petunjuk terperinci tentang cara mengakhiri hidup manusia.

Antara April dan Juni 2019, Facebook mengatakan telah menghapus 835.000 konten yang bersifat merugikan diri sendiri dari Instagram.

Lebih lanjut 845.000 dihapus antara Juli dan September. Facebook mengatakan bahwa hampir 80 persen dihapus "secara proaktif", yang berarti mereka ditangkap oleh bot moderat sebelum seseorang melihat dan melaporkannya.

Facebook mengakui bahwa konten tersebut dapat membuat orang lain "terlibat dalam perilaku serupa". Laporan itu juga membahas konten yang diblokir di Facebook. Secara total, 2,5 juta foto, video, dan postingan lain yang berkaitan dengan melukai diri sendiri atau bunuh diri telah dihapus dari situs tersebut sejak Juli.

Pada periode yang sama, 11,6 juta keping konten yang terkait dengan gambar dan video pelecehan seks anak diblokir dari situs tersebut.

Instagram mengumumkan pada Februari lalu telah menghapus semua gambar grafis yang membahayakan diri dari situsnya setelah kematian Molly Russell, 14, yang membunuh dirinya sendiri setelah melihat konten seperti itu.

Bos situs jejaring, Adam Mosseri bahkan berjanji untuk "mempertimbangkan posisinya" jika situs tersebut tidak bisa membersihkan kontennya.

Baca Juga: Instagram Usung Dark Mode untuk iOS dan Android