Dokumen Rahsia: Facebook Muncul Menempatkan Ciri, Keuntungan di Atas Keselamatan Pengguna

Facebook, raksasa berusia 13 tahun dengan 1,23 bilion pengguna aktif, menjana pendapatan lebih dari $ 8 bilion per suku tahun - $ 3 bilion daripadanya adalah pendapatan bersih (mis., Keuntungan).

Tetapi dengan begitu banyak pengguna, Facebook nampaknya telah menurunkan keselamatan pengguna menjadi perhatian kedua. Sehingga awal tahun ini, Facebook menggunakan hanya 4.500 orang untuk mengkaji kandungan. Kedengarannya banyak orang sehingga anda menyedari bahawa 1.23 bilion pengguna aktif itu berkongsi berbilion kepingan kandungan setiap hari, dengan berjuta-juta aduan pengguna mengenai kandungan Facebook yang diajukan setiap hari.

Adakah Facebook mempunyai masalah keselamatan pengguna yang serius? Yang baru diterbitkan Penjaga semakan rahsia, dokumen dalaman menunjukkan masalahnya tidak terkawal.

Facebook mengakui bahawa ia mempunyai beberapa masalah ketika awal tahun ini ia bersetuju untuk hampir dua kali ganda kakitangannya - menjadi 7.500 - di tengah tuduhan bahawa syarikat itu tidak cukup (atau mungkin peduli?) Cukup apabila kandungan yang berpotensi berbahaya diperdagangkan di seluruh platformnya . Anda tidak menggandakan kakitangan penyederhanaan anda jika semuanya tidak masuk akal.

Sekarang, Penjaga (UK) telah menerbitkan perincian yang mengagumkan mengenai panduan penyederhanaan kandungan Facebook, yang diambil dari lebih daripada 100 rahsia, manual latihan dalaman dan dokumentasi. Agak mengganggu semua perkara penting ini tidak ada dalam satu manual yang diberikan kepada moderator Facebook ketika mereka disewa.Sebaliknya, ini nampaknya merupakan pendekatan sepintas lalu terhadap kebijakan, yang menghasilkan maklumat yang bertentangan, penyederhanaan yang tidak rata, dan kebolehpercayaan yang sangat sedikit dalam bagaimana kebijakan penyederhanaannya benar-benar berfungsi di dunia nyata.

"Facebook tidak dapat mengawal kandungannya," kata satu sumber. "Ia berkembang terlalu besar, terlalu cepat."

Banyak moderator dikatakan mempunyai kebimbangan mengenai ketidakkonsistenan dan sifat khas dari beberapa polisi. Contohnya, mereka yang mempunyai kandungan seksual dikatakan paling kompleks dan membingungkan.

Sebagai satu contoh kecil dari seberapa banyak kandungan yang disederhanakan oleh Facebook, artikel tersebut mencatat, "Satu dokumen mengatakan Facebook mengulas lebih daripada 6.5 juta laporan seminggu yang berkaitan dengan akaun yang berpotensi palsu - dikenali sebagai FNRP (palsu, bukan orang sebenar)." Dan itu hanya untuk akaun palsu. Bayangkan berapa juta lagi laporan untuk kandungan sebenar.

Ciri-ciri Sebelum Berfikir

Sebelum ada pemikiran mengenai bagaimana orang mungkin menggunakan (dan menyalahgunakan) fitur baru, Facebook nampaknya lebih suka melancarkan dan memikirkan bagaimana untuk memoderasinya sebagai pemikiran semula. Lihatlah Facebook Live, perkhidmatan streaming video yang membolehkan orang membuat video apa sahaja yang berlaku dalam hidup mereka pada masa ini. Untuk apa mereka fikir orang akhirnya akan menggunakannya?

"Pada masa yang sama, ciri penstriman langsung Facebook telah digunakan untuk menyiarkan pembunuhan dan bunuh diri, dengan syarikat itu nampaknya tidak dapat mematikan aliran. Duh! Sebilangan besar syarikat mungkin akan berfikir, sebelum melancarkan sesuatu seperti ini, "Hei, kami memerlukan cara untuk segera melaporkan video bermasalah tersebut dan membuatnya terganggu." Nampaknya, bukan Facebook.

Ini menunjukkan kekurangan berfikir secara konsisten melalui masalah dan secara proaktif mengatasinya sebelum timbul. Atau keliru di sisi, "Hei, mari kita ikuti ini dan lihat jenis protesnya sebelum kita melakukan apa-apa." (Semuanya atas nama "kebebasan bersuara," tentu saja, mengabaikan kenyataan bahawa Facebook adalah platform global.) 1

Di manakah saya meletakkan garis panduan penyederhanaan itu lagi?

Menjaga keselamatan komuniti anda bermula dengan mengupah moderator yang cukup untuk menjadikan pekerjaan mereka menyenangkan dan tidak memberatkan. Jelas, Facebook gagal melakukan ini sambil menikmati pertumbuhan, pendapatan, dan keuntungan pengguna. Tetapi itu juga termasuk memiliki kepemimpinan moderasi masyarakat yang diberdayakan yang memastikan semua yang mereka perlukan untuk melakukan pekerjaan mereka semuanya berada di satu tempat. Facebook, sekarang, nampaknya lebih memikirkan keperluan alat yang lebih baik, menurut jurucakap mereka: "Selain melabur dalam lebih banyak orang, kami juga sedang membangun alat yang lebih baik untuk menjaga keselamatan masyarakat kami," katanya kepada The Guardian. "Kami akan menjadikannya lebih mudah untuk melaporkan masalah kepada kami, lebih cepat bagi pengulas kami untuk menentukan siaran mana yang melanggar piawaian kami dan lebih mudah bagi mereka untuk menghubungi penguatkuasa jika seseorang memerlukan bantuan."

Dan mungkin memasukkan semuanya dalam satu manual? Oleh itu, moderator tahu di mana mencarinya dan setiap garis panduannya selaras?

Video membahayakan diri sangat baik di dunia Facebook, kerana orang itu "dalam kesusahan." Begitu juga kekejaman haiwan (mungkin kerana haiwan itu dalam kesusahan?). "Revenge porn" juga tidak mengapa, jika moderator tidak dapat mengesahkan kekurangan persetujuan oleh kedua-dua pihak (yang, saya bayangkan, mungkin sukar dilakukan tepat pada waktunya).

"Beberapa gambar penderaan fizikal dan seksual intimidasi kanak-kanak tidak perlu dihapus atau" diambil tindakan "kecuali ada unsur sadis atau perayaan." Selagi anda menyimpan sadis dan perayaan daripada gambar dan video ganas anda, nampaknya Facebook akan membenarkannya.

Menurut dokumen tersebut, "Video kematian dengan kekerasan mengganggu tetapi dapat membantu memberi kesadaran. Untuk video, kami berpendapat kanak-kanak di bawah umur memerlukan perlindungan dan orang dewasa memerlukan pilihan. Kami menandakan sebagai video 'mengganggu' mengenai kematian manusia yang ganas. " Tidak jelas di mana kandungan bunuh diri - seperti video langsung atau ancaman - termasuk dalam dasar penyederhanaan Facebook, tetapi nampaknya ia dibenarkan.

Facebook Perlu Mengutamakan Keselamatan Pengguna

Ada yang meminta agar Facebook diatur lebih ketat, kerana itu adalah penjaga gerbang dari semua kandungan ini (seperti penyiar televisyen adalah penjaga gerbang kandungan di rangkaiannya):

Laporan oleh ahli parlimen Britain yang diterbitkan pada 1 Mei mengatakan "syarikat media sosial terbesar dan terkaya jauh sekali tidak mengambil tindakan yang mencukupi untuk menangani kandungan haram atau berbahaya, untuk melaksanakan standard masyarakat yang tepat atau untuk menjaga keselamatan penggunanya".

Kesalahan di sisi "kebebasan bersuara" mungkin kelihatan seperti idea yang baik, terutama bagi syarikat Amerika. Tetapi rangkaian sosial terutamanya komuniti dalam talian - mereka tidak seperti surat khabar. Tujuan utama Facebook adalah untuk menghubungkan orang antara satu sama lain. Ini menunjukkan bahawa garis panduan mereka akan lebih mencerminkan kepelbagaian ini dan dirancang untuk keselamatan masyarakat itu, daripada semacam mantera penerbitan berita atau ideologi kosong.

Kami ingin melihat Facebook lebih telus mengenai cara penyederhanaan berjuta-juta orang dan kandungan setiap hari. Memberi penerangan lebih mendalam mengenai masalah ini membantu menunjukkan masalah dan memberi peluang kepada Facebook untuk meningkatkan keselamatan komuniti. Dan kami ingin melihat Facebook membelanjakan lebih banyak pendapatannya untuk memastikan mempunyai kakitangan yang mencukupi untuk memastikan platformnya selamat. Untuk semua pengguna.

Untuk maklumat lanjut

Nota kaki:

1. Oh, dan perhatikan bahawa jika anda mempunyai 100,000 pengikut lebih banyak di Facebook, di mata mereka yang menjadikan anda "tokoh awam" - dan tidak tunduk pada privasi atau perlindungan lain dari orang biasa. [↩]