AI Facebook Dapat Mendeteksi Ujaran Kebencian
AI Facebook Dapat Mendeteksi Ujaran Kebencian – Facebook mengatakan bahwa mereka menangkap lebih banyak ujaran kebencian sebelum pengguna melaporkannya, karena peningkatan pada teknologi kecerdasan buatannya.
Dari Juli hingga September, alat AI Facebook secara proaktif mendeteksi 94,7% ucapan kebencian yang dihapus oleh perusahaan, naik dari 80,5% pada periode yang sama tahun lalu, kata Facebook. Jejaring sosial menghubungkan peningkatan tersebut dengan peningkatan dalam alat otomatisnya, termasuk pelatihan mesin yang lebih baik. Pada kuartal ketiga, Facebook mengambil tindakan terhadap 22,1 juta konten untuk ujaran kebencian. Layanan foto perusahaan, Instagram, mengambil tindakan terhadap 6,5 juta konten ujaran kebencian.
Untuk pertama kalinya, Facebook juga membagikan data baru yang menunjukkan ke jejaring sosial berapa banyak pos berbahaya yang lolos. Ada 10 hingga 11 tampilan ujaran kebencian dari setiap 10.000 tampilan konten Facebook.
Raksasa media sosial, yang menggunakan campuran peninjau manusia dan teknologi untuk menghapus konten berbahaya, mendapat kecaman dari aktivis hak sipil dan politisi yang mengatakan Facebook tidak menegakkan aturannya terhadap pidato yang secara langsung menyerang seseorang berdasarkan ras, jenis kelamin. atau karakteristik dilindungi lainnya. Merek-merek besar tahun ini menghentikan pengeluaran untuk iklan Facebook untuk menekan perusahaan agar berbuat lebih banyak untuk mengatasi ujaran kebencian, yang menurut mereka masih menyelinap di jejaring sosial.
Pada saat yang sama, moderator konten yang membuat kontrak dengan Facebook menuntut kondisi kerja yang lebih baik. Pada hari Rabu, lebih dari 200 moderator konten mengirim surat ke Facebook menyerukan gaji yang lebih baik dan tunjangan kesehatan mental karena beberapa pekerja dipaksa kembali ke kantor di tengah pandemi virus corona. Moderator mengatakan sistem AI Facebook masih kehilangan konten berisiko seperti posting tentang melukai diri sendiri. “Algoritma Facebook masih beberapa tahun lagi untuk mencapai tingkat kecanggihan yang diperlukan untuk memoderasi konten secara otomatis,” kata surat itu. Beberapa moderator juga menggugat Facebook, menuduh bahwa tugas meninjau konten yang menyinggung berdampak pada kesehatan mental mereka.
Facebook tidak membagikan data tentang keakuratan sistem AI-nya, tetapi Schroepfer mengatakan itu tergantung pada jenis konten yang sedang ditinjau. Mesin memiliki standar yang lebih tinggi untuk menghapus perkataan yang mendorong kebencian daripada konten iklan.
Meme kebencian, misalnya, bisa jadi sulit dideteksi oleh mesin karena ini membutuhkan pemahaman tentang cara kerja kata dengan gambar. Frasa “Anda termasuk di sini” dengan gambar taman bermain tidak akan melanggar aturan Facebook. Frasa yang sama dengan foto kuburan, bagaimanapun, dapat digunakan untuk menargetkan sekelompok orang dan karena itu akan dianggap sebagai ujaran kebencian. Schroepfer mengatakan dia tidak mengantisipasi Facebook akan mengurangi pengulas manusia dalam jangka pendek atau panjang, tetapi AI dapat membantu mempercepat moderasi konten.
Ada juga tantangan yang datang dengan menggunakan AI untuk mendeteksi kesalahan informasi. Pengguna dapat menambahkan batas ke gambar dengan informasi yang salah, atau mengaburkan kata-kata, untuk menghindari deteksi.
Jaringan sosial telah bergulat dengan serangan informasi yang salah tentang pemilu AS dan pandemi COVID-19. Dari Maret hingga 3 November, Facebook menghapus lebih dari 265.000 lembar dari Facebook dan Instagram karena campur tangan pemilih. Selama periode yang sama, Facebook menampilkan peringatan pada lebih dari 180 juta konten yang dibantah oleh pemeriksa fakta pihak ketiga. Perusahaan juga menambahkan label baru di bawah konten pemilu, mengarahkan pengguna ke pusat informasi pemungutan suara, tetapi tidak jelas seberapa efektif label tersebut dalam mengurangi penyebaran informasi yang salah.
Dari Maret hingga Oktober, Facebook menghapus lebih dari 12 juta konten di Facebook dan Instagram yang berpotensi menyebabkan cedera fisik. Perusahaan mengatakan itu menampilkan peringatan pada 167 juta konten tentang virus corona baru yang telah dibantah oleh pemeriksa fakta.