TikTok memutuskan untuk membuat Kebijakan Moderasi baru dalam upaya memerangi informasi yang menyesatkan

Pada awal minggu ini, Microsoft mengumumkan persiapannya untuk melanjutkan diskusi pembelian TikTok di Amerika Serikat, menyusul ancaman larangan di negara tersebut. Langkah ini sebagai tanggapan atas kekhawatiran yang ditunjukkan oleh Presiden Trump mengenai praktik privasi dan kemungkinan hubungannya dengan pemerintah China.

Baru-baru ini, TikTok telah memutuskan untuk membuat kebijakan moderasi baru untuk perlindungan yang lebih baik atas platformnya terhadap informasi yang salah, campur tangan pemilu, dan konten manipulatif lainnya menjelang pemilu tahun ini. Perusahaan sekarang mengatakan bahwa mereka melarang semua 'deepfakes' secara eksplisit. Deepfake adalah manipulasi video dan audio yang didukung AI yang dirancang untuk menyesatkan orang tentang sesuatu yang mungkin telah dikatakan atau dilakukan seseorang.

Dalam postingan blog yang diterbitkan oleh Vanessa Pappas pada hari Rabu, disebutkan bahwa perusahaan tersebut menambahkan kebijakan yang akan melarang konten yang dimanipulasi atau dibuat-buat yang menyesatkan pengguna dengan mendistorsi kebenaran 'dengan cara yang dapat membahayakan'. Dia lebih lanjut menguraikan bahwa niat mereka adalah melindungi pengguna dari pemalsuan yang dalam atau dangkal.

Deepfake di TikTok umumnya dikaitkan dengan video bertukar wajah yang digunakan untuk membuat konten pornografi. Hingga saat ini mereka belum digunakan oleh kampanye politik besar, meskipun kampanye pemilihan ulang Presiden Trump dan Gedung Putih telah membagikan atau membuat pengeditan yang kurang canggih dan konten penipuan serupa lainnya yang telah diberi label sangat menyesatkan.

Dalam beberapa tahun terakhir, kami telah mengamati peningkatan dalam teknik kecanggihan dan kemudahan penggunaan dalam membuat deepfake ini. Teknologi ini telah sangat menimbulkan kekhawatiran tentang bagaimana deepfakes pada suatu saat dapat digunakan untuk melakukan pengeditan yang menipu terhadap politisi yang mengungkapkan dukungan atau mengatakan hal-hal yang dapat merusak reputasi mereka atau mendiskreditkan mereka. Akibatnya, beberapa platform media sosial utama dan beberapa negara bagian telah sepenuhnya melarang deepfake dalam iklan politik.

TikTok sudah tidak mengizinkan iklan politik apa pun. Perusahaan menambahkan bahwa larangan deepfake dimaksudkan untuk mempersulit penggunaan platform untuk mendorong media yang menipu demi keuntungan politik. Menurut kebijakan moderasi barunya, Tiktok melarang penggunaan bot dan akun palsu yang menyesatkan orang terkait identitas pemegang akun dengan maksud untuk mempengaruhi opini publik atau menggunakan bentuk pengaruh lain. Ia juga memperluas kemitraan pemeriksaan fakta dengan Lead Stories dan PolitiFact untuk pemeriksaan fakta dari potensi misinformasi terkait dengan pemilu AS 2020. Ia juga menambahkan opsi misinformasi pemilu ke mekanisme pelaporan dalam aplikasinya untuk memungkinkan pengguna menandai akun atau konten yang mencurigakan . Aplikasi ini juga akan berisi 'pusat informasi pemilu' baru untuk mengarahkan pengguna ke informasi otentik tentang pemungutan suara, ras, dan topik terkait lainnya.