DeepFake: Aplikasi atau program yang saat ini mampu mendeteksi konten semacam itu

DeepFake telah menarik perhatian dunia, terutama para politisi, media dan selebriti. Meskipun trik untuk memanipulasi video telah lama tersedia, deepfake telah membuatnya lebih mudah untuk dilakukan. Selain itu, video yang dihasilkan jauh lebih mendekati nyata, yang berarti sangat dapat dipercaya.

Teknologi DeepFake didasarkan pada kecerdasan buatan (AI). Ini digunakan untuk memanipulasi atau bahkan membuat video untuk menyajikan sesuatu yang bahkan tidak terjadi. Dalam teknologi deepfake, AI mempelajari wajah seseorang, dan kemudian secara akurat mengubahnya ke ekspresi orang lain.

Karena penggunaan AI dan pembelajaran mesin, siapa pun dapat dengan mudah dan cepat membuat video yang tampak realistis. Perangkat lunak untuk membuat video DeepFake tersedia dengan mudah, dan tidak memerlukan pengetahuan teknis apa pun untuk mengoperasikannya. Ini telah menyebabkan penyalahgunaan besar-besaran dari teknologi ini.

Siapa pun dapat membuat video deepfake, yang dapat memiliki konsekuensi mengerikan, seperti memicu kemarahan internasional, menodai citra siapa pun, menghancurkan pasar saham, dan banyak lagi.

Kami telah melihat beberapa contoh video deepfake yang menjadi viral, seperti pengumuman layanan masyarakat Obama, video Nancy Pelosi yang diperlambat, video Zuckerberg berbicara terus terang, Trump memberi kuliah di Belgia dan banyak lagi.

DeepFake: Aplikasi atau program yang saat ini mampu mendeteksi konten semacam itu

Sekarang, ada kekhawatiran yang berkembang bahwa video deepfake dapat digunakan untuk mempengaruhi pemilih dalam pemilihan presiden 2020. Namun, ancaman terbesar dari video deepfake adalah jika orang mulai menganggapnya begitu saja, ada kemungkinan semua orang akan mulai meragukan konten video apa pun.

Menyadari ancaman teknologi deepfake semacam itu, pihak berwenang di seluruh dunia membuat undang-undang untuk membatasi penggunaan teknologi yang tidak etis. Namun, undang-undang tidak sepenuhnya cukup untuk mengatasi meningkatnya penggunaan teknologi semacam itu.

Oleh karena itu, perusahaan teknologi dan organisasi penelitian maju untuk membantu mengembangkan aplikasi, program, dan alat untuk mendeteksi video deepfake dan menghapusnya dengan cepat. Misalnya, para peneliti dari USC Information Sciences Institute (USC ISI) telah menciptakan alat untuk melawan deepfake.

Untuk mengidentifikasi apakah video dimanipulasi atau tidak, alat ini mempelajari gerakan wajah dan kepala yang samar, beserta artefak dalam file. Sesuai para peneliti, alat ini dapat mengidentifikasi video dengan akurasi hingga 96%. Alat ini diduga memakan lebih sedikit daya dan waktu komputasi.

Google juga baru-baru ini berkontribusi pada pengembangan alat deteksi deepfake. Raksasa pencarian ini merilis "kumpulan data besar visual deepfake" atau video deepfake. Idenya adalah bahwa para peneliti akan menggunakan video ini untuk melatih perangkat lunak mereka untuk mengidentifikasi atau melihat video deepfake dan membandingkan kinerja detektor mereka. Google berkata:

Dengan menggunakan metode pembuatan deepfake yang tersedia untuk umum, kami kemudian membuat ribuan deepfake dari video ini. Video yang dihasilkan, asli dan palsu, merupakan kontribusi kami, yang kami buat untuk mendukung upaya deteksi deepfake secara langsung

Demikian pula, Facebook, Microsoft, koalisi Kemitraan pada AI, dan beberapa universitas terkemuka bekerja sama untuk membantu dalam pengembangan alat deteksi deepfake. Tujuan dari perusahaan-perusahaan ini adalah untuk mengembangkan kumpulan data video dengan menyelenggarakan kompetisi.

Terlepas dari upaya ini, perusahaan menerapkan tindakan biasa lainnya seperti menggunakan algoritme untuk mendeteksi konten berhak cipta, algoritme yang membagi video menjadi beberapa bagian untuk melacak sumbernya menggunakan penelusuran gambar, penelusuran gambar terbalik, dan verifikasi manual pengguna.

Namun, para ahli merasa bahwa alat atau program semacam itu untuk menemukan video yang dimanipulasi AI bukanlah solusi permanen. Berbicara kepada The Verge, profesor di University of Southern California dan CEO Pinscreen, Hao Li, mengatakan bahwa melanjutkan alat deteksi deepfake mungkin menjadi tidak berguna. Li berkata:

pada titik tertentu kemungkinan tidak akan mungkin untuk mendeteksi [AI palsu] sama sekali. Jadi jenis pendekatan yang berbeda perlu diterapkan untuk menyelesaikan ini

Detektor deepfake saat ini mengandalkan pendeteksian “biometrik lunak”, yang terlalu halus untuk ditiru oleh AI. “Biometrik lembut” ini bisa seperti bagaimana Trump mengangkat alisnya ketika menekankan suatu poin atau gerakan bibirnya sebelum menjawab pertanyaan.

Alat pendeteksi deepfake mempelajari cara mengenali gerakan halus ini dengan mempelajari video sebelumnya dari orang tersebut. Namun, ke depannya, detektor ini akan menjadi tidak berguna setelah teknologi deepfake belajar meniru gerakan halus ini juga.

Dengan demikian, kebutuhannya adalah mengembangkan rencana yang terkoordinasi dan membuat detektor ini berguna di masa mendatang. Agar rencana tersebut berhasil, ada kebutuhan bahwa platform sosial secara jelas mendefinisikan kebijakan mereka tentang deepfake. Li mengatakan:

Minimal, video harus diberi label jika ada yang terdeteksi sebagai dimanipulasi, berdasarkan sistem otomatis

Bagian lain dari rencana terkoordinasi adalah untuk memastikan dukungan keuangan yang berkelanjutan kepada para peneliti dan organisasi yang mengembangkan alat deteksi deepfake baru. Selain itu, pendanaan harus dipastikan kepada para peneliti dan organisasi yang bekerja untuk meningkatkan alat deteksi deepfake saat ini.

Salah satu teknik berguna yang saat ini sedang dikembangkan adalah penggunaan verifikasi Blockchain. Dare App, oleh Eristica Ltd. menggunakan teknik seperti itu untuk melawan deepfake karena pemenang di Eristica dibayar dalam cryptocurrency.

DeepFake: Aplikasi atau program yang saat ini mampu mendeteksi konten semacam itu

Model bisnis Eristica didasarkan pada posting video menantang pengguna, dan dengan demikian, deepfake dapat dengan mudah menjatuhkan perusahaan. Di Blockchain, seseorang dapat melihat transaksi semua orang. Ini membantu perusahaan untuk mendeteksi hal-hal seperti penyimpangan taruhan, termasuk peningkatan tiba-tiba dalam tantangan taruhan tinggi.

Alat deteksi deepfake lain yang sedang dikerjakan beberapa peneliti adalah melatih tikus untuk mendeteksi video deepfake. Menurut para peneliti, tikus memiliki sistem pendengaran yang mirip dengan manusia. Namun, mereka tidak dapat memahami kata-kata yang mereka dengar, dan batasan inilah yang akan dimanfaatkan oleh peneliti.

Ini karena tikus tidak akan mengabaikan tanda-tanda verbal karena mereka tidak akan fokus untuk mendapatkan arti dari kata tersebut. Misalnya, pengucapan alfabet atau kata yang salah. Buku putih penelitian mengatakan:

Kami percaya bahwa tikus adalah model yang menjanjikan untuk mempelajari pemrosesan suara yang kompleks dan bahwa Mempelajari mekanisme komputasi yang dengannya sistem pendengaran mamalia mendeteksi audio palsu dapat menginformasikan algoritma generasi berikutnya yang dapat digeneralisasikan untuk deteksi spoof

Gambar unggulan dari: ai.facebook.com

Facebook Twitter Google Plus Pinterest