Foto burung hantu? Begini cara bot sensor Tumblr tertipu

CATATAN: Untuk semua berita terbaru dan terkini terkait larangan konten dewasa Tumblr serta alternatifnya, buka di sini.

Pembaruan (09 Desember):

Kami telah menemukan dua platform lagi – Explicitr dan Suffra – yang juga menawarkan diri mereka sebagai alternatif Tumblr. Info lebih lanjut tentang mereka di sini.

Cerita asli berikut:

Dari aplikasi iOS-nya yang dihapus hingga perusahaan yang mengumumkan semacam larangan menyeluruh terhadap pornografi, banyak yang telah terjadi di Tumblr dalam beberapa minggu terakhir. Sekarang setelah debu mereda, kami melihat pengguna telah bermigrasi ke platform lain, atau mencari alternatif. Beberapa bahkan meluncurkan petisi atau merencanakan protes.

Namun, kini terungkap bahwa ada pengguna yang mencoba menguji batas algoritma sensor konten Tumblr. Beberapa tangkapan layar dan detail yang diposting dalam posting blog di Tumblr (yang sekarang telah dihapus, tetapi tidak sebelum media sosial mengambilnya) mengungkapkan bahwa censorbots dapat dibodohi dengan menempatkan foto dengan ukuran tertentu pada konten aslinya.

Tweet berikut menunjukkan bagaimana seseorang tampaknya berhasil menipu algoritma Tumblr dengan mentransplantasikan gambar burung hantu pada gambar yang ditandai sebagai eksplisit oleh bot sensor Tumblr. Perlu disebutkan bahwa ini hanya tercapai ketika gambar burung hantu diskalakan 50%. Lihatlah:

Jadi, inilah sesuatu. Pengguna sedang menguji batas algoritma baru Tumblr yang menandai konten dewasa (alias "censorbot"). Yang ini menemukan bahwa dada seorang pria ditandai, tetapi dada seorang pria di sebelah burung hantu skala 50% tidak diperhatikan.

Segalanya tampak berjalan dengan baikhttps://t.co/FU1MudA0K9 pic.twitter.com/Tmm0JyPWJC

— Chappell Ellison ( )و✎ (@ChappellTracker) 7 Desember 2018

Ada banyak cara di mana pendeteksian objek oleh perangkat lunak dapat dikelabui dan transplantasi objek tampaknya adalah salah satu caranya. Seseorang di utas Twitter ini menunjuk ke arah penelitian terbaru tentang ini:

Sebuah makalah akademis dari Agustus menjelaskan teknik yang disebut transplantasi objek. Anda dapat mengelabui algoritme dengan menempelkan objek lain ke gambar. https://t.co/yA7ys3YMIf

— … (@ultraspank) 7 Desember 2018

Jadi apa artinya ini? Bisakah foto burung hantu menyimpan konten NSFW Anda? Yah, kami tidak yakin saat ini, tetapi bahkan jika itu masalahnya, Tumblr dapat mengubah algoritme mereka untuk menyambungkan lubang loop ini. Untuk apa nilainya, obrolan di Twitter menyarankan perusahaan menggunakan perangkat lunak open_nsfw dari induknya Yahoo.

Mereka menggunakan open_nsfw, jaringan saraf yang dilatih untuk mengidentifikasi konten nsfww, yang memiliki lapisan dua neuron nsfw dan sfw yang saling bersaing yang digabungkan untuk hasil akhir, jadi secara harfiah menyertakan gambar lanskap dengan gambar dapat meningkatkan SFW Guy dan turunkan nsfw %

— Mincer the Chunk-Seeking Construct (@an_gremlin) 7 Desember 2018

Telah berspekulasi bahwa open_nsfw, jaringan saraf sumber terbuka yang dikembangkan oleh Yahoo (mantan perusahaan induk Tumblr) adalah yang digunakan Tumblr untuk menandai konten. Artikel menarik tentang hal-hal seperti itu:https://t.co/yA1FvN5dOP
CW untuk seni NSFW abstrak dan, eh, matematika, kurasa

— Michael Kinyon (PoGo: 7359 4209 7503) (@mkinyon) 4 Desember 2018

Dan seperti yang telah ditunjukkan orang lain, perangkat lunak ini memiliki beberapa perbedaan besar.

Menurut Yahoo open nsfw, ini adalah gambar paling tidak aman untuk bekerja yang sejauh ini diambil oleh penjelajah penasaran mars, dengan skor 96%. pic.twitter.com/IEsimSEAlE

— Pim de Groot (@mifune) 3 Desember 2018

Facebook Twitter Google Plus Pinterest