Ratusan ribu foto wanita ‘dibuat telanjang’ dengan menggunakan sebuah bot bernama Deepfake. Foto tersebut diambil dari akun media sosial, lalu dibagikan secara online, menurut sebuah laporan.

Dilansir dari BBC, Pakaian dari foto para wanita tersebut diedit menggunakan teknologi Artificial Intelligence (AI) dan disebarkan pada aplikasi Telegram.

Menurut sebuah laporan dari perusahaan intelijen Sensity, beberapa dari mereka yang menjadi target nampaknya masih di bawah umur. Namun, mereka yang mengubah foto terseut mengatakan bahwa perilakunya ini hanya “hiburan”.

BBC telah menguji software yang digunakan untuk mengedit foto tersebut dan menerima hasil yang buruk. Sementara, Sensity berhasil mengungkap bahwa teknologi yang digunakan adalah bot Deepfake.

Deepfake sendiri merupakan computer-generated yang menghasilkan gambar dan video yang realistis. Sering kali berdasarkan template nyata. Salah satu kegunaannya adalah untuk membuat klip video porno palsu dari selebriti.

Kepala Eksekutif dari Sensity, Giorgio Patrini menyatakan bahwa penggunaan foto pribadi ini adalah hal relatif baru. “Memilki akun media sosial dengan foto publik sudah cukup bagi siapa saja untuk dijadikan sasaran,” tandasnya.

Bot yang digunakan ini ternyata memang ada di dalam aplikasi perpesanan Telegram. Pengguna dapat mengirim bot foto seorang wanita dan secara digital dapat menghapus pakaiannya dalam hitungan menit, tanpa biaya.

BBC menguji beberapa gambar, semua dengan persetujuan subjek dan tidak ada yang benar-benar realistis. Hasil yang mereka dapatakan menyertakan foto seorang wanita dengan pusar pada diafragma.

Aplikasi serupa telah ditutup tahun lalu, namun diyakini ada versi crack dari software yang beredar. Administrator yang menjalankan layanan yang hanya dikenal sebagai “P” berkata, “Saya tidak terlalu peduli. Ini adalah hiburan yang tidak membawa kekerasan. Tidak ada yang akan memeras siapapun dengan software ini karena kualitasnya tidak realistis.”

Ia juga mengatakan timnya melihat foto apa saja yang dibagikan dan “ketika kami melihat anak di bawah umur, kami memblokir pengguna tersebut untuk selamanya.”

Ia juga menambahkan bahwa keputusan untuk membagikan foto tersebut dengan orang lain tergantung pada siapapun yang menggunakan bot tersebut untuk membuatnya.

Mempertimbangkan tingkat kerugian relatifnya, dirinya menambahkan, “banyak hal buruk dan berbahaya yang terjadi di dunia.” Dia juga mengklaim akan segera menghapus semua gambar tersebut. Sementara itu, Telegram belum menanggapi hal ini.

Sensity melaporkan bahwa antara Juli 2019 dan 2020, ada sekitar 104.852 wanita yang telah menjadi korban dari kejahatan tersebut. Foto telanjang palsu mereka tersebut dibagikan secara publik.

Investigasi yang mereka lakukan juga menemukan bahwa ada beberapa foto wanita di bawah umur. “Menunjukkan bahwa beberapa pengguna menggunakan bot untuk membuat dan berbagi konten paedophilic.”

Sensity megnatakan bot tersebut telah memiliki iklan yang signifikan di situs media sosial Rusia VK dan survei pada platform tersebut menunjukkan bahwa sebagian besar pengguna berasal dari Rusia dan negara-negara bekas Uni Soviet.

Namun, VK berkata, “Tidak mentolerir konten atau link semacam itu pada platform dan memblokir komunitas yang mendistribusikannya.”

Telegram sendiri secara resmi dilarang di Rusia hingga awal tahun ini. “Banyak dari situs web atau aplikais ini tidak bersembunyi atau beroperasi di bawah tanah karena tidak dilarang secara tegas,” kata Giorgio Patrini dari Sensity. “Sampai hal ini terjadi, saya khawatir akan bertambah buruk.”

Penulis laporan ini menyatakan bahwa mereka telah membagikan temuan mereka dalam Telegram dan VK kepada lembaga penegak hukum lainnya. Namun, belum ada tanggapan apapun yang berhasil didapatkan.

Nina Schick, penulis buku Deep Fakes and The Infocalypse, mengatakan pembuat deepfake ada di seluruh dunia dan perlindungan hukum mencoba menangkap mereka dengan teknologi.

“Hanya masalah waktu sampai konten tersebut menjadi lebih canggih. Jumlah video porno deepfake sepertinya berlipat ganda setiap enam bulan,” katanya.

“Sistem hukum kami tidak sesuai untuk tujuan dalam masalah ini. Masyarakat berubah lebih cepat dari yang dapat kami bayangkan karena kemajuan teknologi yang eksponensial ini dan kami sebagai masyarakat belum memutuskan bagaimana mengaturnya. Ini sangat buruk, bagi korban porno palsu. Ini benar-nbenar dapat mengubah hidup merkea karena mereka merasa dilecehkan dan dihina.”

Tahun lalu, negara bagian Virginia di AS menjadi salah satu tempat pertama yang melarang deepfake. Undang-undang Inggris saat ini seputar foto telanjang palsu baru-baru ini dikritik karena “tidak konsisten, ketinggalan zaman dan membingungkan” dalam laporan universitas.

Meskipun ada kemajuan dalam isu-isu seperti revenge porn dan upskirting, “maish banyak celah mencolok dalam hukum,” kata Lucy Hadley dari badan amal Women’s Aid.

Statistik menunjukkan seberapa luas penyebaran foto palsu, saat ini hal tersebut bukanlah pelanggaran khusus. Pemerintah telah menginstruksikan Komisi Hukum untuk meninjau undang-undang seputar masalah tersebut di Inggris dan Wales. Penemuannya akan jatuh tempo pada 2021.

Baca juga, Saingin Tinder dan Bumble, Facebook luncurkan aplikasi kencan di Inggris