Potensi penyalahgunaan deepfake sebenarnya sangat tinggi. Masih ada pula contoh baru yang bermunculan. Salah satunya contohnya dari salah satu warga Pennsylvania yang diduga menggunakan deepfakes untuk mengeluarkan temannya dari grup cheerleader putrinya.

Dilansir dari Engadget, berita ini pertama kali dilaporkan oleh The Philadelpha Inquirer dan Harrisburg’s Patriot-News yang menyatakan bahwa polisi menangkap Chalfont, warga Pennsylvania, Raffaela Spone karena diduga menggunakan deepfakes dalam upaya untuk menendang saingannya dari grup cheerleader putrinya, Victory Vipers.

Menurut penengak hukum, Spone mengirim foto dan video remaja yang telah diubah menggunakan AI kepada pelatih untuk menggambarkan mereka minum, merokok atau telanjang.

Polisi pertama kali menerima kabar pada bulan Juli, ketika salah satu korban menerima pesan dari nomor tak dikenal. Akan tetapi, kabar tersebut membuat orang lain mengungkapkan cerita yang serupa.

Petugas menautkan pesan ke Spone dengan menelusuri nomor ke situs berorientasi telemarketer, lalu mengarahkannya ke alamat IP yang digunakan di rumah Spone. Pencarian di smartphone wanita tersebut ditemukan bukti yang mengaitkannya dengan angka tersebut.

Spone menghadapi tuduhan pelanggaran ringan pelecehan dunia maya terhadap seorang anak dan pelanggaran terkait. Polisi belum mengambil tindakan terhadap putrinya karena tidak ada bukti bahwa dia mengetahui tindakan ibunya tersebut.

Jejarin sosial seperti Facebook, TikTok dan Twitter telah melarang deefake, sehingga kecil kemungkinannya untuk menyebar. Namun, hal tersebut tidak mencegah kampanye pelecehan langsung dan insiden tersebut menggarisbawahi kemudahan yang terlibat dalam membuat pemalsuan – kamu tidak perlu menjadi ahli untuk membuat citra yang tampak masuk akal.

Meskipun ada penelitian tentang menemukan deepfakes, sistem deteksi seperti itu hanya akan membantu jika seseorang mencurigai dan menangkapnya sebelum ada permasalahan yang signifikan.

Baca juga, Facebook Gunakan Teknologi AI untuk Memahami Video dan Membuat Produk Baru