GadgetDiva – Fanvue, sebuah platform influencer, baru saja mengumumkan hasil kontes "Miss AI" pertama mereka, yang bertujuan untuk menilai influencer media sosial yang dihasilkan oleh AI sekaligus berfungsi sebagai ajang publisitas. Pemenangnya adalah Kenza Layli, influencer fiktif asal Maroko dengan lebih dari 200.000 pengikut di Instagram. Namun, kontes ini langsung menuai kritik dari perempuan yang bekerja di bidang AI.

"Ini adalah langkah lain menuju objektifikasi perempuan melalui AI," kata Dr. Sasha Luccioni, peneliti AI dari Hugging Face, kepada Ars Technica. "Sebagai seorang perempuan yang bekerja di bidang ini, saya tidak terkejut tetapi kecewa."

Influencer Instagram yang dihasilkan oleh AI dilaporkan semakin banyak bermunculan sejak alat-alat sintesis gambar seperti Stable Diffusion memungkinkan pembuatan gambar perempuan provokatif dalam jumlah tak terbatas. Teknik seperti Dreambooth memungkinkan penyempurnaan model AI pada subjek tertentu (termasuk yang dihasilkan oleh AI) untuk ditempatkan dalam berbagai latar.

Source : Arstechnica

Teknologi ini telah menarik kritik sejak muncul pada tahun 2022, jadi tidak mengherankan jika para kritikus merasa bahwa kontes "Miss AI" menetapkan preseden yang tidak baik dan mengobjektifikasi perempuan. "Di bidang yang memiliki kurangnya keragaman gender yang mencolok, tidak mengherankan bahwa kini menggunakan AI untuk menghasilkan gambar-gambar perempuan ideal," tambah Luccioni.

Namun, kontes yang merupakan bagian dari "World AI Creator Awards" (WAICAS), tampaknya dirancang sedemikian rupa sehingga bahkan liputan negatif pun berfungsi sebagai publisitas bagi perusahaan yang menghasilkan uang dari segala bentuk perhatian di internet, baik melalui AI maupun tidak. Dalam beberapa hal, cerita yang lebih besar adalah bahwa kepalsuan yang dihasilkan oleh AI telah meresap ke dalam budaya sehingga outlet seperti CNN sekarang tampaknya merujuk pada gambar yang dihasilkan oleh AI seolah-olah mereka adalah manusia.

Dalam artikel CNN berjudul, "Miss AI pertama telah dinobatkan — dan dia adalah influencer gaya hidup asal Maroko," jurnalis mode Jacqui Palumbo menulis, "Kenalkan Kenza Layli, seorang influencer gaya hidup asal Maroko yang berharap untuk membawa 'keragaman dan inklusivitas' ke dalam lanskap kreator AI. Dengan hampir 200.000 pengikut di Instagram, dan 45.000 lebih di TikTok, Layli sepenuhnya dihasilkan oleh AI, mulai dari gambar hingga caption dan pidato penerimaan yang dipenuhi kata-kata buzzer."

Tentu saja, tidak mungkin bertemu dengan Layli—dia tidak nyata. Layli adalah ciptaan Myriam Bessa, pendiri agensi Phoenix AI, yang akan menerima hadiah uang tunai sebesar $5.000 untuk kreasinya. CNN kemudian mengutip pidato penerimaan video dari Layli yang tampak seperti video orang nyata dengan penggantian wajah yang dihasilkan oleh AI: "Saat kita melangkah maju, saya berkomitmen untuk mempromosikan keragaman dan inklusivitas di bidang ini, memastikan setiap orang memiliki tempat di meja kemajuan teknologi." Pidato tersebut tidak banyak berarti, karena kemungkinan besar diucapkan oleh perangkat lunak atau ditulis oleh pencipta manusianya.

Pemenang Kedua dan Ketiga Serta Kontroversinya

Source : Ars Technica

Kontes "Miss AI" juga menampilkan pemenang kedua dan ketiga: Lalina, yang diciptakan di Prancis, dan Olicia C, yang diciptakan di Portugal. Melihat feed Instagram mereka secara singkat menunjukkan gambar-gambar perempuan virtual berbikini di latar eksotis dan artistik. Panel empat juri, dua di antaranya tampak dihasilkan oleh AI, memutuskan pemenangnya.

Aturan kontes yang membingungkan tampaknya menggabungkan karakter fiktif dan penciptanya, mengatakan bahwa peserta dinilai berdasarkan tiga kriteria: kecantikan (termasuk standar kontes kecantikan seperti "pembawaan" dan jawaban atas pertanyaan seperti "Jika Anda memiliki satu impian untuk membuat dunia menjadi tempat yang lebih baik, apa itu?"), teknologi (poin untuk keterampilan dalam menerapkan model AI dan merender detail visual), dan pengaruh sosial (berdasarkan pengikut media sosial dan keterlibatan dengan penggemar).

Peneliti etika AI Dr. Margaret Mitchell (juga dari Hugging Face) tentang kontes ini, dia menjawab dengan serangkaian pertanyaan yang mencerminkan kebingungan yang sama. "Ini dimaksudkan untuk memberdayakan pencipta AI? Tetapi pemenangnya dihasilkan oleh AI? Apakah ini para pencipta atau orang yang dihasilkan oleh AI? Atau hanya 'Kenza' yang dihasilkan oleh AI, dan dia menang, tetapi yang lain tidak? Apa yang terjadi?" katanya, dikutip dari Ars Technica.

"Oke, saya mengerti. Kontes ini untuk perempuan yang dihasilkan oleh AI, tetapi situs web WAICAS membuatnya tampak lebih seperti memberdayakan pencipta daripada apa yang sebenarnya dilakukan, yaitu memperkuat standar kecantikan yang tidak realistis." lanjutnya.

Bagi Mitchell, tren influencer AI tampaknya mempercepat masalah yang sudah ada dengan influencer manusia: Mereka bebas memilih dan memanipulasi gambar untuk menyajikan pandangan yang tidak realistis tentang kenyataan yang oleh beberapa peneliti dianggap dapat berdampak negatif pada anak perempuan dan perempuan yang melihatnya secara online.

"Saya merinding memikirkan kerusakan yang akan ditimbulkan pada citra diri anak perempuan," kata Mitchell.

"Barbie saja sudah menciptakan banyak masalah, dan itu bahkan tidak dirancang untuk terlihat seperti orang sungguhan. Ketika standar feminin yang tidak realistis diberi penghargaan, anak perempuan yang beranjak dewasa melihat diri mereka di cermin dan melihat semua cara mereka tidak memenuhi standar tersebut. Selanjutnya: Peningkatan besar-besaran produk kulit yang meragukan, gangguan makan, dan dismorfia tubuh di kalangan remaja muda." tutupnya.

Cek berita teknologi, review gadget dan video Gadgetdiva.id di Google News. Baca berita otomotif untuk perempuan di Otodiva.id, kalau butuh in-depth review gadget terkini kunjungi Gizmologi.id. Bagi yang suka jalan-jalan, wajib baca Traveldiva.id.