Hacker Manfaatkan Gemini AI untuk Kembangkan Serangan Siber

GadgetDIVA - Beberapa kelompok yang disponsori negara dilaporkan sedang mengeksplorasi penggunaan asisten AI Gemini dari Google untuk meningkatkan produktivitas mereka dan mendalami potensi infrastruktur untuk serangan atau pengintaian. Laporan dari Threat Intelligence Group (GTIG) Google menyebutkan bahwa kelompok-kelompok ini lebih memanfaatkan Gemini untuk tujuan produktivitas daripada serangan siber baru.

Menurut laporan Bleeping Computer, pelaku ancaman mencoba memanfaatkan alat AI ini untuk mempercepat persiapan serangan mereka. Google mengidentifikasi aktivitas Gemini terkait dengan kelompok APT dari lebih dari 20 negara, dengan yang paling menonjol berasal dari Iran dan Tiongkok.

Beberapa kasus yang umum mencakup penggunaan Gemini untuk membantu tugas pengkodean, penelitian kerentanan yang dipublikasikan, serta pengumpulan informasi tentang organisasi target. Selain itu, Gemini digunakan untuk mencari cara untuk menghindari deteksi dan meningkatkan hak istimewa dalam jaringan yang disusupi.

Kelompok APT dari Iran, China, Korea Utara, dan Rusia semuanya telah bereksperimen dengan Gemini. Iran menjadi pengguna terbanyak, menggunakan Gemini untuk pengintaian terhadap organisasi pertahanan, penelitian kerentanan, pengembangan kampanye phishing, serta pembuatan konten untuk operasi pengaruh.

Aktor yang didukung Tiongkok memanfaatkan Gemini untuk pengintaian terhadap organisasi militer dan pemerintah AS, penelitian kerentanan, serta pembuatan skrip untuk gerakan lateral dan eskalasi hak istimewa. Mereka juga berusaha untuk mengakses Microsoft Exchange dan merekayasa balik alat keamanan seperti Carbon Black EDR.

Kelompok APT dari Korea Utara menggunakan Gemini untuk mendukung berbagai fase siklus hidup serangan, termasuk pengintaian terhadap organisasi target, penelitian penyedia hosting gratis, dan pengembangan malware. Mereka juga menggunakan Gemini untuk merancang lamaran pekerjaan palsu guna menyusup ke perusahaan Barat.

Sementara itu, pelaku ancaman Rusia memiliki keterlibatan minimal dengan Gemini. Mereka lebih fokus pada penggunaan Gemini untuk bantuan skrip, terjemahan, dan pembuatan muatan berbahaya, termasuk menulis ulang malware dan menambahkan fungsionalitas enkripsi.

Google juga mencatat bahwa beberapa pelaku ancaman mencoba menggunakan jailbreak publik untuk melewati langkah-langkah keamanan Gemini, namun upaya tersebut tidak berhasil. Upaya serupa juga pernah dilaporkan oleh OpenAI terkait dengan ChatGPT, menunjukkan bahwa alat AI generatif disalahgunakan secara luas oleh pelaku ancaman di berbagai level.