GadgetDiva – Institut Manajemen Pembangunan (IMD) dan TONOMUS Global Center for Digital and AI Transformation telah menciptakan "AI Safety Clock" untuk mengukur risiko perkembangan Kecerdasan Buatan Umum (AGI) yang bisa menjadi tidak terkendali. AGI adalah sistem AI yang dapat beroperasi secara mandiri, sehingga potensi bahayanya bagi umat manusia semakin meningkat.

Menurut Michael Wade, Director Global Center for Digital Business Transformation IMD, terdapat empat fase risiko AGI: rendah, sedang, tinggi, dan kritis. Saat ini, dunia sedang beralih dari fase risiko sedang ke fase risiko tinggi, dan jika perkembangan AGI tidak terkontrol, hal ini dapat berakibat fatal bagi umat manusia.

Wade menegaskan perlunya regulasi yang efektif untuk membatasi risiko tanpa mengurangi manfaat teknologi ini. Dia menyerukan kolaborasi antara pemerintah dan perusahaan teknologi untuk melakukan langkah pencegahan demi keamanan bersama.

Risiko AGI menjadi nyata ketika AI mengambil alih kontrol atas senjata konvensional, mengganggu pasar keuangan, atau mengacaukan infrastruktur penting. Beberapa contoh termasuk pemanfaatan AI dalam persenjataan, infrastruktur energi, dan sistem politik yang dapat membahayakan nyawa manusia.

Dua perkembangan utama dalam AI yang meningkatkan risiko adalah AI multimoda dan AI agen. AI multimoda dapat mengintegrasikan berbagai jenis input, sementara AI agen mampu merencanakan dan membuat keputusan secara otonom. Kombinasi keduanya dapat menghasilkan AGI yang berpotensi berbahaya jika tidak terkendali.

Perkembangan robot humanoid berbasis AI generatif juga menambah kompleksitas risiko. Robot-robot ini dapat beroperasi secara mandiri, dan kemajuan teknologi ini harus dikelola dengan hati-hati agar tidak menjadi ancaman bagi manusia.

Regulasi terkait AI cenderung mengikuti perkembangan teknologi, sehingga seringkali terlambat. Inisiatif seperti EU AI Act dan kebijakan di California menunjukkan langkah positif, tetapi semua pemangku kepentingan, termasuk perusahaan pengembang AI, harus berperan aktif dalam mengurangi risiko.

AI Safety Clock bertujuan meningkatkan kesadaran tentang keamanan AI dan mendorong diskusi konstruktif di kalangan publik, pembuat kebijakan, dan pemimpin bisnis. Jam ini berdasarkan analisis dari lebih 3.500 entitas global, menciptakan platform untuk membahas tantangan dan solusi dalam pengembangan AI yang aman.

Cek berita teknologi, review gadget dan video Gadgetdiva.id di Google News. Baca berita otomotif untuk perempuan di Otodiva.id, kalau butuh in-depth review gadget terkini kunjungi Gizmologi.id. Bagi yang suka jalan-jalan, wajib baca Traveldiva.id.