Aplikasi Discord dikabarkan telah menggandeng perusahan yang mengerjakan alat AI untuk mendeteksi pelecehan secara online. Perushaan tersebut bernama Sentropy.

Dilansir dari The Verge, tujuan Discord menggandeng perusahaan adalah untuk memantau jaringan online untuk penyalahgunaan dan pelecehan, kemudian menawarkan kepada pengguna cara untuk memblokir orang yang bermasalah dan menyaring pesan yang tidak ingin mereka lihat.

Produk konsumen pertama dari perusahaan tersebut adalah Sentropy Protect yang awalnya difokuskan untuk membantu penngguna membersihkan feeds Twitter mereka. Yaitu, dengan membuat alat perusahaan bagi perusahaan dalam mendukung moderasi.

Sentropy sendiri saat ini sedang mematikan alat buatannya dan bergabung sendiri dengan Discord, dimana mereka berencana untuk membantu aplikasi obrolan yang sangat poopuler tersebut untuk memperluas dan mengembangkan kemampuan dalam hal kepercayaan dan keamanan.

Kerja sama ini nampaknya dapat menjadi kolaborasi yang baik antar keda belah pihak. Discord sendiri memiliki jaringan yang sangat besar dengan lebih dari 150 juta pengguna bulanan dan server dapat menjadi tantangan nyata untuk dimoderasii. Layanan ini terdiri lebih dari 19 juta komunitas individu dan skala tersebut membutuhkan kerja sukarelawan dan tim dalam Discord untuk dimoderasi dengan benar.

Alat seperti yang dibuat Sentropy dapat membantu kedua kelompok memantau dengan lebih baik perilaku buruk di jaringan yang mereka awasi. Discord akan menggunakan akuisisi tersebut untuk memperluas kemampuannya dalam mendeteksi dan menghapus konten buruk dan mengembangkan tim keamanannya, menurut juru bicara perusahaan. Mereka mengatakan kepercayaan dan keamanan adalah prioritas utama untuk Discord.

Baca juga, Netflix Perbarui Fitur Pada Kategori Kids