Gadgetdiva.id — Ternyata teknologi artificial intelligence memang mahal. Sebuah laporan mengungkap jika teknologi ChatGPT yang berbasis AI memiliki biaya operasional sampai Rp10,3 miliar per hari.

Laporan ini diungkap oleh analis dari SemiAnalysis, Dylan Patel, seperti dilansir dari Digital Trends, Minggu, 23 April 2023. Menurut Patel, biaya operasional ChatGPT dalam sehari membutuhkan sekitar USD700 ribu atau setara Rp10,3 miliar.

Jika di breakdown lebih jauh, ini artinya, dalam satu kueri atau satu tugas yang diperintahkan ke ChatGPT, biayanya sekitar 36 sen atau Rp1053.

Memang harga ini sangat mahal. Tidak heran jika Microsoft pun memutuskan untuk mengembangkan chip AI sendiri untuk menekan biaya operasional mesin canggih tersebut.

Padahal aplikasi chat berbasis AI itu telah menjadi platfom dengan pertumbuhan trafik tercepat tahun ini. Jika banyak aplikasi yang butuh waktu bertahun-tahun untuk bisa mencapai 100 juta pengguna aktif per bulan, aplikasi ini hanya butuh beberapa bulan saja. Rekor ini diraihnya pada Januari 2023.

Namun sayang, kala itu server pun tidak mampu menampung trafik yang besar sehingga layanannya melambat. Perusahaan pun mengambil langkah cepat dengan memperkenalkan versi Plus berbayar. Biaya berlangganan menjadi USD20 per bulan. Sayangnya, belum ada informasi detil terkait dengan berapa banyak pengguna yang berlangganan opsi berbayar.

Operasional Cost ChatGPT

OpenAI saat ini menggunakan GPU Nvidia untuk mempertahankan layanannya. Bukan hanya untuk ChatGPT, tetapi juga merek-merek yang bermitra dengannya. Analis industri memperkirakan OpenAI kemungkinan akan membutuhkan sekira 30.000 GPU tambahan dari Nvidia untuk mempertahankan kinerja komersialnya sampai akhir 2023 saja.

Dengan Microsoft sebagai salah satu kolaborator dan investor utamanya, OpenAI mungkin akan bekerja sama dengan brand teknologi untuk membantu mengembangkan perangkat keras guna menurunkan biaya operasional. Menurut Windows Central, Microsoft sudah memiliki chip AI ini. Dengan nama kode Athena, saat ini sedang diuji secara internal oleh tim Microsoft. Chip tersebut diharapkan akan diperkenalkan tahun depan untuk layanan Microsoft Azure AI.

Tidak ada kabar tentang bagaimana atau kapan chip akan didistribusikan ke OpenAI dan ChatGPT. Namun fakta yang tidak dipungkiri adalah ChatGPT didukung layanan Azure. Chip AI mungkin tidak sepenuhnya menggantikan GPU Nvidia, tetapi dapat membantu mengurangi permintaan perangkat keras, sehingga mengurangi biaya mengoperasikan ChatGPT.

Cek berita teknologi, review gadget dan video Gadgetdiva.id di Google News.

Suka dengan artikel di atas? Click to DONATE