Biaya Token Turun, Pengeluaran Perusahaan untuk AI Melonjak

kompas.id
7 jam lalu
Cover Berita

Harga token untuk model AI cenderung menurun dalam beberapa tahun terakhir. Namun, pengeluaran perusahaan untuk adopsi kecerdasan artifisial atau akal imitasi justru melonjak. Kondisi ini memicu pergeseran biaya operasional dunia bisnis dari tenaga kerja ke token AI.

AI kini semakin terjangkau untuk digunakan. Laporan Stanford University Human-Centered Artificial Intelligence bertajuk AI Index Report 2025 mencatat penurunan harga token pada model AI setara dengan GPT-3.5 dengan skor kemampuan pengetahuan umum dan bahasa 64.8. 

Pada November 2022, biaya inferensi model dengan kemampuan setara GPT-3.5 mencapai sekitar 20 dollar AS per 1 juta token input. Token adalah unit teks yang digunakan model AI untuk memproses informasi, sekaligus menjadi standar untuk mengukur dan menetapkan biaya AI.

Baca JugaBiaya Tinggi Pengembangan Kecerdasan Buatan

Artinya, untuk 1 juta potongan kata atau karakter yang dituliskan pengguna pada model AI GPT-3.5, harganya 20 dolar AS. Pada Oktober 2024, biaya inferensi untuk model serupa turun menjadi 0,07 dolar AS per satu juta token. Penurunannya berkisar 280 kali lipat dalam 18 bulan.

Laporan terbaru Bain & Co, biro konsultasi manajemen global yang diterbitkan, Rabu (10/6/2026), juga mencatat penurunan harga token AI. Pada model Azure dari Microsoft, misalnya, harga token AI pada periode Desember 2024 - Desember 2025 turun sekitar 50 persen. 

Penurunan ini tidak terlepas dari persaingan berbagai produsen model AI di dunia. Pada saat yang sama, menurut laporan Bain & Co, konsumsi token melonjak hingga 450 persen. Kondisi ini berimbas pada peningkatan tagihan atau biaya yang harus dikeluarkan perusahaan untuk AI.

Chief Economist Apollo Global Management (firma bisnis dan inovasi) Torsten Slok menilai, ketika harga token menjadi lebih murah, perusahaan tidak mengurangi pengeluarannya. Sebaliknya, mereka menjalankan lebih banyak agen AI hingga mengotomatisasi lebih banyak alur kerja dan kode.

”Akibatnya, total pengeluaran untuk AI terus meningkat meskipun biaya per token terus turun, bahkan mencapai 90 persen sejak 2023,” tulis Slok dalam laman Apollo, pekan lalu. Slok bahkan menyebutkan fenomena peningkatan pengeluaran AI itu sebagai ”Paradoks Jevons”.

Paradoks Jevons

Paradoks Jevons adalah fenomena ekonomi yang dicetuskan ekonom Inggris, William Stanley Jevons, pada 1865. Jevons mengamati bahwa ketika penggunaan batu bara membuat operasional mesin uap lebih efisien, industri justru meningkatkan pemakaiannya, bukan menguranginya. 

Fenomena ini seakan terulang kembali dalam pemakaian token AI. Bahkan, terdapat tren yang dikenal dengan tokenmaxxing, yakni praktik karyawan atau perusahaan yang menggunakan AI secara masif dan berlebihan dalam operasional sehari-hari. Tren ini juga dipengaruhi berbagai insentif dari perusahaan teknologi.

Dampaknya mulai terlihat di sejumlah perusahaan besar yang mengadopsi AI secara luas dalam operasional mereka. Presiden sekaligus Chief Operating Officer Uber, Andrew Macdonald, misalnya, baru-baru ini mengatakan, perusahaan layanan transportasi daring tersebut terus menggunakan AI dalam operasionalnya. 

”Perusahaan menghabiskan seluruh anggaran AI tahunan hanya dalam empat bulan pertama tahun ini,” ucap Macdonald, dikutip dari media Fortune, Rabu (17/6/2026). Bahkan, dari laporan Bloomberg, Uber kini membatasi pengeluaran AI hingga 1.500 dolar AS per karyawan per bulan.

Fenomena serupa juga tercermin dari data penggunaan OpenAI. CEO OpenAI Sam Altman men, mengatakan, pemakaian token AI menunjukkan tren kenaikan. Enam setengah tahun lalu, pengguna token teratas dari OpenAI menghabiskan 100.000 token per bulan. 

”Hari ini, jumlah itu kira-kira adalah penggunaan rata-rata per kapita di dunia,” kata Altman dalam wawancara yang disiarkan laman OpenAI beberapa waktu lalu. Kini, lanjutnya, pengguna OpenAI terbesar saat ini rata-rata menghabiskan sekitar 100 miliar token per bulan.

Altman mengakui, sejumlah perusahaan kini mulai mengkhawatirkan peningkatan biaya dari penggunaan AI, termasuk token. Bahkan, ada meme bertuliskan: ”Perusahaan saya menghabiskan seluruh anggaran 2026 hanya di kuartal pertama, bisakah Anda membuatnya lebih efisien?”

Menurut dia, isu tentang besarnya biaya untuk penggunaan AI baru muncul awal tahun ini. Sebelumnya, ia belum mendengar masalah tersebut. Meski demikian, orang yang dikenal sebagai bos ChatGPT ini berkomitmen untuk membuat model AI perusahaannya lebih efisien. 

”Saya pikir, kami akan memiliki banyak cara untuk membantu orang mendapatkan nilai yang lebih besar dengan pengeluaran yang lebih kecil,” ucap Altman. 

Pergeseran biaya

Fenomena melonjaknya biaya untuk AI ini, menurut laporan Bain & Co, akan menggeser biaya operasional perusahaan dari tenaga kerja ke token. Saat ini porsi biaya token di perusahaan di bidang perangkat lunak, penjualan, hingga dukungan pelanggan berkisar 1-2 persen dari biaya tenaga kerja.

”Tetapi dalam beberapa tahun ke depan, angkanya dapat mencapai 20–30 persen dari biaya operasional yang selama ini didominasi tenaga kerja,” tulis analis dalam laporan itu. Laporan tersebut disusun oleh Jue Wang, Anne Hoecker, Ann Bosche, Tamara Lewis, dan Peter Bowen.

Para analis mengingatkan agar perusahaan mengelola lonjakan biaya AI. Tidak hanya dengan menyusun anggaran khusus AI, tetapi juga menghitung manfaat finansialnya. Mereka juga mendorong agar perusahaan memastikan agar penggunaan token memberikan nilai sepadan.

Meski harga token saat ini terus turun, tren itu diprediksi tidak berlangsung selamanya. ”Saya pikir, saat ini harga token pada semua (model AI) akan naik drastis,” ucap Chairman dan Chief Executive Officer IBM (International Business Machines Corporation) Arvind Krishna dalam wawancara di New York Tech Week 2026, Selasa (2/6/2026), waktu New York, AS.

Proyeksi itu tidak terlepas dari besarnya investasi yang dikeluarkan perusahaan AI untuk membangun pusat data dengan kapasitas 125 Gigawatt dalam tiga tahun ke depan. Nilai investasinya diperkirakan 8 - 12 triliun dolar AS. Di sisi lainnya, biaya komputasi, seperti unit pemrosesan grafis (GPU) juga meningkat.

Krishna memprediksi, perusahaan AI nantinya tidak akan memberikan tarif langganan tetap, tetapi mengukur biaya per token yang tentu lebih mahal. ”Transisi ini saya prediksi akan terjadi dalam 24 bulan. Sudah ada empat perusahaan yang mengumumkan hal itu secara tiba-tiba,” ujarnya.

Baca JugaBenarkah AI Mendongkrak Produktivitas?

Oleh karena itu, ia menyarankan para pelaku bisnis untuk menerapkan efisiensi dalam penggunaan AI. Selama ini, biaya AI menjadi mahal karena inefisiensi dalam operasionalnya. Kondisi ini ia ibaratkan seperti truk kontainer 18 roda yang dapat mengangkut beban berat.

Padahal, kebutuhan pengguna hanyalah mengantar anak ke sekolah. ”Anda bisa saja mengantar anak sekolah atau membeli susu menggunakan truk kontainer itu setiap pagi. Tapi, apakah itu kendaraan yang paling efektif? Sebaliknya, kalau Anda ingin pindah rumah setiap tujuh tahun, truk itu sangat tepat,” ujarnya.

AI akan membuat Anda lebih hemat jika digunakan sesuai kebutuhan dengan tepat

Selama ini, katanya, banyak perusahaan yang menggunakan model LLM untuk tugas-tugas sederhana. Hal itu otomatis menelan banyak token dengan biaya tinggi. Padahal, tugas itu bisa dikerjakan oleh model kecil, yang harganya jauh lebih murah, bisa seperseratus dari model besar.

Selain itu, lanjutnya, perusahaan juga perlu menggunakan sistem on premise, yakni menjalankan AI dari infrastruktur sendiri untuk menghindari biaya token dari pihak ketiga sekaligus menjaga keamanan data. ”AI akan membuat Anda lebih hemat jika digunakan sesuai kebutuhan dengan tepat,” ucapnya.



Artikel Asli

Lanjut baca:

thumb
Pengendali Baru MAPI Gelar MTO di Harga Rp1.550 per Saham
• 12 jam laluidxchannel.com
thumb
Jakarta berpotensi cerah berawan pada Jumat sore dan malam
• 18 jam laluantaranews.com
thumb
Detik-detik Roy Suryo Ditangkap Polda Metro Jaya, Kabar Pertama Datang dari Sang Istri Via Telepon
• 11 jam laluviva.co.id
thumb
Frans Anak Buah Fredy Pratama Residivis Kasus Narkoba, Pernah Dibui 8 Bulan
• 2 jam laludetik.com
thumb
Demo Mahasiswa Bubar, Lalu Lintas di Sekitar Gedung DPR Kembali Normal
• 3 menit laludetik.com
Berhasil disimpan.