AI Inference Is Entering a Pricing Reset, But Cheaper Models May Not Mean Cheaper AI

• Harga inferensi AI anjlok saat penyedia model bersaing untuk memimpin biaya.
• Kenaikan harga DeepSeek menunjukkan bahwa perlombaan menuju titik terendah mungkin sudah mulai berbalik.
• AI yang lebih murah bisa mendorong lebih banyak penggunaan, menggeser nilai dari model ke chip dan infrastruktur.

Pertarungan berikutnya di industri AI bukan tentang siapa yang memiliki model paling pintar. Ini soal siapa yang bisa menjalankan tugas dengan harga termurah. Perubahan itu menjadi jelas bulan ini, saat laboratorium AS menurunkan harga untuk menahan pesaing China yang lebih murah, namun pesaing termurah, DeepSeek, berbalik dan menaikkan suku bunga sendiri.

Mengapa Biaya, Bukan Hanya Kemampuan, Sekarang Menentukan Pasar

Model open-weight asal Tiongkok diam-diam mengambil alih. Laporan tahun ini menunjukkan penyedia China kini menangani lebih dari setengah dari seluruh lalu lintas yang dirutekan AS di OpenRouter, platform yang digunakan banyak pengembang untuk membandingkan dan mengakses model, naik dari sekitar sepersepuluh tahun sebelumnya.

Pitch-nya sederhana: performa hampir batas dengan harga yang jauh lebih murah. Tekanan itu memaksa OpenAI untuk bertindak.

Pada 30 Juli, mereka menurunkan harga input untuk GPT-5.6 Luna sebesar 80%, dari $1 menjadi $0,20 per juta token, dengan harga output turun dari $6 menjadi $1,20. Data yang dikutip Jefferies dari Silicon Data menunjukkan rata-rata biaya inferensi perusahaan turun dari sekitar $2,04 per juta token pada akhir Mei menjadi sekitar $1,16-$1,18 pada Agustus, titik terendah tahunan.

Perubahan Arah DeepSeek

Sementara itu, perusahaan yang memulai perang harga justru menaikkan harganya sendiri secara signifikan. Mulai 16-17 Agustus, DeepSeek memperkenalkan penagihan puncak dan luar puncak untuk model V4-Pro dan V4-Flash, dengan kenaikan mulai dari 50% hingga lebih dari 1.100% tergantung pada model dan waktu dalam sehari.

Output V4-Pro melonjak dari $0,87 menjadi $3,96 per juta token pada puncak (pukul 9 pagi-12 siang dan 2 siang-6 sore waktu Beijing), atau $1,98 di luar jam puncak. Output V4-Flash naik dari $0,28 menjadi $1,32 saat puncak, dan menjadi $0,66 di luar puncak.

DeepSeek mengatakan perubahan ini dimaksudkan untuk menyebarkan permintaan secara lebih merata di seluruh infrastrukturnya. Bahkan setelah kenaikan tersebut, tarifnya tetap di bawah banyak pesaing, tetapi kesenjangan dengan model Luna yang didiskon dari OpenAI telah menyempit tajam, dan dalam beberapa perbandingan jam sibuk, benar-benar hilang.

Sudut Paradoks Jevons

Harga yang turun tidak selalu berarti tagihan juga turun. Ketika setiap tugas menjadi jauh lebih murah, menjadi ekonomis untuk menjalankan lebih banyak tugas: agen multi-langkah, alur kerja otomatis, dan proses yang sebelumnya tidak layak diotomatisasi.

Para analis sudah mencatat bahwa beban kerja agen yang menghubungkan puluhan panggilan, yang dulu tidak praktis, kini lebih murah daripada satu panggilan beberapa minggu sebelumnya. Itulah paradoks klasik Jevons: peningkatan efisiensi dapat memperluas total konsumsi lebih cepat daripada mengecilkan harga per unit. Dengan kata lain, pengeluaran AI perusahaan bisa terus naik meskipun biaya per tugas turun.

Siapa yang Benar-benar Kalah

Jika inferensi terus bergerak menuju harga komoditas, pengembang model yang bersaing pada output mentah menghadapi tekanan terbesar, terutama karena OpenAI dan Anthropic mengejar IPO dengan valuasi mendekati $1 triliun. Margin token yang lebih tipis membuat penilaian tersebut lebih sulit dibenarkan hanya melalui penjualan model.

Infrastruktur terlihat lebih terinsulasi. Lebih banyak tugas, agen, dan panggilan inferensi masih membutuhkan chip, kapasitas cloud, dan pusat data, terlepas dari siapa yang memenangkan perang harga.

Terkait: Gemini 3.7 Flash Bisa Menjadikan Kripto Tempat Uji Terbaik untuk Agen AI