Laporan JPMorgan: Penggunaan LLM Melonjak 70%, Sewa GPU Naik Tujuh Bulan Beruntun, Permintaan AI Tetap Kuat

Laporan "data center insights" JPMorgan yang dirilis 1 Juli menelusuri tiga indikator utama permintaan infrastruktur AI: penggunaan dan harga token LLM, tarif sewa GPU, serta harga spot chip memori. Kesimpulannya tegas: lingkungan permintaan AI masih konstruktif. Dari sisi LLM, data OpenRouter menunjukkan akselerasi pada Juni. Penggunaan token melonjak 70% secara month-over-month dan meningkat 20 kali secara year-over-year. Harga per invocation naik tipis secara bulanan, tetapi hanya turun 5% secara tahunan; bahkan harga untuk model berbasis AS naik secara year-over-year. Total belanja juga naik 70% secara month-over-month dan 16 kali secara year-over-year. Jika ketiga angka ini dibaca bersamaan, pertumbuhan penggunaan jauh melampaui penurunan harga. JPMorgan menilai ekonomi token masih menguntungkan penyedia model; sekalipun harga token turun 5%–10% per tahun, selama penggunaan terus berlipat ganda, pendapatan inferensi berpotensi melesat. Komposisi belanja menunjukkan konsentrasi kuat pada model AS. Model AS hanya menyumbang 35% dari penggunaan, tetapi menangkap lebih dari 85% total belanja. Anthropic Claude Opus 4.7 menjadi satu-satunya model yang masuk lima besar baik dari sisi penggunaan maupun belanja, mengindikasikan daya harga masih berpihak pada pemain AS. Di sisi komputasi, tarif sewa GPU dari penyedia cloud non-hiperskala naik merata pada Juni, menandai kenaikan tujuh bulan berturut-turut untuk segmen tertentu. Harga sewa A100 naik 6,3% (lima bulan naik beruntun), H100 naik 3,7% (tujuh bulan naik beruntun), dan B200 naik 2,7%, melanjutkan tren naik stabil sejak peluncuran sembilan bulan lalu. Saat ini, harga B200 berada sekitar dua kali H100. Selisih harga antar-tier GPU juga menyempit. Premium H100 terhadap A100 turun dari 1,77x pada April menjadi 1,67x pada Juni. Premium B200 terhadap H100 turun dari 2,58x menjadi 1,96x. Ketersediaan komputasi kelas atas dinilai mulai membaik, tetapi harga tetap naik—menandakan pertumbuhan permintaan mengimbangi penambahan pasokan. Kenaikan A100 yang paling kuat juga penting dicatat: chip generasi sebelumnya tidak turun, justru naik, yang mengindikasikan pelanggan dengan keterbatasan anggaran berebut kapasitas yang lebih hemat biaya—bukan sinyal oversupply. Pada komponen memori, DRAM dan NAND bergerak berlawanan. Harga spot DRAM naik 10% secara month-over-month pada Juni menjadi US$43,14, melonjak 740% secara year-over-year dan mencatat kenaikan tiga bulan beruntun. Harga spot NAND turun tipis 0,3% secara month-over-month menjadi US$27,03, melanjutkan pelemahan kecil selama tiga bulan, tetapi masih naik 518% secara year-over-year. Angka 740% dan 518% menegaskan harga penyimpanan masih berada di level historis tinggi. Polanya juga konsisten dengan siklus: saat puncak siklus mendekat, NAND biasanya melemah lebih dulu, disusul DRAM. Pelemahan NAND tiga bulan beruntun mengisyaratkan siklus memasuki fase akhir, meski JPMorgan tidak menyatakannya secara eksplisit. Secara ringkas, tiga data point—penggunaan LLM naik 70%, sewa GPU naik tujuh bulan berturut-turut, dan DRAM naik 740% secara year-over-year—mengarah pada satu pesan: permintaan infrastruktur AI masih jauh dari puncak. Pada saat yang sama, struktur pasar berubah: belanja terkonsentrasi pada model AS (>"85%"), kelangkaan komputasi high-end mulai mereda (premium B200/H100 turun), dan siklus storage menunjukkan divergensi dengan NAND mulai melunak. Catatan Tide View menyoroti potensi blind spot pada sumber data. OpenRouter terutama melayani developer, startup, dan skenario pemrograman AI agent, serta tidak memasukkan trafik API langsung dari OpenAI dan Anthropic maupun penggunaan internal dari penyedia cloud hiperskala. Artinya, laporan ini lebih mencerminkan "permintaan AI long tail", bukan "total permintaan AI". Jika long tail melonjak, permintaan di "head" bisa lebih panas—namun bisa juga sebaliknya: head sudah mendingin sementara long tail baru menyusul. Dua skenario ini membawa implikasi investasi yang berbeda. Selain itu, tarif sewa GPU yang dilacak adalah kapasitas pihak ketiga dari penyedia non-hiperskala dan tidak mencakup tarif resmi AWS, Azure, maupun GCP. Kenaikan harga di pihak ketiga dapat berarti kelangkaan komputasi merembet ke long tail—positif untuk tren perangkat keras AI—tetapi tidak menjawab tingkat utilisasi penyedia hiperskala. Jika permintaan internal mereka sudah jenuh dan kapasitas surplus belum dilepas ke pasar sewa, kondisi supply-demand sesungguhnya bisa lebih lemah dari yang tersirat. Untuk memori, divergensi harga juga dinilai perlu analisis terpisah. Jika penurunan NAND berlanjut, ekspektasi pendapatan produsen memori berpotensi direvisi turun, lalu menekan proyeksi belanja modal (capex) di rantai sektor peralatan semikonduktor. Disclaimer: Artikel ini merupakan kompilasi dan interpretasi Chaoxiang Research atas laporan riset broker pihak ketiga. Rating, target harga, proyeksi laba, dan penilaian terkait yang dikutip adalah pandangan analis broker dan mewakili posisi institusi masing-masing; bukan pandangan Chaoxiang Research dan tidak merupakan nasihat investasi. Pasar mengandung risiko; keputusan dibuat secara mandiri. Artikel ini tidak boleh dijadikan dasar untuk membeli atau menjual sekuritas apa pun.