Penyimpanan dan RAM makin Langka, Gara-gara AI?

Industri memori mengalami struggle medio 2022 hingga awal 2023 akibat harga chip terjun bebas. Saat itu, harga NAND dan DRAM anjlok hingga dijual di bawah biaya produksi. Sementara, di sisi lain stoknya terus mengalami penumpukkan. Untuk menekan kerugian, para produsen pun memangkas produksi besar-besaran. Dampaknya baru terlihat di pertengahan 2023 ketika pasokan di pasar perlahan mulai menipis. Harga NAND yang sebelumnya anjlok kemudian melonjak lebih dari dua kali lipat hanya dalam 6 bulan.

Kenaikan tersebut langsung terasa di tingkat konsumen. Misalnya, SSD Western Digital Black SN850X 2TB yang dulunya jauh lebih murah kini kembali dijual di kisaran USD150 (sekitar Rp2,5 juta) pada awal 2024. Samsung 990 Pro 2TB juga naik dari sekitar USD120 (sekitar Rp2 juta) menjadi lebih dari USD175 (sekitar Rp2,9 juta) dalam periode yang sama. Begitu juga pada pasar DRAM. Modul DDR4 yang sempat menjadi barang obral pada 2023 kini mengalami kelangkaan karena produksi mulai dikurangi. Bahkan, harga DDR4 PC-grade untuk kuartal ketiga 2025 diperkirakan bakal melonjak hingga lebih dari 40 persen.

Baik pelatihan maupun pengoperasian LLM (Large Language Model) jelas membutuhkan memori dan penyimpanan dalam jumlah besar. Satu node GPU saja bisa memakan ratusan gigabyte DRAM dan beberapa terabyte flash. Di pusat data berskala lebih besar, kebutuhan ini tentu saja bakal meningkat jauh lebih fantastis. Salah satunya seperti proyek Stargate milik OpenAI yang baru saja menandatangani kesepakatan dengan Samsung dan SK hynix hingga 900 ribu wafer DRAM per bulan. Cukup mengejutkan karena jumlah ini setara dengan sekitar 40 persen produksi DRAM global.

Pemain besar lain, seperti penyedia layanan cloud, juga mengambil langkah serupa. NAND berkapasitas tinggi sudah habis dipesan jauh sebelum dirilis. Produk Samsung V9 NAND hampir seluruhnya sudah ter-booking bahkan sebelum diluncurkan. Micron pun mengatakan kalau hampir seluruh produksi High Bandwidth Memory (HBM) mereka sudah terjual hingga 2026. Kalau sebelumnya kontrak pembelian cuma mencakup jangka waktu satu kuartal, kini banyak perusahaan besar mulai mengamankan pasokan untuk bertahun-tahun ke depan langsung dari produsen.

Dalam beberapa tahun terakhir, produsen memori mulai mengubah fokus produksi mereka. Samsung, SK hynix, dan Micron kini lebih banyak berinvestasi pada HBM karena jenis memori ini memberikan keuntungan yang lebih tinggi. Hal ini tentu saja ada konsekuensinya. Setiap wafer yang dipakai untuk membuat HBM tentu bakal mengurangi kapasitas produksi DRAM dan NAND biasa. Selain berfokus pada HBM, produsen juga lebih mengutamakan pembuatan NAND 3D QLC untuk kebutuhan perusahaan besar.

Gara-gara perubahan fokus ini, produk-produk RAM dan penyimpanan jadi langka. Salah satunya seperti produksi DDR4 yang tiba-tiba dihentikan di tengah menurunnya permintaan sehingga pasokannya menjadi semakin langka. TLC NAND yang dulu sangat melimpah kini juga dirasionalisasi karena produsen lebih memprioritaskan segmen yang mendatangkan keuntungan lebih besar. Akibatnya, segmen memori lama yang masih banyak digunakan saat ini jadi kekurangan pasokan.

Untuk pertama kalinya NAND flash dan hard disk sama-sama mengalami kelangkaan. Biasanya kalau salah satunya menjadi mahal atau sulit dicari, pasar bisa beralih ke jenis lainnya. Namun, kebutuhan penyimpanan untuk melatih AI kini begitu besar hingga mencapai petabyte sehingga memerlukan ruang yang sangat besar. Data sebesar ini biasanya disimpan di nearline HDD di pusat data. Sayangnya, permintaan di pasar kini sangat tinggi sehingga waktu tunggu untuk HDD berkapasitas besar bisa mencapai lebih dari satu tahun.

Karena nearline HDD semakin langka beberapa perusahaan cloud mulai mempercepat penggunaan QLC flash array sebagai solusi. Dari sisi HDD langkah ini memang cukup membantu, tetapi di sisi lain justru memperbesar tekanan terhadap pasokan NAND. Akibatnya, SSD mulai dipakai untuk pekerjaan yang sebelumnya dianggap terlalu mahal. Situasi ini membuat pasar terjepit dari dua arah. Di satu sisi harga HDD naik akibat pasokan yang terbatas, sementara di sisi lain harga SSD ikut menguat karena permintaan dari perusahaan cloud terus meningkat.

Perkembangan AI yang masif ternyata turut berdampak pada industri memori. Baik proses pelatihan maupun pengoperasian LLM membutuhkan memori dan penyimpanan dalam jumlah besar. Hal ini membuat permintaan di pasar jadi melonjak lebih tinggi dibanding jumlah yang diproduksi. Sementara, di sisi lain produsen justru mengalihkan investasi ke jenis memori bernilai tinggi seperti HBM. Hal ini tentu bikin ketersediaan penyimpanan dan RAM yang umum digunakan jadi makin langka dan bernilai jual tinggi.