Samsung HBM4 36GB MTV
Perkembangan Artificial Intelligence (AI) membuat kebutuhan terhadap komputasi semakin besar. Model AI modern membutuhkan GPU dengan kemampuan pemrosesan tinggi sekaligus memori yang mampu menyediakan data dengan cepat. Salah satu teknologi yang dikembangkan untuk memenuhi kebutuhan tersebut adalah High Bandwidth Memory (HBM).
Pada 2025, teknologi HBM memasuki generasi baru melalui HBM4, yang menawarkan kapasitas dan bandwidth lebih tinggi untuk mendukung kebutuhan komputasi AI.
Dasar Teori: GPU dan Memori
GPU (Graphics Processing Unit) pada awalnya dirancang untuk mengolah grafis, tetapi arsitekturnya yang memiliki banyak unit komputasi membuatnya sangat cocok untuk AI. Proses seperti training dan inference membutuhkan pengolahan data dalam jumlah besar secara paralel.
GPU membutuhkan memori untuk menyimpan parameter model, data, dan hasil perhitungan. Kecepatan perpindahan data antara GPU dan memori disebut memory bandwidth.
Secara sederhana:
Bandwidth = jumlah data × kecepatan transfer
Semakin tinggi bandwidth, semakin cepat GPU dapat menerima data yang dibutuhkan untuk melakukan komputasi.
Apa Itu HBM4?
High Bandwidth Memory (HBM) merupakan teknologi memori yang dirancang untuk menyediakan bandwidth sangat tinggi dengan menempatkan beberapa lapisan chip memori secara vertikal dan menghubungkannya menggunakan teknologi interkoneksi khusus.
Berbeda dengan memori konvensional yang menggunakan jalur data lebih terbatas, HBM menggunakan interface yang sangat lebar. Pendekatan ini memungkinkan data dalam jumlah besar dikirim ke GPU dengan cepat.
Pada Maret 2025, SK hynix mengumumkan pengiriman sampel HBM4 12-layer kepada pelanggan. Produk tersebut memiliki kapasitas 36 GB dan bandwidth lebih dari 2 TB/s per stack. Perusahaan menargetkan produksi massal pada paruh kedua 2025.
Mengapa AI Membutuhkan Bandwidth Tinggi?
Model AI modern memiliki jumlah parameter yang sangat besar. Ketika GPU melakukan perhitungan, data harus terus dipindahkan antara unit komputasi dan memori.
Jika GPU memiliki kemampuan komputasi sangat tinggi tetapi memori tidak mampu menyediakan data dengan cukup cepat, GPU dapat mengalami memory bottleneck. Akibatnya, sebagian kemampuan komputasi GPU tidak dapat dimanfaatkan secara maksimal.
HBM membantu mengatasi masalah tersebut dengan menyediakan bandwidth tinggi dan kapasitas memori yang besar dalam bentuk yang relatif dekat dengan GPU.
HBM4 untuk Generasi AI Berikutnya
Perkembangan HBM4 tidak hanya terjadi pada SK hynix. Pada Juni 2025, Micron juga mengumumkan pengiriman sampel HBM4 36 GB kepada pelanggan utama. HBM4 Micron menggunakan interface 2048-bit dan menawarkan bandwidth lebih dari 2 TB/s per stack.
Peningkatan bandwidth dan kapasitas tersebut menjadi penting karena kebutuhan AI terus berkembang. Model yang semakin besar membutuhkan lebih banyak data untuk disimpan dan diproses secara bersamaan.
Dengan demikian, perkembangan GPU AI tidak dapat dipisahkan dari perkembangan teknologi memori. GPU yang semakin cepat harus didukung memori yang mampu memasok data dengan kecepatan yang seimbang.
Kesimpulan
HBM4 menjadi salah satu perkembangan penting dalam teknologi memori untuk AI pada 2025. Dengan bandwidth hingga lebih dari 2 TB/s per stack dan kapasitas yang semakin besar, HBM4 dirancang untuk mengurangi hambatan perpindahan data pada sistem komputasi AI.
Perkembangan ini menunjukkan bahwa masa depan AI bukan hanya ditentukan oleh seberapa cepat GPU melakukan perhitungan. Kemampuan memori dalam menyediakan data dengan cepat juga menjadi faktor penting dalam menentukan performa sistem AI.