NVIDIA Pamerkan Project DIGITS di CES 2025, Superkomputer AI Ringkas

09 Jan 2025, 19:22 WIB

Leo Manik

Project Digits. (dok. Nvidia)

Intinya sih...

Project DIGITS merupakan superkomputer AI personal dengan teknologi NVIDIA Grace Blackwell
GB10 Grace Blackwell Superchip mampu menjalankan model AI besar hingga 200 miliar parameter secara lokal
Perangkat ini dilengkapi dengan spesifikasi RAM 128GB, penyimpanan NVMe 4TB, dan dukungan untuk berbagai framework AI populer

Disclaimer: This summary was created using Artificial Intelligence (AI)

NVIDIA kembali membawa kejutan di ajang Consumer Electronics Show (CES) 2025 melalui pengumuman produk terbarunya, Project DIGITS. Perangkat ini hadir sebagai superkomputer kecerdasan buatan (AI) personal yang menghadirkan teknologi NVIDIA Grace Blackwell dalam bentuk ringkas. Project DIGITS menawarkan kemampuan komputasi AI setara superkomputer, namun, cukup kecil untuk ditempatkan di atas meja kerja.

CEO NVIDIA, Jensen Huang, mengumumkan Project DIGITS sebagai bagian dari misi perusahaan dalam mendorong demokratisasi teknologi AI tingkat tinggi. Perangkat ini membidik beragam pengguna mulai dari peneliti AI, data scientist, hingga pelajar. Melansir blog NVIDIA, Project DIGITS akan tersedia mulai Mei 2025 dengan harga awal 3 ribu dolar AS atau sekitar Rp48 juta.

1. Project DIGITS hadir dengan chip GB10 yang powerful

Project DIGITS. (dok. Nvidia)

Jantung dari Project DIGITS terletak pada chip terbarunya, GB10 Grace Blackwell Superchip. GB10 merupakan system-on-a-chip (SoC) yang mampu menghasilkan performa AI hingga 1 petaflop pada presisi FP4. Perangkat ini diklaim mampu menjalankan seluruh ekosistem perangkat lunak AI NVIDIA.

GB10 mengintegrasikan GPU Blackwell terbaru yang dilengkapi CUDA cores generasi mutakhir serta Tensor Cores generasi kelima. GPU ini terhubung melalui koneksi NVLink-C2C ke CPU NVIDIA Grace berperforma tinggi. CPU Grace sendiri memiliki 20 core hemat daya berbasis arsitektur Arm.

MediaTek, pemimpin pasar dalam desain SoC berbasis Arm, turut berkolaborasi dalam pengembangan GB10. Perusahaan asal Taiwan ini berkontribusi dalam mengoptimalkan efisiensi daya, performa, dan konektivitas chip. Hasil kerja sama ini menghadirkan chip yang mampu memberikan performa tinggi, namun, tetap efisien dalam penggunaan daya.

2. Spesifikasi dan kemampuan yang mengesankan

spesifikasi DIGITS. (dok. Nvidia)

Project DIGITS hadir dengan spesifikasi mengesankan. Perangkat ini dilengkapi RAM sebesar 128GB serta penyimpanan NVMe hingga 4TB. Kapasitas ini memungkinkan Project DIGITS menjalankan model AI berukuran hingga 200 miliar parameter secara lokal.

Kemampuan Project DIGITS bahkan bisa ditingkatkan lebih jauh. Pengguna dapat menghubungkan dua unit Project DIGITS melalui teknologi NVIDIA ConnectX. Konfigurasi ini memungkinkan perangkat menjalankan model AI berukuran hingga 405 miliar parameter. Kemampuan ini sebelumnya hanya dimiliki laboratorium AI.

Project DIGITS menghadirkan performa superkomputer, namun, tetap ramah pengguna. Perangkat ini hanya membutuhkan colokan listrik standar untuk beroperasi. Ukurannya yang ringkas memungkinkan penempatan di atas meja kerja layaknya komputer desktop biasa. Pengguna tetap dapat menggunakan komputer ini sebagai workstation.

3. Ekosistem software yang lengkap dan fleksibel

CEO Nvidia Jensen Huang memperkenalkan Project DIGITS di CES 2025. (dok. Nvidia)

Project DIGITS berjalan di atas sistem operasi NVIDIA DGX OS yang berbasis Linux. Sistem operasi ini memberikan akses ke pustaka software AI NVIDIA yang ekstensif. Pengguna dapat memanfaatkan berbagai kit pengembangan software, tools orkestrasi, serta framework yang tersedia di katalog NVIDIA NGC dan portal Developer NVIDIA.

Project DIGITS mendukung framework populer seperti PyTorch, Python, dan Jupyter Notebook. Perangkat ini juga kompatibel dengan NVIDIA NeMo yang berguna dalam proses fine-tuning model AI. Berbagai tools ini memudahkan pengguna dalam bereksperimen dan membuat prototipe aplikasi AI.

Melansir dari VentureBeat, Project DIGITS memungkinkan pengguna melakukan pengembangan secara lokal sebelum menerapkannya ke infrastruktur cloud. Proses transisi dari pengembangan lokal ke cloud menjadi mulus karena menggunakan arsitektur Grace Blackwell yang sama. Project DIGITS juga mendukung platform NVIDIA AI Enterprise yang menyediakan fitur keamanan dan dukungan level perusahaan.

Meta, Salesforce, dan Hugging Face telah menyatakan dukungan mereka terhadap Project DIGITS. Melansir Tech Crunch, Ahmad Al-Dahle, kepala GenAI Meta, menyambut baik kemampuan Project DIGITS dalam menjalankan model Llama secara lokal. Kehadiran Project Digits dari NVIDIA menjadi angin segar di tengah perkembangan AI yang makin pesat. Semoga ke depannya semakin banyak perangkat serupa yang lebih murah dan manfaat AI bisa dirasakan masyarakat luas.

This article is written by our community writers and has been carefully reviewed by our editorial team. We strive to provide the most accurate and reliable information, ensuring high standards of quality, credibility, and trustworthiness.