Mengenal DeepSeek v3, Model AI Open Source Raksasa dari China

DeepSeek v3 menunjukkan performa ciamik dalam berbagai pengujian. Model ini berhasil mengungguli model-model open source lainnya seperti Llama 3.1 405B dan Qwen 2.5 72B dalam berbagai benchmark. DeepSeek v3 bahkan mampu melampaui performa GPT-4o dalam mayoritas pengujian. Melansir dari TechCrunch, model ini mampu menangani berbagai tugas berbasis teks seperti pemrograman, penerjemahan, penulisan esai, hingga pembuatan email.

Keunggulan model ini paling menonjol dalam pengujian matematika dan bahasa Mandarin. Pada tes Math-500, DeepSeek v3 meraih skor 90,2, jauh mengungguli model Qwen yang hanya mencapai skor 80. Model ini juga menunjukkan performa impresif dalam tes pemrograman kompetitif di platform Codeforces.

Model ini memiliki kemampuan memahami konteks yang sangat baik hingga 128 ribu token. Jumlah ini setara dengan kemampuan memproses sekitar 100 ribu kata dalam sekali eksekusi. Kemampuan ini memungkinkan model memahami dan menganalisis teks panjang seperti dokumen atau kode program secara lebih komprehensif.

Melansir VentureBeat, satu-satunya model yang mampu menandingi DeepSeek v3 adalah Claude 3.5 Sonnet dari Anthropic. Model Anthropic ini unggul dalam beberapa pengujian standar kemampuan AI seperti tes pengetahuan umum dan akademik (MMLU-Pro), dan tes pemrograman (SWE Verified). Namun, perbedaan terletak pada aksesibilitas, karena DeepSeek v3 tersedia secara open source.

DeepSeek v3 menggunakan arsitektur canggih bernama Mixture-of-Experts (MoE). Sistem ini bekerja layaknya tim ahli yang berkolaborasi, di mana hanya 37 miliar parameter yang aktif saat memproses setiap token. Pendekatan ini membuat model lebih efisien dalam penggunaan sumber daya komputasi.

Tim pengembang DeepSeek memperkenalkan inovasi auxiliary loss-free load balancing dalam model ini. Teknologi ini membantu mengoptimalkan beban kerja antar "ahli" tanpa mengorbankan performa keseluruhan model. DeepSeek v3 juga mengadopsi teknik multi-token prediction yang memungkinkan model memprediksi beberapa token sekaligus.

Proses pelatihan model ini menggunakan 14,8 triliun token data berkualitas tinggi. Data ini mencakup berbagai jenis konten yang membantu model memahami berbagai konteks dan tugas. Pengembang juga menerapkan teknologi FP8 mixed precision training yang meningkatkan efisiensi proses pelatihan.

Model ini mewarisi kemampuan penalaran dari seri DeepSeekR1 melalui proses "penyaringan" pengetahuan. Proses ini memungkinkan DeepSeek v3 memiliki kemampuan penalaran yang kuat sambil mempertahankan gaya output dan panjang yang sesuai. Tim pengembang berhasil melatih DeepSeek v3 tanpa hambatan teknis seperti lonjakan performa yang tidak terkendali atau kebutuhan mengulang proses dari awal.

Pencapaian tim DeepSeek dalam mengembangkan model ini patut diapresiasi. Mereka berhasil melatih model raksasa ini menggunakan pusat data GPU Nvidia H800 hanya dalam waktu dua bulan. Padahal, China baru-baru ini menghadapi pembatasan akses terhadap GPU tersebut dari Kementerian Perdagangan Amerika Serikat.

Proses pengembangan model ini hanya menghabiskan biaya sekitar 5,57 juta dolar AS (sekitar Rp90 miliar). Nominal ini dinilai jauh lebih rendah dibandingkan model-model besar lainnya. Sebagai perbandingan, pengembangan Llama 3.1 diperkirakan memakan biaya lebih dari 500 juta dolar AS (sekitar Rp8,1 triliun).

DeepSeek v3 kini tersedia melalui berbagai platform. Kode model ini dapat diakses di GitHub dengan lisensi MIT, sementara modelnya tersedia di platform Hugging Face. Pengguna juga dapat mencoba model ini melalui DeepSeek Chat, platform serupa ChatGPT yang dikembangkan perusahaan.

Para pengembang bisa mengakses API DeepSeek v3 untuk penggunaan komersial. Perusahaan menawarkan harga kompetitif sebesar 0,27 dolar AS (sekitar Rp4.300) per satu juta token input dan 1,10 dolar AS (sekitar Rp17.800) per satu juta token output. Harga khusus 0,07 dolar AS (sekitar Rp1.100) per satu juta token tersedia saat menggunakan fitur cache hits.

Melansir TestingCatalog, DeepSeek juga disebut sedang mengembangkan fitur menarik bernama Deep Roles. Fitur ini nantinya memungkinkan pengguna mengeksplorasi atau membuat "peran" kustom dalam bahasa Inggris dan Mandarin. Fitur ini diprediksi akan mirip seperti Custom GPTs dari OpenAI. Perkembangan model AI open source seperti DeepSeek v3 tidak kalah menarik untuk diikuti. Kedepannya, bukan tidak mungkin jurang antara model terbuka dan tertutup akan semakin menyempit.