Google Rilis Gemma 3n, AI Pintar yang Muat di Smartphone  

Gemma 3n dikembangkan melalui kemitraan Google dengan Qualcomm Technologies, MediaTek, dan Samsung. Kolaborasi ini memastikan model AI tersebut dioptimalkan untuk chipset smartphone modern. Hasilnya, Gemma 3n dapat memberikan performa AI yang cukup andal di perangkat konsumen biasa.

Melansir blog Google, Efisiensi Gemma 3n dicapai melalui inovasi Per-Layer Embeddings (PLE) yang mengurangi penggunaan RAM secara signifikan. Meski memiliki total 5-8 miliar parameter, teknologi PLE memungkinkan model beroperasi dengan beban memori setara model 2-4 miliar parameter saja. Gemma 3n menggunakan arsitektur MatFormer yang memuat model kecil di dalam model besar. Saat mengerjakan tugas sederhana, model dapat mengaktifkan bagian kecilnya untuk respons cepat. Saat dihadapkan tugas kompleks, model menggunakan kapasitas lebih besar.

Model ini juga memiliki fitur conditional parameter loading yang memungkinkan pemuatan parameter secara selektif. Ketika tidak memerlukan kemampuan audio atau visual, Gemma 3n dapat melewatkan parameter tersebut untuk menghemat memori. Kombinasi fitur-fitur ini membuat Gemma 3n efisien untuk berbagai kebutuhan penggunaan.

Melansir BGR, Gemma 3n mencatat performa mengejutkan di benchmark Chatbot Arena dengan meraih skor 1283 poin. Angka ini hanya terpaut empat poin dari Claude 3.7 Sonnet yang meraih 1287 poin. Pencapaian ini menarik mengingat Gemma 3n merupakan model yang lebih ringan.

Dari segi kecepatan, Gemma 3n memberikan respons 1,5 kali lebih cepat dibanding Gemma 3 4B sambil menghasilkan kualitas output yang lebih baik. Peningkatan ini dicapai melalui optimalisasi khusus untuk perangkat mobile dan arsitektur yang lebih efisien.

Gemma 3n memiliki kemampuan multimodal yang memungkinkannya memproses berbagai jenis input sekaligus. Model ini dapat mengubah suara menjadi teks, menerjemahkan ucapan secara langsung, serta memahami konten gambar dan video. Pengguna bisa berinteraksi dengan teks, suara, dan visual dalam satu waktu.

Model ini mendukung lebih dari 140 bahasa dengan peningkatan khusus pada bahasa Jepang, Jerman, Korea, Spanyol, dan Prancis. Pada benchmark WMT24++, Gemma 3n mencatat skor 50,1 persen, menunjukkan kemampuan yang solid untuk tugas multibahasa.

Gemma 3n kini tersedia dalam tahap preview melalui dua platform Google. Google AI Studio memungkinkan pengguna mencoba model ini langsung di browser tanpa perlu instalasi khusus. Sementara Google AI Edge menyediakan tools untuk developer yang ingin mengintegrasikan Gemma 3n ke dalam aplikasi mereka.

Keunggulan lain Gemma 3n adalah kemampuannya untuk bekerja secara offline. Data pribadi tidak perlu dikirim ke server luar sehingga privasi lebih terjaga. Gemma 3n juga memiliki kapasitas konteks 32 ribu token yang cocok untuk tugas dengan input cukup panjang.

Model seperti Gemma 3n berpotensi digunakan dalam berbagai aplikasi, mulai dari penerjemah real-time hingga asisten AI lokal untuk perangkat mobile. Gemma 3n menjadi loncatan untuk teknologi AI on-device yang mungkin akan semakin umum digunakan di masa mendatang. Dengan Gemma 3n, AI canggih bukan lagi mimpi di awan, tetapi kenyataan yang bisa kita genggam setiap hari.