OpenAI Rilis GPT-4o mini, Model AI Kecil yang Gesit dan Murah

20 Jul 2024, 15:52 WIB

ilustrasi GPT-4o mini. (openai.com)

OpenAI kembali menggebrak dunia teknologi dengan peluncuran model AI terbarunya, GPT-4o mini. Model ini hadir sebagai solusi yang lebih murah dan cepat dibandingkan model-model AI terdepan OpenAI sebelumnya. Menariknya, meski ukurannya lebih kecil, GPT-4o mini diklaim mampu mengungguli model-model AI kecil lainnya dalam berbagai tugas penalaran yang melibatkan teks dan visual.

Kehadiran GPT-4o mini menandai langkah strategis OpenAI dalam demokratisasi teknologi AI. Dengan kombinasi performa tinggi dan harga yang lebih terjangkau, OpenAI berharap dapat memperluas jangkauan aplikasi AI ke berbagai sektor dan skala bisnis. Mari telusuri lebih dalam keunggulan dan fitur-fitur menarik dari GPT-4o mini ini!

1. Keunggulan GPT-4o mini: Kecil namun tangguh

Perbandingan hasil evaluasi GPT-4O mini dengan model lain. (openai.com)

GPT-4o mini hadir untuk menggantikan GPT-3.5 Turbo sebagai model terkecil dalam jajaran produk OpenAI. Meski ukurannya kecil, jangan remehkan kemampuannya. Dalam berbagai benchmark akademis, GPT-4o mini berhasil melampaui performa GPT-3.5 Turbo dan model-model kecil lainnya dari kompetitor.

Salah satu prestasi membanggakan dari GPT-4o mini adalah pencapaiannya dalam tes MMLU (Massive Multitask Language Understanding) yang mengukur kecerdasan AI. Model ini berhasil meraih skor 82 persen, unggul dari Gemini 1.5 Flash yang mencapai 79 persen dan Claude 3 Haiku di angka 75 persen. Keunggulan GPT-4o mini semakin terlihat dalam tes MGSM yang mengukur kemampuan penalaran matematis. Di sini, GPT-4o mini mencatatkan skor 87 persen. Angka itu jauh meninggalkan Gemini 1.5 Flash (78 persen) dan Claude 3 Haiku (72 persen).

"Untuk setiap sudut dunia agar dapat diberdayakan oleh AI, kita perlu membuat model-model yang jauh lebih terjangkau. Saya rasa GPT-4o mini adalah langkah besar ke arah itu," ujar Olivier Godement, kepala Produk API OpenAI, dalam wawancara dengan TechCrunch.

2. Fitur dan kemampuan teknis yang mumpuni

ilustrasi logo OpenAI. (unsplash.com/Levart_Photographer)

Salah satu keunggulan utama GPT-4o mini adalah kecepatannya yang luar biasa. Model ini memiliki kecepatan output median mencapai 202 token per detik, dua kali lipat lebih cepat dibandingkan GPT-4o dan GPT-3.5 Turbo. Kecepatan ini menjadikan GPT-4o mini pilihan menarik untuk aplikasi yang membutuhkan respons cepat.

Dari segi kemampuan, GPT-4o mini saat ini mendukung input teks dan visual melalui API. OpenAI juga berjanji akan menambahkan dukungan untuk input dan output video serta audio di masa mendatang. Hal ini membuka peluang pengembangan aplikasi AI yang lebih beragam dan interaktif.

GPT-4o mini dibekali dengan jendela konteks sebesar 128.000 token, setara dengan panjang sebuah buku. Ini memungkinkan model untuk memahami dan merespons konteks yang lebih luas dan kompleks. Perlu dicatat, batas pengetahuan model ini adalah Oktober 2023 sehingga informasi terkini setelah periode tersebut mungkin tidak tercakup.

OpenAI menekankan keunggulan GPT-4o mini dalam blog resminya. Model ini dianggap sangat sesuai untuk beragam tugas karena biaya dan latensi yang rendah. Beberapa contoh aplikasi yang dapat memanfaatkan keunggulan ini antara lain adalah yang membutuhkan banyak panggilan model secara berurutan atau paralel. Selain itu, model ini juga cocok untuk aplikasi yang perlu mengirimkan konteks dalam jumlah besar ke model atau yang memerlukan interaksi cepat dengan pelanggan melalui respons teks real-time.

3. Harga terjangkau dan tersedia secara luas

Salah satu daya tarik utama GPT-4o mini adalah harganya yang sangat kompetitif. OpenAI menetapkan tarif 15 sen (sekitar Rp2.400) per satu juta token input dan 60 sen (sekitar Rp9.700) per satu juta token output. Harga ini 60 persen lebih murah dibandingkan GPT-3.5 Turbo. Fakta ini membuatnya menjadi pilihan yang sangat menarik bagi pengembang dan bisnis dengan anggaran terbatas.

Kabar gembiranya, GPT-4o mini kini tersedia melalui berbagai platform OpenAI. Pengembang dapat mengakses model ini melalui Assistants API, Chat Completions API, dan Batch API. Bagi pengguna ChatGPT, GPT-4o mini akan menggantikan GPT-3.5 mulai hari ini untuk paket Free, Plus, dan Team. Sementara, untuk pengguna Enterprise, OpenAI menjanjikan akses ke GPT-4o mini mulai minggu depan.

"Saya pikir GPT-4o mini akan sangat populer. Baik oleh aplikasi yang sudah ada yang menggunakan semua AI di OpenAI maupun banyak aplikasi yang sebelumnya terhalang oleh harga," ujar Godement, dilansir The Verge.

4. Visi masa depan dan komitmen OpenAI

Peluncuran GPT-4o mini bukan hanya tentang model baru, tetapi juga mencerminkan visi dan komitmen OpenAI terhadap perkembangan AI yang lebih inklusif. OpenAI berjanji untuk terus menurunkan biaya sambil meningkatkan kemampuan model-model mereka. Sebagai gambaran, biaya per token GPT-4o mini telah turun 99 persen dibandingkan text-davinci-003 yang diluncurkan pada 2022.

Untuk memastikan keandalan dan keamanan GPT-4o mini, OpenAI telah bekerja sama dengan mitra terpercaya seperti Ramp dan Superhuman dalam fase pengujian. Ramp menggunakan GPT-4o mini untuk membangun alat ekstraksi data pengeluaran dari struk. Sementara Superhuman memanfaatkannya untuk fitur saran otomatis dalam respons email.

OpenAI juga memperkenalkan Enterprise Compliance API untuk membantu bisnis di industri yang diatur ketat, seperti keuangan, kesehatan, dan layanan hukum. Fitur ini memungkinkan admin untuk mengaudit dan mengambil tindakan atas data ChatGPT Enterprise mereka untuk meningkatkan transparansi dan kepatuhan. Nah, apakah kamu sudah mencoba GPT-4o mini terbaru dari OpenAI ini?

This article is written by our community writers and has been carefully reviewed by our editorial team. We strive to provide the most accurate and reliable information, ensuring high standards of quality, credibility, and trustworthiness.