10drama.com –Kemajuan teknologi kecerdasan buatan semakin memukau. Kali ini, giliran OpenAI yang kembali menjadi sorotan setelah meluncurkan model bahasa dengan bobot terbuka (open-weight) terbaru yang memiliki skala parameter yang sangat besar.
Menariknya, model ini tidak lagi khusus untuk pusat data yang sangat mahal. Kini, model tersebut dapat dijalankan langsung pada perangkat konsumen berkat kerja sama dengan AMD.
Pada peluncurannya, OpenAI memperkenalkan dua versi model GPT-OSS, yaitu 20B dan 120B. Seperti namanya, model GPT-OSS 20B memiliki total 20,9 miliar parameter, sementara GPT-OSS 120B dilengkapi dengan 116,8 miliar parameter.
Meskipun demikian, berkat arsitektur mixture-of-experts, hanya sebagian kecil parameter yang bekerja pada saat bersamaan, yakni 3,6 miliar (20B) dan 5,1 miliar (120B). Arsitektur ini membuat proses inferensi menjadi jauh lebih hemat dalam hal komputasi.
Menariknya, AMD mengumumkan bahwa prosesor terbaru mereka, Ryzen AI Max+ 395, adalah prosesor AI konsumen pertama di dunia yang mampu menjalankan GPT-OSS 120B secara lokal.
Artinya, pengguna kini dapat memanfaatkan kemampuan kecerdasan buatan kelas pusat data langsung dari laptop ringan atau komputer pribadi mereka, tanpa perlu mengandalkan layanan cloud.
Ryzen AI Max+ 395 dilengkapi dengan memori grafis khusus sebesar 96GB, cukup besar untuk menyimpan model GPT-OSS 120B yang telah diubah ke format GGML MXFP4 (yang memerlukan sekitar 61GB VRAM).
Agar dapat menggunakan fitur ini, pengguna harus menginstal driver AMD versi Adrenalin Edition 25.8.1 WHQL atau yang lebih terbaru.
Dari segi kinerja, penggunaan model besar ini tetap terasa lancar. AMD mengklaim kecepatan pemrosesan bisa mencapai 30 token per detik. Hal ini didukung oleh bandwidth tinggi dari arsitektur Ryzen AI serta efisiensi pendekatan mixture-of-experts yang hanya mengaktifkan sebagian kecil dari seluruh model saat beroperasi.
Tidak hanya itu, Ryzen AI Max+ 395 juga telah mendukung Model Context Protocol (MCP). MCP merupakan fitur canggih yang memungkinkan sistem mengelola konteks dalam jumlah besar secara cepat.
Mendukung memori hingga 128GB, prosesor ini sangat cocok untuk pengguna yang menghadapi teks panjang, analisis data, hingga pengembangan perangkat lunak berbasis AI.
Bagi pengguna AMD Ryzen AI seri 300, OpenAI juga menawarkan pilihan yang lebih ringan: GPT-OSS 20B. Meskipun ukurannya lebih kecil, model ini tetap menawarkan kinerja AI yang sangat baik dan dapat dijalankan secara lokal tanpa hambatan signifikan.
Di sisi lain, pengguna desktop yang menginginkan kinerja terbaik bisa mempercayai AMD Radeon 9070 XT 16GB.
GPU ini dirancang untuk memberikan kecepatan luar biasa saat menjalankan GPT-OSS 20B, dengan waktu respons awal (TTFT) yang sangat cepat, cocok untuk alur kerja real-time.
Cara Menguji GPT-OSS pada Perangkat AMD
Untuk mencoba kemampuan GPT-OSS secara langsung, Anda dapat mengunduh LM Studio—platform mitra resmi OpenAI. Berikut adalah langkah-langkah singkatnya:
- Unduh dan pasang LM Studio.
- Lewati onboarding.
- Buka tab pencarian (ikon lensa pembesar).
- Cari “gpt-oss”, pilih versi 20B atau 120B sesuai dengan spesifikasi perangkat yang dimiliki.
- Masuk ke tab “Chat”.
- Di menu dropdown model, pilih model OpenAI yang telah diunduh.
- Aktifkan opsi “Muat parameter secara manual”, geser penggeser “GPU Offload” ke posisi paling tinggi, kemudian klik “Muat”.
Proses pengunduhan model, khususnya GPT-OSS 120B, mungkin memerlukan waktu yang cukup lama karena ukuran file yang besar dan kecepatan baca SSD yang terbatas saat transfer data besar.
Pengguna Ryzen AI perlu memverifikasi pengaturan Variable Graphics Memory (VGM) di AMD Software: Adrenalin Edition sesuai dengan tabel spesifikasi yang tersedia. Namun, untuk pengguna GPU Radeon, langkah ini tidak diperlukan.
Langkah yang diambil oleh OpenAI dalam merilis model GPT-OSS ini, diikuti oleh dukungan penuh dari AMD menandai dimulainya era baru dalam dunia kecerdasan buatan lokal. Kini, AI canggih tidak lagi hanya menjadi milik kalangan elit yang memiliki akses ke pusat data.
Pengguna yang memiliki laptop ramping atau komputer berkekuatan tinggi kini dapat mengakses fitur canggih ini yang sebelumnya hanya tersedia melalui layanan cloud.
