Laguna S 2.1: Model AI Gede dari Poolside, Apa Kabar Nih?

Poolside baru aja ngeluarin Laguna S 2.1, model coding yang bikin banyak orang penasaran. Dengan 118 miliar parameter, model ini dirancang untuk coding yang lebih canggih. Yang menarik, model ini bisa aktifin 8 miliar parameter per token, jadi meskipun ukurannya gede, performanya tetap kece!

Laguna S 2.1 ini bukan model sembarangan, lho. Dia menggunakan sistem Mixture-of-Experts (MoE), yang artinya dia bisa aktifin parameter yang dibutuhin aja. Jadi, meskipun ada 118 miliar parameter, hanya sekitar 8 miliar yang aktif setiap kali proses. Ini bikin dia efisien dan hemat biaya operasional.

Model ini juga punya konteks window yang gede, sampai 1 juta token. Ini penting banget buat proses berpikir yang lebih kompleks. Bayangkan, kamu bisa ngoding dengan konteks yang lebih luas tanpa khawatir kehabisan memori. Keren, kan?

Kalau ngomongin performa, Laguna S 2.1 ngasih hasil yang bikin nganga. Di benchmark Terminal-Bench 2.1, dia dapet skor 70.2%, yang bikin dia jadi salah satu yang terbaik di kelasnya. Di SWE-Bench Multilingual, dia bahkan dapet skor 78.5%, yang bikin dia unggul dibandingkan model-model lain yang lebih besar.

Yang bikin Laguna S 2.1 makin menarik adalah cara dia beroperasi. Dia punya dua mode: off dan max. Mode max ini bikin dia bisa ngeluarin performa maksimal, meskipun ada biaya token yang lebih tinggi. Misalnya, di benchmark DeepSWE, skor dia naik dari 16.5% jadi 40.4% dengan mode ini. Cuan banget, kan?

Nah, buat kamu yang penasaran, Laguna S 2.1 ini bisa dijalankan di hardware yang cukup powerful. Dengan 4-bit, dia bisa jalan di satu NVIDIA DGX Spark yang punya 128 GB memori. Tapi kalau mau yang lebih canggih, bisa juga pakai FP8 atau BF16, tergantung kebutuhan.

Jadi, Laguna S 2.1 ini bukan hanya sekadar model AI biasa. Dia adalah langkah besar dalam dunia coding dan teknologi AI. Dengan performa yang mengesankan dan efisiensi yang tinggi, model ini bisa jadi pilihan tepat buat para developer yang pengen coba hal baru.