LFM2.5-2.6B: Model Kecil untuk Tool Calling Lokal
Liquid AI memposisikan LFM2.5-2.6B sebagai model agent on-device untuk tool calling dan workflow multi-step, dengan benchmark yang tetap perlu diuji ulang.
Liquid AI memperkenalkan LFM2.5-2.6B sebagai model kecil untuk kebutuhan agent lokal. Fokusnya bukan menjawab semua jenis pertanyaan, melainkan tool calling dan workflow multi-step yang dapat dijalankan lebih dekat ke perangkat pengguna.
Artikel Hugging Face menyebut context 128K, laporan 113 token per detik pada Ryzen, dan penggunaan memory di bawah 2,5 GB. Angka tersebut adalah laporan pembuat model, bukan hasil pengujian universal. Hardware, runtime, quantization, dan bentuk prompt dapat mengubah hasil secara signifikan.
Mengapa model kecil menarik
Untuk routing tool, structured extraction, dan instruksi device, model tidak selalu perlu memiliki kemampuan general-purpose sebesar model cloud. Ukuran lebih kecil dapat menurunkan kebutuhan memory dan membuat deployment lokal lebih realistis.
Batasan benchmark
Benchmark vendor berguna sebagai titik awal, tetapi tidak otomatis menggambarkan performa di laptop atau server lain. Pengujian perlu memakai workload nyata: panjang context, jumlah tool, error recovery, dan latency end-to-end.
Use case yang masuk akal
Model seperti ini dapat digunakan untuk menerjemahkan instruksi manusia menjadi function call, memilih tool yang tepat, atau mengisi parameter terstruktur. Untuk tugas yang membutuhkan penalaran panjang atau pengetahuan luas, model yang lebih besar mungkin tetap diperlukan.
LFM2.5-2.6B menunjukkan arah penting untuk local agent: model kecil menjadi berguna ketika ruang tugasnya dibatasi dengan jelas. Klaim kecepatan dan memory tetap perlu divalidasi pada perangkat target sebelum dipakai sebagai dasar keputusan produksi.
Referensi: https://huggingface.co/blog/LiquidAI/lfm2-5-2-6b