Liquid AI vydalo 2,6-miliardový model LFM2.5 pre lokálnych agentov

Liquid AI predstavilo LFM2.5-2.6B, kompaktný jazykový model zameraný na agentické úlohy vykonávané priamo v zariadení. Model má podporovať volanie nástrojov, viacstupňové pracovné postupy a dlhší kontext bez potreby posielať všetky údaje do vzdialeného cloudu. Váhy základnej aj inštrukčne doladenej verzie sú dostupné cez Hugging Face. Novinka cieli na aplikácie, pri ktorých sú dôležité súkromie, nízke prevádzkové náklady alebo fungovanie bez stabilného pripojenia.

Model má 2,6 miliardy parametrov a podľa autorov bol predtrénovaný približne na 34 biliónoch tokenov. V osobitnej fáze stredného tréningu sa jeho kontextové okno rozšírilo na 128-tisíc tokenov. Posttréning následne prebehol v štyroch krokoch: dve kolá supervised fine-tuningu, príprava špecializovaných učiteľov pre jednotlivé oblasti, viacdoménová on-policy destilácia a agentické posilňované učenie v reálnych agentických prostrediach.

Zaujímavý je najmä spôsob agentického tréningu. Liquid AI oddelilo optimalizáciu modelu, generovanie behov a vykonávanie akcií do samostatných komponentov. Model sa učil v rôznych harnessoch, systémových promptoch a prostrediach s nástrojmi, pričom sandbox vykonával jeho akcie a proxy zachytávala tokenové trajektórie. Medzi použitými prostrediami firma výslovne uvádza aj OpenClaw a Hermes Agent. Cieľom nebolo naučiť model jedno konkrétne rozhranie, ale zvýšiť jeho kompatibilitu s rôznymi agentickými systémami.

V zverejnenej tabuľke výsledkov LFM2.5-2.6B dosiahol 56,88 bodu v BFCLv4, 77,83 v ToolSandbox a 62,85 v anglickom priemere Claw-Eval. V teste BrowseComp+ spustenom cez OpenClaw získal 26,89 bodu. Liquid AI ho porovnáva s modelmi Gemma 4 a Qwen 3.5 s veľkosťou až 9,7 miliardy parametrov a tvrdí, že jeho silnou stránkou je najmä dodržiavanie inštrukcií a používanie nástrojov. Pri kódovaní však väčšie modely naďalej vedú.

Výkonové tvrdenia sú výrazné: výrobca uvádza dekódovanie 220 tokenov za sekundu na Apple M5 Max a 113 tokenov za sekundu na procesore AMD Ryzen AI Max+ 395. Model má pritom pracovať s menej než 2,5 GB pamäte. Na telefóne má podľa Liquid AI dosahovať približne 30 tokenov za sekundu, zatiaľ čo na jednej H100 sa pri vysokej súbežnosti približuje k 15-tisíc výstupným tokenom za sekundu. Ide však o čísla výrobcu a výsledok v konkrétnej aplikácii ovplyvní kvantizácia, dĺžka kontextu aj použitý runtime.

Praktický význam malého agentického modelu nespočíva iba v rýchlejšom chate. Lokálne nasadenie umožňuje spracovať dokumenty, históriu používateľa alebo firemné dáta bez ich priebežného odosielania poskytovateľovi API. Zároveň môže odstrániť poplatok za každý token pri úlohách s vysokým objemom, napríklad pri lokálnom triedení, vyhľadávaní, ovládaní aplikácií či opakovaných automatizáciách. Kompaktný model môže fungovať aj ako prvá vrstva, ktorá jednoduché úlohy vyrieši sama a náročnejšie presmeruje na väčší systém.

Model prichádza s podporou llama.cpp, MLX, vLLM, SGLang a ONNX, čo znižuje prekážku pri experimentovaní na spotrebiteľskom hardvéri aj serveroch. Liquid AI ukazuje aj načítanie cez knižnicu Transformers, pričom vyžaduje verziu 5.0 alebo novšiu. Široká podpora v deň vydania je dôležitá, pretože pri okrajových architektúrach často vzniká rozdiel medzi dostupnými váhami a modelom, ktorý sa dá bez rozsiahlych úprav reálne nasadiť.

Benchmarky treba čítať opatrne. Výrobca vybral skupinu modelov a nastavení, ktoré nemusia pokrývať všetky alternatívy, a nie všetky skóre hovoria o spoľahlivosti dlhých produkčných behov. Agent môže uspieť v teste volania nástroja, no zlyhať pri zotavení z chyby, práci s nejednoznačným stavom alebo pri bezpečnom spracovaní nedôveryhodného obsahu. Kompaktnosť navyše prirodzene obmedzuje znalosti a výkon v komplexnom programovaní či matematike.

LFM2.5-2.6B napriek tomu ukazuje posun od malých modelov určených najmä na jednoduché sumarizácie k modelom trénovaným priamo na vykonávanie pracovných postupov. Ak sa výsledky potvrdia v nezávislých testoch, vývojári získajú použiteľnú lokálnu vrstvu pre súkromných a lacných agentov. Rozhodujúce bude, ako stabilne model zvládne dlhé trajektórie, neštandardné schémy nástrojov a obmedzené mobilné prostredia mimo benchmarkových podmienok.