Liquid AI otvára modely d1: multimodálne rozhodovanie presúva priamo na okraj siete
Liquid AI zverejnilo open-weight modely d1-3B a d1-omni-600M. Namiesto generovania textu vracajú typované rozhodnutia v jedinom priechode, pričom cielia na lokálne nasadenie, multimodálne vstupy a nízku latenciu.
Za text zodpovedá Redakcia AI Feed. Zodpovedný editor: Marek Považský. Ako používame AI.
- Typ zdroja
- Oficiálny zdroj
- Zdroj / autorita
- Liquid AI
Ako vznikol tento text
Redakcia spracovala verejné podklady do slovenského kontextu. Za výber, pravidlá kvality a prípadné opravy zodpovedá Marek Považský.
Text je zaradený v sekcii AI modely a opiera sa o 4 zdroje. Konkrétne odkazy sú uvedené pod článkom; podrobnosti o AI postupe vysvetľuje metodika redakcie.
Liquid AI predstavilo dva open-weight modely určené na rýchle, štruktúrované rozhodovanie: d1-3B a experimentálny d1-omni-600M. Nejde o ďalšie konverzačné modely, ktoré po zadaní otázky postupne generujú odpoveď token po tokene. Rodina d1 prijíma stav opísaný textom, dátami alebo multimodálnym vstupom a v jednom doprednom priechode vyberá odpovede na vopred definované otázky. Výsledkom môže byť rozhodnutie áno alebo nie, výber z možností či číselné hodnotenie. Takéto obmedzenie znižuje univerzálnosť, no zároveň otvára cestu k predvídateľnejšej latencii, jednoduchšiemu spracovaniu výstupu a prevádzke priamo na zariadeniach.
Silnejší d1-3B vychádza z obrazovo-jazykového modelu LFM2.5-VL-3B a spracúva text spolu s obrazom. Menší d1-omni-600M je postavený na obojsmernom enkóderi LFM2.5-Encoder-350M, ku ktorému Liquid AI pridalo obrazový a zvukový enkóder. Dokáže teda rozhodovať nad kombináciou textu a obrazu alebo textu a zvuku. Modelová karta uvádza 587 miliónov parametrov, kontext do 16 384 pozícií a podporu zvukových klipov do 30 sekúnd. Firma ho však označuje za skoré výskumné vydanie, nie za hotový univerzálny multimodálny systém.
Rozhodnutie bez generovania tokenov
Kľúčovou vlastnosťou d1 je oddelenie rozhodovania od tvorby prirodzeného jazyka. Bežný generatívny model musí formulovať odpoveď, ktorú aplikácia následne parsuje, kontroluje a prevádza na internú akciu. d1 namiesto toho pracuje nad pomenovanými otázkami a povolenými odpoveďami. Odpoveď sa číta priamo z rozdelenia pravdepodobnosti modelu, bez generovania výstupných tokenov. Aplikácia tak nemusí dúfať, že model dodrží požadovaný formát JSON alebo použije presne očakávaný názov kategórie.
Tento prístup sa hodí na triedenie požiadaviek, moderovanie, kontrolu dokumentov, výber pracovného postupu, vizuálnu inšpekciu, presmerovanie hlasových príkazov alebo ochranné pravidlá agentov. Jeden vstup môže obsahovať viac otázok, ktoré model vyhodnotí spoločne. Podľa meraní Liquid AI trvali tri otázky na Jetson AGX Thor 20 milisekúnd, kým jedna otázka 16 milisekúnd. Takýto pomer je dôležitý tam, kde sa nad jedným obrazom, správou či stavom stroja kontroluje viac podmienok naraz.
Model však sám nevysvetľuje svoje rozhodnutie a nevytvára voľný text. To je výhoda pri presne definovanom rozhraní, ale nevýhoda pri nejednoznačných prípadoch, kde človek potrebuje zdôvodnenie alebo nové riešenie mimo pripravených možností. Praktická architektúra preto môže používať d1 ako rýchlu prvú vrstvu a väčší generatívny model iba pri neistom, rizikovom alebo neštandardnom vstupe. Úspora potom nevychádza len z menšieho modelu, ale aj z toho, že drahšia generácia sa spustí iba pre zlomok požiadaviek.
Výsledky naznačujú výkon, nie univerzálnu prevahu
Liquid AI uvádza pre d1-3B skóre 48,57 na verejnej časti Decision Index v0.2.1. Podľa firmy ide o najlepší výsledok medzi rozhodovacími modelmi pod desať miliárd parametrov a výkon porovnateľný s podstatne väčším Decider 35B-A3B. Na siedmich verejných textových dátových súboroch dosiahol d1-3B priemer 82,9 bodu. Menší d1-omni-600M dosiahol 78,4 bodu, čo v zverejnenej tabuľke prekonalo dvojmiliardový Decider s priemerom 77,1.
Tieto čísla treba čítať v správnom kontexte. Výsledky zverejnil samotný tvorca modelov a porovnávanie prebehlo na úlohách prevedených na rozhodovanie medzi možnosťami. Neznamenajú, že d1-3B je všeobecne schopnejší než každý menší jazykový alebo obrazový model. Navyše firma pri tomto vydaní nepublikovala výsledok zo súkromnej obrazovej časti Decision Index v0.3 a uviedla, že vyhradené benchmarky zvukového rozhodovania zatiaľ považuje za otvorený problém. Pri obraze modelová karta d1-3B uvádza priemer 74,1 na jedenástich verejných testoch, pričom základný LFM2.5-VL-3B dosiahol 73,9. Rozdiel je malý a výsledky medzi jednotlivými testami kolíšu.
Aj kalibrácia, ktorá je pre rozhodovacie modely podstatná, sa musí preverovať na konkrétnych firemných dátach. Vysoká úspešnosť na všeobecnom benchmarku nemusí znamenať spoľahlivé rozpoznanie chybného výrobku, urgentnej slovenskej zákazníckej požiadavky alebo rizikovej udalosti v lokálnom prostredí. Nasadenie by preto malo merať nielen presnosť, ale aj falošne pozitívne a falošne negatívne výsledky, stabilitu pri zmene formulácie a správanie mimo distribúcie tréningových dát.
Latencia mení ekonomiku lokálnej inferencie
Najvýraznejším argumentom rodiny d1 je rýchlosť. Liquid AI nameralo pri jednej otázke latenciu osem milisekúnd na GeForce RTX 4090, deväť milisekúnd na AMD MI325X a 30 milisekúnd na Apple M5 Pro. Na zariadeniach NVIDIA Jetson firma uvádza 16 milisekúnd pre AGX Thor, 26 milisekúnd pre AGX Orin a 50 milisekúnd pre Orin Nano. Spracovanie obrázka s rozlíšením 384 pixelov trvalo podľa zverejnených výsledkov 35 milisekúnd na AGX Thor a 202 milisekúnd na Orin Nano.
Ide o merania výrobcu na konkrétnych konfiguráciách, nie o záruku latencie v každej aplikácii. Reálny čas ovplyvní načítanie vstupu, predspracovanie obrazu alebo zvuku, presun dát, kvantizácia, ovládače aj súbežné úlohy zariadenia. Výsledky napriek tomu ukazujú, prečo môže byť jedno-priechodový model zaujímavý pre kamery, priemyselné brány, vozidlá a spotrebnú elektroniku. Rozhodnutie môže vzniknúť lokálne bez odoslania citlivého obrazu či hlasu do cloudu a bez čakania na vygenerovanie textovej odpovede.
Pre slovenské výrobné podniky môže byť relevantná najmä vizuálna kontrola, klasifikácia udalostí zo senzorov alebo predbežné triedenie servisných hlásení. Lokálna inferencia znižuje závislosť od internetového spojenia a môže zjednodušiť prácu s osobnými či prevádzkovými údajmi. Sama osebe však nerieši súlad s ochranou údajov ani bezpečnosť. Prevádzkovateľ musí stále vedieť, aké údaje model dostáva, ako sa uchovávajú výsledky a čo sa stane pri nízkej istote alebo konflikte viacerých pravidiel.
Otvorené váhy prinášajú kontrolu aj povinnosti
Oba modely sú dostupné na Hugging Face spolu s modelovými kartami a ukážkami použitia. d1-3B má podporu textu a obrazu, d1-omni-600M pridáva zvuk, no pri každom platia odlišné technické obmedzenia. Kód modelov sa načítava s voľbou trust_remote_code, čo je praktické pre vlastnú architektúru, ale zároveň si vyžaduje bezpečnostnú kontrolu dodávaného kódu pred produkčným spustením. Organizácie by mali overiť aj licenciu LFM, kompatibilitu knižníc, požiadavky na pamäť a správanie zvolených kvantizácií.
Najväčšou neistotou zostáva výkon mimo testov pripravených pre rozhodovacie úlohy. d1-omni-600M nemá v tomto vydaní zverejnené merania rýchlosti ani samostatný verejný zvukový benchmark. Pri zvuku bol navyše trénovaný na požiadavkách anglicky hovoriaceho používateľa, takže kvalitu slovenčiny nemožno z dostupných podkladov potvrdiť. Pred nasadením hlasového triedenia v slovenskom prostredí bude nevyhnutný vlastný test dialektov, hluku, prerušovanej reči a odbornej terminológie.
Rodina d1 preto nie je náhradou za univerzálne jazykové modely, ale pokusom vyčleniť z nich častú produkčnú operáciu: urobiť malé, rýchle a typované rozhodnutie. Ak sa deklarovaná latencia a kalibrácia potvrdia na reálnych dátach, môže ísť o užitočný stavebný prvok pre agentov aj zariadenia na okraji siete. Rozhodujúce však budú nezávislé reprodukcie benchmarkov, merania spotreby a skúšky v jazykoch a prostrediach, ktoré prvé vydanie zatiaľ nepokrýva.
Zdroje