Mistral mení RAG na aktívne vyhľadávanie v zložitých firemných dokumentoch

Vyhľadávanie, ktoré sa nezastaví pri prvých úryvkoch

Mistral predstavil Agentic Search, nový spôsob získavania podkladov pre AI agentov pracujúcich s rozsiahlymi firemnými dokumentmi. Namiesto bežného postupu, pri ktorom systém raz vyhľadá niekoľko textových úryvkov a pošle ich jazykovému modelu, dostáva agent možnosť proces opakovať. Môže vyhľadávať, otvoriť nájdený dokument, presúvať sa v jeho štruktúre, čítať konkrétne časti a hľadať presné výrazy. Cieľom je, aby sa pri komplikovanej otázke neuspokojil s prvým približne relevantným výsledkom, ale aktívne dohľadal a skontroloval dôkaz potrebný na odpoveď.

Novinka je dostupná cez Mistral Search Toolkit a prostredníctvom funkcie Libraries v prostrediach Studio a Vibe. Search Toolkit je určený na integráciu do vlastných agentov a pracovných postupov, pričom Mistral ho prezentuje ako prenositeľnú vrstvu použiteľnú v cloude aj v lokálnom nasadení. Organizácia môže upravovať spracovanie dokumentov, delenie textu, embeddingy, indexovanie, preusporiadanie výsledkov aj hybridné vyhľadávanie. Libraries ponúkajú hotovejšiu cestu pre tímy, ktoré nechcú celý vyhľadávací systém skladať samostatne.

Podstatnou zmenou nie je samotná existencia vyhľadávacieho indexu, ale riadiaca slučka nad ním. Tradičný RAG často predpokladá, že relevantný úryvok sa objaví medzi prvými výsledkami a obsahuje dostatok kontextu. Tento predpoklad prestáva platiť pri dlhých výročných správach, tabuľkách, poznámkach pod čiarou alebo otázkach vyžadujúcich porovnanie viacerých dokumentov. Agentic Search umožňuje modelu vyhodnotiť, že podklady nestačia, preformulovať dopyt, prejsť na inú časť dokumentu a až potom pripraviť odpoveď.

Výrazné čísla, ale zatiaľ od výrobcu

Mistral uvádza, že na teste FinanceBench zvýšil jeho systém úspešnosť z 26,7 na 86 percent. Pri tabuľkovo orientovaných otázkach zo súboru OfficeQA Pro firma hlási posun zo 6,3 na 51,9 percenta. Podľa jej meraní môže cielenejšia navigácia zároveň znížiť latenciu na 90. percentile až o 39,6 percenta a spotrebu tokenov najviac o tretinu. Ide o pozoruhodné rozdiely, no treba ich čítať ako výsledky zverejnené samotným dodávateľom. Nezávislá reprodukcia s rovnakými modelmi, indexmi, dokumentmi a rozpočtom nástrojových volaní zatiaľ nebola predložená.

FinanceBench poskytuje užitočný kontext k tomu, prečo je takýto posun možný. Pôvodná práca opisuje test s 10 231 otázkami nad finančnými dokumentmi verejne obchodovaných spoločností, pričom zverejnený a manuálne vyhodnotený výber obsahuje 150 prípadov. Autori pri pôvodnom porovnaní zistili výrazné nedostatky v odpovediach modelov vrátane halucinácií a odmietnutí. Benchmark teda nemeria iba všeobecné znalosti modelu, ale schopnosť nájsť konkrétny dôkaz v účtovnom dokumente, pochopiť otázku a často správne vykonať číselnú operáciu.

OfficeQA Pro V2, ktorý Databricks predstavil v auguste, ide podobným smerom, ale skúša generalizáciu na neznáme firemné úlohy a dokumentové kolekcie. Jeho význam spočíva v tom, že dobrý výsledok na jednom známom korpuse nemusí znamenať spoľahlivú prácu s internými dokumentmi inej organizácie. Mistral vo svojom oznámení pracuje s OfficeQA Pro, nie automaticky so všetkými úlohami novšej verzie V2. Tieto názvy preto nemožno zamieňať a číslo 51,9 percenta netreba interpretovať ako univerzálnu presnosť nad ľubovoľnými podnikovými dátami.

Výsledky zároveň naznačujú, že výkon agentickej aplikácie neurčuje iba základný jazykový model. Mistral tvrdí, že rovnaký model GLM-5.2 dosiahol na OfficeQA Pro s jeho vyhľadávacím prostredím lepší výsledok než s iným agentickým rámcom. Aj toto porovnanie potrebuje nezávislé overenie, podporuje však širší trend: parser dokumentov, kvalita indexu, navigačné nástroje, práca s tabuľkami a stratégia overovania môžu mať na výsledok podobne veľký vplyv ako výmena samotného modelu.

Praktický význam pre firmy a vývojárov

Pre podnikové nasadenie je Agentic Search zaujímavý najmä tam, kde odpoveď nemožno nájsť v jednom samostatnom odseku. Typickým príkladom je kontrola zmluvy s odkazmi na prílohy, porovnanie finančných údajov medzi obdobiami, vyhodnotenie technickej dokumentácie alebo hľadanie pravidla roztrúseného medzi internou smernicou a jej dodatkami. Agent môže najprv nájsť vhodný dokument, následne identifikovať tabuľku či kapitolu a napokon skontrolovať, či výsledok podporuje presná citácia.

Pre slovenské organizácie môže byť dôležitá aj možnosť prevádzkovať retrieval vrstvu v kontrolovanom prostredí. Banky, poisťovne, priemyselné podniky alebo verejné inštitúcie často nemôžu poslať celý dokumentový archív do cudzej služby. Prenositeľný vyhľadávací nástroj môže zmenšiť množstvo obsahu, ktoré sa dostane k modelu, a lepšie oddeliť indexovanie od generovania odpovede. Samotná lokálna prevádzka však ešte negarantuje súlad s pravidlami ochrany údajov; rozhodujú aj prístupové oprávnenia, evidencia volaní, retenčné lehoty a umiestnenie všetkých nadväzujúcich služieb.

Vývojári by mali počítať s tým, že agentická slučka prináša nové kompromisy. Viac krokov môže zlepšiť úplnosť, ale zároveň vytvára viac miest, na ktorých sa systém môže rozhodnúť nesprávne. Agent môže vybrať zlý dokument, predčasne ukončiť hľadanie, nepochopiť tabuľku alebo nesprávne spojiť údaje z rôznych období. Dôležitá preto bude nielen výsledná odpoveď, ale aj uchovanie trajektórie: aké dopyty agent použil, ktoré strany otvoril, z čoho čerpal a akým výpočtom dospel k záveru.

Rozumné pilotné nasadenie by malo porovnávať Agentic Search s jednoduchším RAG na vlastnej reprezentatívnej sade otázok. Nestačí sledovať iba percento správnych odpovedí. Tím by mal merať aj úplnosť citácií, čas odpovede, cenu modelových a vyhľadávacích operácií, počet krokov, správanie pri chýbajúcom dôkaze a mieru falošnej istoty. V regulovaných oblastiach je mimoriadne dôležité, aby systém vedel odpoveď odmietnuť, keď sa v povolených zdrojoch nenachádza dostatočný podklad.

Čo zatiaľ zostáva otvorené

Mistral nezverejnil všetky podrobnosti potrebné na úplnú reprodukciu deklarovaných porovnaní. Z oznámenia nie je jasné, aký podiel zlepšenia priniesol vyhľadávací algoritmus, parser dokumentov, konkrétny model, nastavenie nástrojov alebo maximálny počet krokov. Bez rovnakých podmienok nemožno určiť, či by podobný výsledok dosiahla aj alternatívna zostava s otvoreným indexom a iným agentickým rámcom. Hodnoty latencie a spotreby tokenov navyše závisia od dĺžky dokumentov, infraštruktúry a zvoleného východiskového systému.

Otvorenou otázkou zostáva aj bezpečnosť. Dokumenty môžu obsahovať škodlivé alebo zavádzajúce pokyny, ktoré sa agent pokúsi nasledovať ako súčasť obsahu. Vyhľadávanie naprieč viacerými úložiskami zase zvyšuje riziko, že model spojí informácie, ku ktorým by jeden používateľ nemal mať spoločný prístup. Produkčné riešenie preto potrebuje presadzovanie oprávnení už pri vyhľadávaní, izoláciu jednotlivých kolekcií a jasné oddelenie obsahu dokumentu od systémových inštrukcií.

Agentic Search je preto presvedčivou ukážkou smerovania podnikového RAG, nie definitívnym dôkazom vyriešeného vyhľadávania. Najsilnejšou myšlienkou novinky je, že kvalitná odpoveď nad firemnými dátami vyžaduje viac než podobnosť medzi otázkou a textovým úryvkom. Agent musí vedieť dokument preskúmať, priznať nedostatok dôkazov a svoje tvrdenie spätne podložiť. Až nezávislé testy na reálnych slovenských a viacjazyčných korpusoch ukážu, ako dobre Mistral túto ambíciu napĺňa mimo vybraných benchmarkov.