AdaGATE chce spraviť multi-hop RAG úspornejší: najprv hľadá chýbajúce mosty, až potom plní kontext

RAG systémy sa v podnikovej praxi často lámu na tom, že nájdu „nejaké“ relevantné dokumenty, no nedokážu z nich zložiť správny reťazec dôkazov. Pri jednoduchých otázkach to nemusí prekážať, ale pri multi-hop úlohách, kde treba spojiť viacero faktov z rôznych zdrojov, sa chyba zvyčajne neobjaví v generátore, ale už v skladaní kontextu. Nový paper AdaGATE preto nerieši ďalší tréning modelu, ale vrstvu medzi retrieverom a generátorom: ako vybrať presne tie kúsky dôkazu, ktoré vypĺňajú chýbajúce prepojenie.

Autori opisujú AdaGATE ako tréningovo nenáročný, teda training-free controller pre multi-hop retrieval-augmented generation. Namiesto slepého rozširovania kontextu alebo pevného top-k výberu pracuje s myšlienkou tokenovo obmedzenej opravy. Systém sa najprv snaží zistiť, ktoré mostné fakty medzi známymi entitami chýbajú, potom pre ne generuje cielené mikro-dotazy a napokon zvyšné dôkazy zbalí tak, aby sa zmestili do obmedzeného kontextového okna. To je dôležitý detail, pretože v reálnych nasadeniach nie je problém len nájsť relevantné texty, ale dostať tie správne do stále drahšieho kontextu.

Paper tým reaguje na slabinu mnohých dnešných RAG pipeline. Tie často optimalizujú iba lokálnu relevanciu dokumentu voči otázke, nie jeho úlohu v celom dôkazovom reťazci. Výsledkom je, že model dostane viac textu, ale nie nevyhnutne chýbajúci fakt, ktorý potrebuje na prepojenie dvoch častí odpovede. AdaGATE sa snaží správať skôr ako opravár dôkazovej medzery než ako ďalší zberač podobných pasáží. Už samotné toto rámovanie je zaujímavé, pretože posúva diskusiu od „viac retrievalu“ k „lepšej diagnostike toho, čo retrievalu chýba“.

Praktický význam je veľký najmä pre interné znalostné systémy a agentov nad dokumentmi. Firemný používateľ sa často nepýta na izolovaný fakt, ale na otázku, ktorá spája viacero databáz, zmlúv, reportov alebo produktových dokumentácií. Ak RAG pipeline nevie identifikovať chýbajúci medzičlánok, generátor začne improvizovať, zovšeobecňovať alebo halucinovať. AdaGATE sľubuje, že namiesto toho bude najprv cielene hľadať presne tú spojovaciu informáciu, ktorá v odpovedi chýba.

Dôležitý je aj dôraz na tokenovú efektivitu. V ére dlhších kontextov sa môže zdať, že najjednoduchšou odpoveďou je poslať modelu viac textu. To však zvyšuje náklady, latenciu aj riziko, že sa v kontexte stratí to podstatné. AdaGATE stavia na predpoklade, že problém multi-hop RAG sa nedá vyriešiť len väčším oknom, ale lepším výberom a balením dôkazov. Pre firmy, ktoré platia za inferenciu na každom kroku, je to oveľa praktickejšia správa než ďalší paper s abstraktným rastom skóre na uzavretom benchmarku.

Zaujímavé je aj to, že autori netvrdia potrebu ďalšieho veľkého tréningu. Training-free prístup znamená nižšiu prekážku nasadenia, pretože organizácia nemusí okamžite zbierať nové labelled dáta ani dolaďovať vlastný retriever. Ak sa metóda potvrdí, môže fungovať ako inteligentnejšia riadiaca vrstva nad existujúcou pipeline. To je atraktívne najmä pre tímy, ktoré už RAG majú v produkcii, ale narážajú na nekonzistentné odpovede pri zložitejších dopytoch.

Samozrejme, ako pri každom čerstvom arXiv paperi, aj tu platí opatrnosť. Treba vidieť reprodukovateľnosť, robustnosť mimo benchmarkov a správanie nad špinavými podnikmi dátami, kde sú dokumenty neúplné, zastarané alebo zle segmentované. Napriek tomu paper pomenúva veľmi reálny problém dnešných agentických systémov: model zlyhá nie preto, že by nevedel odpovedať, ale preto, že nedostal správne poskladané dôkazy.

Ak sa podobný typ controllerov ujme, RAG architektúra sa môže posunúť od jednoduchého pipeline „vyhľadaj a vygeneruj“ k viacstupňovému procesu, ktorý priebežne identifikuje dôkazové medzery a aktívne ich opravuje. To by bol praktický posun nielen pre výskum, ale aj pre podnikové nasadenia, kde úspech často nezávisí od modelu samotného, ale od toho, či sa k nemu dostanú správne podklady v správnom poradí.