APDMem necháva AI agenta otvárať detaily pamäte až vtedy, keď ich potrebuje

Dlhodobá pamäť AI asistenta nemusí znamenať, že model pri každej otázke dostane celý archív rozhovorov. Výskumníci z JPMorgan Chase predstavili APDMem, architektúru, ktorá rozdeľuje minulé konverzácie do štyroch úrovní podrobnosti a necháva riadiaceho agenta rozhodovať, ako hlboko sa má pri konkrétnej otázke pozrieť. Jednoduchá požiadavka môže skončiť pri stručnom tematickom prehľade, zatiaľ čo otázka závislá od presného dátumu, viacerých rozhovorov alebo protichodných tvrdení otvorí detailnejšie poznámky a napokon pôvodné správy. Autori uvádzajú, že na benchmarku LongMemEval systém využil iba 8 % dostupných konverzácií. Práca bola podľa záznamu na arXiv prijatá na EMNLP 2026 Industry Track.

Pamäť ako postupné odhaľovanie kontextu

APDMem používa štyri vrstvy označené L0 až L3. Prvá obsahuje tematické súhrny, druhá personalizované kľúčové fakty, tretia poznámky s dôkazmi na úrovni jednotlivých replík a štvrtá pôvodné správy. Namiesto jednorazového vyhľadania pevne zvoleného počtu úryvkov začne riadiaci komponent na najvyššej úrovni. Ak nájdené informácie nestačia, postupne otvorí jemnejšiu vrstvu. Rozsah získaného kontextu sa teda neprispôsobuje iba podobnosti dokumentov s otázkou, ale aj tomu, či agent už má dostatok podkladov na spoľahlivú odpoveď.

Dôležitým detailom je, že systém pri ukladaní nemusí vopred premeniť celý rozhovor na rozsiahly znalostný graf alebo množstvo odvodených záznamov. APDMem podľa práce vytvára tematické súhrny, zachováva surové správy a podrobnejšie reprezentácie môže materializovať až podľa potreby. Takýto postup presúva časť práce z ingestu do momentu vyhľadávania. Môže znížiť množstvo vopred generovaných údajov, zároveň však vyžaduje spoľahlivý kontrolér, ktorý rozpozná, kedy už sú dôkazy dostatočné a kedy treba pokračovať hlbšie.

Po získaní podkladov vstupuje do procesu syntetizátor organizovaných poznámok. Ten má fakty zoradiť podľa otázky, spojiť informácie roztrúsené v rôznych reláciách, zachovať časovú postupnosť a označiť rozpory. Finálny model preto nepracuje iba s neusporiadanou sadou podobných úryvkov. Dostáva kompaktnejší pracovný podklad, ktorý oddeľuje relevantné tvrdenia od okolitého šumu. Autori v ablačných testoch pripisujú tejto fáze väčší prínos najmä pri syntéze viacerých relácií a pri časovom uvažovaní, no ide o výsledky z ich vlastného experimentálneho nastavenia.

Prečo samotné dlhé kontextové okno nestačí

Benchmark LongMemEval, na ktorom tím riešenie testoval, obsahuje 500 otázok vložených do rozsiahlych histórií používateľských rozhovorov. Sleduje päť schopností: získanie informácie, uvažovanie naprieč reláciami, prácu s časom, aktualizáciu poznatkov a schopnosť neodpovedať, keď potrebný údaj v histórii nie je. Tvorcovia benchmarku pri jeho uvedení namerali pri komerčných asistentoch a modeloch s dlhým kontextom približne 30-percentný pokles presnosti pri informáciách rozložených naprieč dlhodobými interakciami. Veľké kontextové okno teda samo osebe nezaručuje, že model nájde správnu vetu a správne ju zasadí do vývoja udalostí.

Problémom nie je len objem tokenov. Používateľ môže najprv uviesť jednu preferenciu, o niekoľko týždňov ju zmeniť a neskôr sa opýtať, čo platí teraz. Ploché vyhľadávanie môže vrátiť starý aj nový záznam bez jasnej časovej väzby. Pri inom type otázky treba spojiť údaje z niekoľkých rozhovorov, pričom každý samostatne poskytuje iba časť odpovede. APDMem sa snaží tieto situácie riešiť kombináciou adaptívneho prehľadávania a záverečného usporiadania dôkazov, nie jednoduchým zväčšovaním počtu načítaných správ.

Udávaných 8 % neznamená, že systém zredukoval všetky výpočtové náklady na osem percent. Číslo opisuje podiel sprístupnených konverzácií v danom experimente, nie celkovú latenciu, spotrebu GPU, cenu vytvárania súhrnov ani náklady riadiacich krokov. Kontrolér môže vykonať viac iterácií a počas nich používať model opakovane. Pre nasadenie bude preto podstatné merať nielen presnosť odpovedí, ale aj počet volaní modelu, množstvo načítaných tokenov, čas odozvy a cenu údržby jednotlivých vrstiev.

Praktický význam pre podnikové systémy

Pre podnikové asistenty je zaujímavé najmä oddelenie rýchleho orientačného prehľadu od zdrojového dôkazu. Agent riešiaci podporu, interné projekty alebo dlhodobé zákaznícke prípady často potrebuje najprv zistiť, ktorá téma a obdobie sú relevantné. Až potom má zmysel otvoriť konkrétny zápis, rozhodnutie či pôvodnú komunikáciu. Vhodne implementovaná hierarchia môže obmedziť posielanie nesúvisiacich údajov do modelu a súčasne zachovať cestu späť k presnej formulácii, keď ju odpoveď vyžaduje.

Takéto vrstvenie však nevyrieši správu prístupových práv. Tematický súhrn môže prezrádzať citlivú informáciu rovnako ako pôvodná správa, hoci obsahuje menej detailov. Každá odvodená vrstva preto potrebuje zdediť oprávnenia, pravidlá uchovávania a väzbu na zdrojové záznamy. Ak sa pôvodný údaj opraví alebo vymaže, systém musí vedieť aktualizovať aj súhrny, fakty a poznámky. Bez tejto disciplíny by agent mohol odpovedať zo zastaranej odvodeniny aj po tom, čo primárny záznam prestal platiť.

Pre slovenské organizácie môže byť prístup relevantný pri interných znalostných asistentoch, kde sa miešajú e-maily, zápisnice, dokumentácia a dlhodobé projektové rozhodnutia. Pred produkčným použitím by však bolo potrebné otestovať kvalitu súhrnov v slovenčine, skloňované entity, dátumy vyjadrené rôznymi spôsobmi aj rozhovory kombinujúce slovenčinu s češtinou či angličtinou. Benchmark v angličtine neposkytuje dôkaz, že rovnaká konfigurácia udrží presnosť pri menšom jazyku alebo pri terminológii konkrétnej firmy.

Čo zatiaľ výsledky nepotvrdzujú

APDMem je zatiaľ výskumný návrh prezentovaný predovšetkým výsledkami jeho autorov. Verejný záznam potvrdzuje metodiku, architektúru a prijatie práce na konferenciu, nie však nezávislú reprodukciu deklarovaného pomeru presnosti a rozsahu načítanej pamäte. LongMemEval je užitočný a verejne dostupný benchmark, ale tvorí kontrolované prostredie s 500 otázkami. Reálna firemná pamäť obsahuje duplicity, nekonzistentné názvy, chybné zápisy, meniace sa oprávnenia aj dokumenty bez jasného času vzniku.

Otvorenou otázkou zostáva aj spoľahlivosť rozhodnutia zastaviť vyhľadávanie. Ak kontrolér skončí priskoro, agent môže vytvoriť presvedčivú odpoveď z neúplného súhrnu. Ak pokračuje príliš často, výhoda selektívneho prístupu sa zmenší. Produkčné hodnotenie by preto malo sledovať aj prípady, v ktorých systém neotvoril rozhodujúci detail, a porovnávať ich s jednoduchšími základmi: klasickým vyhľadávaním, pevne nastaveným počtom úryvkov a spracovaním celého dostupného kontextu.

Najsilnejšou myšlienkou práce tak nie je jedno výsledné číslo, ale zmena spôsobu, akým sa dá uvažovať o pamäti agentov. Namiesto otázky, koľko histórie sa zmestí do kontextového okna, sa pýta, akú úroveň dôkazu vyžaduje konkrétna úloha. Ak sa výsledky podarí reprodukovať na ďalších modeloch, jazykoch a reálnych dátach, progresívne odhaľovanie môže byť praktickou cestou k asistentom, ktoré si pamätajú viac bez toho, aby pri každej odpovedi čítali všetko.