AWS navrhuje automatické čistenie pamäte AI agentov v Amazon Bedrock AgentCore

Pamäť pomáha AI agentovi nadviazať na predchádzajúcu konverzáciu, zapamätať si používateľské preferencie alebo opätovne použiť úspešný pracovný postup. Pri dlhodobej prevádzke sa však z výhody môže stať záťaž: agent začne vyťahovať uzavreté incidenty, staré pokyny či informácie, ktoré už neplatia. Amazon Web Services preto zverejnilo referenčnú architektúru pre riadenie životného cyklu pamäte v Amazon Bedrock AgentCore. Namiesto neobmedzeného ukladania navrhuje pravidelný proces, ktorý záznamy najskôr filtruje podľa veku, následne hodnotí ich relevanciu a napokon príbuzné poznatky konsoliduje alebo odstráni.

Nejde o novú základnú funkciu, ktorá by všetkým agentom automaticky zapla inteligentné zabúdanie. AWS predstavuje nasaditeľný vzor postavený z existujúcich služieb, Lambda funkcií a infraštruktúry definovanej cez AWS CDK. Má slúžiť ako východisko pre tímy prevádzkujúce zákaznícke, predajné alebo IT podporné agenty s veľkým objemom interakcií. Pre menšie osobné asistenty môže podľa AWS spočiatku stačiť jednoduchšie časové vypršanie záznamov a mechanizmus na odstránenie údajov konkrétneho používateľa.

Tri druhy pamäte potrebujú odlišné pravidlá

Návrh rozlišuje epizodickú, sémantickú a procedurálnu pamäť. Epizodická pamäť zachytáva priebeh konkrétnych relácií a udalostí. Rastie najrýchlejšie a jej jednotlivé položky spravidla strácajú význam skôr, preto je prvým kandidátom na expiráciu. Sémantická pamäť obsahuje abstrahované fakty a preferencie, napríklad obľúbený región nasadenia používateľa. Takéto poznatky sú kompaktnejšie a môžu zostať užitočné dlhšie. Procedurálna pamäť opisuje naučené pracovné postupy a používanie nástrojov; môže mať vysokú hodnotu, no treba kontrolovať, či ju nezneplatnila zmena systému alebo firemného procesu.

Prvým pravidlom referenčného riešenia je pevné časové vypršanie, teda TTL. Ukážková konfigurácia používa pre epizodické záznamy predvolený limit 90 dní, pričom AWS odporúča rozdielne obdobia podľa typu pamäte. Súhrny môžu mať kratšiu životnosť, sémantické fakty dlhšiu a procedurálne poznatky nemusia mať automatický limit vôbec. AgentCore Memory však podľa zverejneného postupu nemá vstavané automatické mazanie podľa TTL. Implementácia preto filtruje záznamy podľa systémového času vytvorenia a staršie položky odstraňuje cez API.

Druhým pravidlom je skóre relevancie založené na troch signáloch: veku záznamu, čase posledného použitia a počte použití. Predvolené váhy dávajú 40 percent veku, 35 percent poslednému prístupu a 25 percent frekvencii. Exponenciálny pokles má zabezpečiť, aby nepoužívané záznamy postupne stratili prioritu, zatiaľ čo aj staršia, ale pravidelne vyhľadávaná informácia môže zostať zachovaná. Vzor používa parameter pruneDays, ktorý približne určuje, kedy nepoužitá pamäť klesne pod stanovený prah. AWS uvádza rozdielne štartovacie hodnoty od siedmich dní pri operatívnej podpore po 180 dní pri právnych a regulačných scenároch; nejde však o univerzálne odporúčania bez potreby vlastného testovania.

Konsolidácia má znížiť duplicity, ale je stratová

Záznam, ktorý dosiahne nízke skóre, sa nemusí okamžite vymazať. Tretie pravidlo používa model cez Amazon Bedrock na zlúčenie viacerých súvisiacich epizód do jedného sémantického záznamu. Niekoľko opakovaných poznámok o rovnakom používateľskom nastavení sa tak môže zmeniť na jednu autoritatívnejšiu informáciu. Model má pri konsolidácii odstrániť duplicity, zachovať podstatné fakty a vrátiť aj odhad vlastnej istoty. Až po úspešnom uložení nového súhrnu sa pôvodné položky odstránia; pri zlyhaní volania zostanú podľa návrhu zachované.

Takéto zhrnutie je nevyhnutne stratové. Model môže vypustiť výnimku, zlúčiť iba zdanlivo rovnaké údaje alebo ponechať tvrdenie, ktoré už bolo neskôr opravené. AWS preto pri citlivých prípadoch odporúča namiesto definitívneho vymazania archivovať originály, nízku istotu posielať na ľudskú kontrolu a použiť ochranné aj grounding mechanizmy. Dôležitý je tiež rozdiel medzi konsolidáciou a overovaním: jazykový model dokáže skrátiť uložené tvrdenia, ale sám osebe nepotvrdzuje, že sú pravdivé alebo stále aktuálne.

Praktickú oporu tomuto problému dáva aj samostatný projekt Lore od Notionu. Jeho tvorcovia opisujú neudržiavanú agentickú pamäť ako zásuvku plnú neprehľadných údajov a upozorňujú, že vágne, duplicitné či zastarané záznamy môžu výkon agenta zhoršiť. Lore preto používa expiráciu faktov a explicitné vzťahy ako nahradenie alebo konflikt medzi záznamami. Ide o odlišnú implementáciu na inej platforme, no zhoduje sa so základnou tézou AWS: úspech pamäte nezávisí iba od množstva uloženého kontextu, ale najmä od jeho kvality, štruktúry a správneho načasovania pri vyhľadávaní.

Nočný workflow prepája päť prevádzkových krokov

Referenčná architektúra spúšťa proces raz denne cez Amazon EventBridge. AWS Step Functions následne koordinuje päť Lambda funkcií: vymazanie záznamov po TTL, výpočet skóre, dávkovú konsolidáciu, odoslanie metrík a uloženie výsledku behu do Amazon S3. Chyby smerujú do upozornenia cez Amazon SNS. CloudWatch poskytuje prevádzkový prehľad o počte spracovaných, zlúčených a odstránených položiek. Celé riešenie je definované v CDK, takže operátor môže pri nasadení meniť prahy, váhy, veľkosť dávky aj použitý model bez zásahu do základného kódu.

Zaujímavým detailom je meranie skutočného používania pamäte. Súhrn záznamu v AgentCore podľa AWS neposkytuje pole s časom posledného prístupu, preto architektúra zaznamenáva udalosti GetMemoryRecord cez CloudTrail. Skórovacia funkcia číta udalosti z posledných 25 hodín a spája ich s dlhodobejšou účtovnou knihou prístupov v S3. Toto obchádzkové riešenie umožní započítať posledné aj kumulatívne použitie, zároveň však pridáva ďalšie úložisko, spracovanie logov a bezpečnostné oprávnenia. Tímy by preto mali posúdiť, či prínos jemnejšieho skórovania zodpovedá prevádzkovej zložitosti.

AWS zahrnulo aj regresný test pred a po údržbe pamäte. Agent dostane rovnaké otázky pred čistením aj po ňom a odpovede vyhodnotí AgentCore Evaluations podľa vopred určených kritérií. Test zlyhá, ak výsledná kvalita klesne pod nastavené minimum. Tento postup je dôležitejší než samotný počet vymazaných záznamov: agresívne čistenie môže znížiť náklady a objem úložiska, no súčasne odstrániť informácie potrebné na správnu odpoveď. Hodnotenie pomocou iného modelu však nie je objektívna záruka, preto pri dôležitých procesoch potrebuje doplnenie stabilnými testovacími prípadmi a ľudskou kontrolou.

Dôsledky pre firmy a otvorené otázky

Pre slovenské firmy je podstatné, že pamäť agenta treba spravovať podobne ako iné produkčné dáta: určiť účel, dobu uchovania, oprávnenia, audit a spôsob odstránenia. Ukážka obsahuje obsluhu vymazania všetkých záznamov konkrétneho používateľa a audit API operácií cez CloudTrail. To môže pomôcť pri realizácii interných retenčných pravidiel alebo požiadaviek dotknutých osôb, samotné nasadenie tejto architektúry však automaticky nezaručuje súlad s GDPR. Organizácia musí vedieť, ktoré osobné údaje sa do pamäte dostali, kde existujú ich kópie, ako sa riešia zálohy a či konsolidovaný záznam nezachoval informáciu, ktorá mala byť odstránená.

Otvorené zostáva aj optimálne nastavenie prahov pre konkrétneho agenta. Zverejnené hodnoty sú konfiguračné východiská, nie výsledok nezávislého benchmarku naprieč odvetviami. Nie je známe, ako sa presnosť konsolidácie mení pri konfliktných spomienkach, viacjazyčnom obsahu alebo veľmi dlhých dejinách používateľa. Referenčný návrh napriek tomu pomenúva dôležitý posun: produkčná agentická pamäť nemôže byť iba databázou, do ktorej sa neustále pridáva. Potrebuje merateľné pravidlá zabúdania, bezpečný audit a test, ktorý dokáže zachytiť, keď upratovanie odstránilo viac poznania, než malo.