Amazon vo financiách skladá odpovede pre regulátorov cez Bedrock a RAG

Amazon zverejnil technický pohľad na to, ako jeho finančno-technologické tímy používajú generatívnu AI pri spracovaní regulačných otázok od úradov. Nie je to len ďalší firemný príklad „AI do kancelárie“. V centre stojí veľmi konkrétny problém: keď prídu otázky od regulátora, firma musí v krátkom čase nájsť podklady v tisícoch historických dokumentov, poskladať odpoveď, doplniť podporné dáta z interných systémov a pritom udržať auditovateľnosť celého postupu. Práve tento typ úlohy je zaujímavý, lebo testuje generatívnu AI mimo marketingových chatbotov a v prostredí, kde je chyba drahá.

AWS v blogu opisuje, že dokumenty prichádzajú v rôznych formátoch od PDF a prezentácií po tabuľky a textové súbory. To komplikuje nielen vyhľadávanie, ale aj správu kontextu naprieč dlhšími konverzáciami. Regulácia nebýva jednorazová otázka s jednou odpoveďou. Tímy sa k téme vracajú, upravujú formulácie, spresňujú podklady a potrebujú vedieť, prečo systém navrhol konkrétnu formuláciu. Amazon preto nestavia iba na samotnom modeli, ale na širšej aplikačnej architektúre, ktorá musí zvládnuť vyhľadávanie, pamäť konverzácie aj sledovanie správania systému.

Jadrom riešenia je RAG vrstva nad Amazon Bedrock Knowledge Bases, pričom vektorové ukladanie zabezpečuje OpenSearch Serverless. Na generovanie viacotáčkových odpovedí AWS uvádza použitie Claude Sonnet 4.5 cez Converse Stream API a na správu histórie konverzácie používa DynamoDB. Obslužná logika beží cez AWS Lambda a okolo celej zostavy je vrstva observability postavená na OpenTelemetry a self-hostovanom Langfuse. Dôležitý detail je, že systém neukladá kešované odpovede veľkých jazykových modelov ani medzivýsledky, pretože regulačné otázky sú podľa Amazonu príliš kontextové a opakovateľnosť dopytov by bola slabá.

Tento detail je dôležitý aj z praktického hľadiska. Mnohé verejné AI architektúry sa radi tvária univerzálne, no pri skutočných podnikových procesoch rozhodujú drobnosti: kde sa uchováva konverzačný stav, aké dokumenty sa ingestujú, kto môže aktualizovať znalostnú bázu, ako sa sledujú halucinácie a ako sa odhalí, že systém siaha po zastaraných pravidlách. AWS otvorene pomenúva, že observability nie je prívesok na dashboard, ale podmienka pre zodpovedné použitie. Ak má AI navrhovať odpovede pre regulátora, nestačí vysoká plynulosť textu; dôležitá je dohľadateľnosť zdroja a možnosť spätne vysvetliť, ako odpoveď vznikla.

Z architektonického pohľadu je zaujímavé aj to, že Amazon nepíše o plne autonómnom agentovi, ktorý bez človeka odpovie úradu. Opisuje skôr pracovný systém, ktorý pomáha s vyhľadávaním precedensov, držaním kontextu a prípravou návrhov, ale zároveň ráta s priebežnou ľudskou revíziou. To je realistickejší obraz nasadzovania generatívnej AI vo veľkých firmách. Najväčšiu hodnotu dnes často neprináša „autopilot“, ale skrátenie času medzi otázkou, nájdením relevantných podkladov a prvým kvalitným návrhom odpovede.

Pre trh to má širší význam. V posledných mesiacoch pribúda množstvo agentických frameworkov a podnikových asistentov, no menej často vidno presné opisy procesov, kde je potrebné kombinovať retrieval, priebežnú históriu, interné dokumenty a meranie kvality v prostredí s regulačným tlakom. Amazon tu ukazuje jeden z praktických vzorov, ako môže podniková AI fungovať v oddelení, ktoré nemá priestor na voľné experimentovanie. Nie je to demonštrácia schopnosti modelu napísať pekný odsek, ale ukážka, ako sa AI začleňuje do procesu, kde každá nepresnosť môže znamenať reputačné aj právne riziko.

Zároveň to pekne zapadá do posunu, ktorý dnes vidíme naprieč celým trhom: samotný model už nie je jediný produkt. Hodnota sa presúva do systému okolo neho, do kvality dokumentových tokov, do spôsobu merania, do voľby pamäťovej vrstvy a do architektúry, ktorá vie odlíšiť návrh od finálneho rozhodnutia. To je aj dôvod, prečo AWS popri Bedrocku zdôrazňuje Knowledge Bases, OpenSearch Serverless, DynamoDB, Lambda a observability nástroje. V podniku totiž AI zriedka stojí sama. Väčšinou je to poskladaný reťazec služieb, ktorý musí obstáť aj pri audite.

Pre slovenské firmy a integrátorov je tento príklad cenný najmä tým, že ukazuje realistický, nie bombastický scenár použitia. Nehovorí, že reguláciu vyrieši jeden prompt. Hovorí, že zložité odpovedanie na kontrolné otázky možno zrýchliť cez dobre navrhnutý RAG systém s jasnými zdrojmi, viacotáčkovým kontextom a meraním kvality. Ak sa generatívna AI má presadiť vo financiách, poisťovníctve alebo verejne regulovaných odvetviach, bude sa pravdepodobne podobať skôr na tento opatrný a auditovateľný model než na voľne improvizujúceho asistenta bez dohľadu.