Solv Labs spojilo platby AI agentov s politikami, atestáciou a auditnou stopou

Od platby k dôkazu

Solv Labs spolu s ICME Labs opísalo podrobnejšiu architektúru platieb vykonávaných AI agentmi nad službou Amazon Bedrock AgentCore payments. Novým a podstatným detailom oproti pôvodnému súhrnu je presné rozdelenie zodpovedností: AgentCore zabezpečuje platobnú infraštruktúru, systém ORACLE od Solv Labs rozhoduje o predbežnej autorizácii a ICME PreFlight overuje splnenie pravidiel. Výsledok následne podpisuje služba spustená v izolovanom prostredí AWS Nitro Enclave a samostatný mechanizmus priraďuje transakcii rizikový násobiteľ. Až po vytvorení týchto artefaktov sa spustí vyrovnanie. Nejde teda o novú schopnosť jazykového modelu, ale o kontrolnú vrstvu okolo agenta, ktorý môže navrhnúť finančnú operáciu.

Takéto oddelenie je dôležité, pretože platba má iný rizikový profil než bežná odpoveď modelu. Nesprávny text možno opraviť, zatiaľ čo prevod peňazí môže okamžite vytvoriť účtovnú, zmluvnú alebo regulačnú povinnosť. Agent môže nesprávne pochopiť zámer používateľa, použiť neaktuálne údaje alebo reagovať na škodlivú inštrukciu ukrytú vo webovej stránke, faktúre či e-maile. Architektúra Solv Labs preto neberie výstup modelu ako dostatočné oprávnenie. Model môže transakciu pripraviť, no samostatná politika určuje limity, prípustných príjemcov a situácie, v ktorých je potrebná manuálna kontrola. Zásada „bez rozhodnutia niet vyrovnania“ sa má vynucovať mimo voľného uvažovania modelu.

Päť vrstiev pred vyrovnaním

Prvou vrstvou je ORACLE, ktorý pre navrhovanú operáciu vráti výsledok ALLOW alebo REVIEW. Podkladom má byť kontrola pravidiel cez ICME PreFlight, pričom tvorcovia tvrdia, že tretia strana môže výsledok overiť bez prístupu k úplnému zneniu politiky alebo citlivým parametrom transakcie. To je dôležitý posun od obyčajného logu: záznam nemá iba hovoriť, že kontrola prebehla, ale má niesť kryptograficky overiteľný dôkaz. Verejný opis však neposkytuje nezávislé bezpečnostné hodnotenie systému PreFlight ani úplné výsledky auditov. Tvrdenia o ochrane súkromia, prenositeľnosti a nezávislom overení preto treba zatiaľ chápať ako technické tvrdenia dodávateľov zapojených do projektu.

Druhou technickou oporou je AWS Nitro Enclave. Izolovaná služba podpisuje záznam o vykonaní a atestačný dokument viaže podpisovací kľúč na merania konkrétneho obrazu enklávy. V opísanej implementácii sa používa meranie PCR0 a záznam zahŕňa aj PCR1 a PCR2; celý dôkazový záznam je kanonizovaný a podpísaný algoritmom Ed25519. Overovateľ tak môže skúmať, či podpis vznikol v očakávanom prostredí, namiesto toho, aby sa spoliehal iba na vyhlásenie prevádzkovateľa. Atestácia však nepotvrdzuje, že politika bola rozumná, príjemca dôveryhodný alebo rozhodnutie agenta ekonomicky správne. Dokazuje predovšetkým pôvod a integritu konkrétneho výpočtu.

Ďalšia vrstva priraďuje každej transakcii deterministicky vypočítané rizikové hodnotenie. Má pomáhať prioritizovať výnimky a prípadne oceňovať riziko prenesené na tretiu stranu. Samotné AgentCore payments zároveň umožňuje nastaviť rozpočet a čas platnosti platobnej relácie; po vyčerpaní limitu alebo exspirácii majú byť ďalšie požiadavky zamietnuté. Služba podporuje peňaženky Coinbase CDP a Stripe/Privy, pričom poverenia sa ukladajú cez AgentCore Identity. Platobná vrstva využíva aj protokol x402, pri ktorom môže agent zaplatiť za API, obsah alebo nástroj priamo počas požiadavky. Coinbase opisuje x402 ako mechanizmus bez samostatnej registrácie a klasickej platobnej stránky, čo znižuje trenie, ale zvyšuje význam dobre nastavených limitov.

Auditná stopa nie je záruka správnosti

Výsledkom má byť jeden podpísaný záznam spájajúci identifikáciu vyhodnotenej politiky, výsledok kontroly, hardvérovú atestáciu, rizikové hodnotenie a artefakty vyrovnania. Jeho kryptografický odtlačok sa ukotví na verejnom blockchaine, aby bolo možné odhaliť neskoršiu zmenu interného záznamu bez zverejnenia celého obsahu transakcie. Takýto postup môže uľahčiť riešenie sporov a vyšetrovanie incidentov: audítor vie odlíšiť chybu agenta od zlyhania politiky, oprávnení alebo infraštruktúry. Blockchain však nepotvrdzuje pravdivosť vstupných údajov. Ak systém schváli nesprávnu sumu alebo podvodného príjemcu, nemenný záznam iba spoľahlivo zachová aj túto chybu.

AWS, Solv Labs a ICME Labs uvádzajú, že celý postup vrátane vyrovnania cez Coinbase trvá menej než štyri sekundy a samotná kontrolná réžia menej než sekundu. Ide o údaj autorov referenčnej implementácie, nie o výsledok nezávislého benchmarku pri rôznych regiónoch, sieťovom zaťažení a typoch transakcií. Praktický prínos by spočíval najmä v tom, že pracovníci rizika a auditu nemusia ručne kontrolovať náhodnú vzorku všetkých operácií, ale môžu sa sústrediť na výnimky. Pred produkčným použitím však treba otestovať aj zlyhania jednotlivých služieb, opakované požiadavky, zmenu politiky počas spracovania a spôsob zastavenia či nápravy chybnej platby.

Slovenské a európske mantinely

Pre slovenské banky, poisťovne, obchodníkov s cennými papiermi a ďalšie regulované finančné subjekty je relevantný najmä európsky rámec DORA. Ten vyžaduje riadenie rizík informačných a komunikačných technológií, zaznamenávanie incidentov, testovanie odolnosti a kontrolu rizík dodávateľov. Transakčná atestácia môže byť užitočnou časťou dôkazov, sama však nenahrádza celkový register závislostí, obnovu po incidente, zmluvné povinnosti voči poskytovateľom ani dohľad nad cloudovým reťazcom. Pri nasadení cez americký cloud, externú kryptografickú službu a blockchain musí organizácia vedieť určiť, kde sa spracúvajú údaje, kto prevádzkuje jednotlivé komponenty a ako sa zachová dostupnosť pri výpadku partnera.

AI Act sa neuplatní na každého platobného agenta automaticky rovnakým spôsobom; povinnosti závisia od úlohy systému, konkrétneho použitia a toho, či spadá do regulovanej alebo vysokorizikovej oblasti. Organizácia napriek tomu potrebuje jasné rozdelenie zodpovednosti medzi poskytovateľa modelu, prevádzkovateľa agenta, poskytovateľa platobnej služby a človeka, ktorý stanovil politiku. Na spracovanie osobných údajov sa môže vzťahovať aj GDPR a samotnú platbu na príslušné finančné predpisy. Pre slovenský podnik preto technický dôkaz „tento kód schválil túto operáciu“ nie je totožný s právnym dôkazom, že existoval platný súhlas, správny právny základ alebo splnené pravidlá proti praniu špinavých peňazí.

Čo ešte treba preveriť

Architektúra nerieši všetky spôsoby, ktorými môže autonómna platba zlyhať. Kompromitovaný kľúč, chybná konfigurácia limitu, podvrhnutá identita príjemcu, zraniteľnosť integračného kódu alebo príliš široká politika môžu viesť k platnej a dokonale zdokumentovanej škodlivej transakcii. Osobitne dôležité je oddeliť dáta od oprávnení: obsah dokumentu, ktorý agent číta, nesmie sám rozšíriť jeho rozpočet ani zoznam povolených príjemcov. Prevádzkovateľ potrebuje viacúrovňové schvaľovanie, krátku platnosť relácií, minimálne oprávnenia, ochranu proti opakovaniu platby a mechanizmus okamžitého odobratia prístupu.

Príklad Solv Labs je preto najpresnejšie chápať ako referenčný vzor pre auditovateľnosť, nie ako hotový certifikát bezpečnosti. Ukazuje užitočný smer: plánovanie agenta, finančné oprávnenie, formálna kontrola politiky, hardvérový podpis a vyrovnanie majú zostať oddelenými krokmi. Pred širším nasadením chýbajú nezávislé penetračné testy, verejné merania spoľahlivosti a podrobnosti o správaní pri spore, reorganizácii blockchainu či nedostupnosti overovacej služby. Rozhodujúce nebude iba to, či agent zaplatí za štyri sekundy, ale či podnik dokáže transakciu včas zastaviť, vysvetliť ju audítorovi a napraviť škodu, keď bol pôvodný zámer nesprávny.