AWS ukazuje vysvetliteľné odporúčanie bankových produktov cez viacvežový model

AWS zverejnil architektonický návrh systému, ktorý má banke odporučiť ďalší vhodný produkt pre konkrétneho klienta a zároveň vysvetliť, z akých skupín údajov rozhodnutie vzniklo. Riešenie používa PyTorch a Amazon SageMaker AI, no jeho jadrom nie je generatívny chatbot. Ide o viacvežovú neurónovú sieť, v ktorej samostatné vetvy spracúvajú históriu využívaných produktov, transakčné agregácie, profil klienta a behaviorálne segmenty. Naučený mechanizmus pozornosti potom určuje, akú váhu mala každá vetva pri konkrétnom odporúčaní.

Bankové odporúčanie je náročnejšie než bežný zoznam podobných položiek v internetovom obchode. Klient môže vlastniť účet, kartu, úver, sporenie, poistenie či hypotéku a poradie, v ktorom produkty pribúdali, nesie informáciu o jeho potrebách. Zároveň ide o regulované prostredie, kde banka nemôže spokojne prijať model iba preto, že má vysokú priemernú presnosť. Potrebuje vedieť, či odporúčanie nevychádza z nevhodného znaku, ako sa správa pri rôznych skupinách klientov a či ho dokáže spätne vysvetliť audítorovi aj pracovníkovi, ktorý komunikuje so zákazníkom.

Navrhnutá architektúra preto oddeľuje štyri rozdielne typy vstupu. Sekvenčná vetva používa dvojvrstvovú jednotku GRU a zachytáva poradie prijímania produktov. Transakčná vetva spracúva číselné súhrny za časové okná, klientská vetva kombinuje demografické a účtové vlastnosti a behaviorálna vetva pracuje so segmentmi lojality či používania služieb. Každá časť vytvorí reprezentáciu rovnakej veľkosti. Až potom ich systém spája, namiesto toho, aby od začiatku tlačil heterogénne údaje cez jednu spoločnú sieť.

Mechanizmus pozornosti nad vetvami plní dve úlohy. Po prvé, umožňuje modelu meniť význam jednotlivých zdrojov podľa konkrétneho klienta. Pri jednom odporúčaní môže dominovať postupnosť doterajších produktov, pri inom aktuálne transakčné správanie. Po druhé, váhy vytvárajú zrozumiteľnejšiu stopu než neurčitá odpoveď, že rozhodla celá sieť. Nie je to však úplné kauzálne vysvetlenie. Vysoká váha ukazuje, na ktorú reprezentáciu sa model sústredil, ale sama osebe nedokazuje, že zmena daného vstupu spôsobí očakávanú zmenu výsledku. Banka preto potrebuje doplniť kontrafaktuálne testy a kontroly stability.

Dátová cesta je rozdelená medzi AWS Glue a SageMaker Processing. Glue zjednocuje schémy zo zdrojových systémov, mapuje typy transakcií a vytvára chronologický záznam klienta. Následné spracovanie pripravuje sekvencie produktov a agregácie za obdobia 7, 30, 60, 180 a 365 dní. Dáta sa ukladajú v stĺpcovom formáte Parquet na Amazon S3. Pri veľkých objemoch návrh používa delenie na bloky, paralelné procesy a priebežné spájanie výsledkov, aby príprava neprekročila dostupnú pamäť.

Produkčná časť počíta s registrom modelov, riadeným schvaľovaním verzií, dávkovou alebo takmer okamžitou inferenciou a orchestráciou cez SageMaker Pipelines. CloudWatch má sledovať tréningové metriky, latenciu inferencie a posun dát. Takéto usporiadanie je dôležité, pretože vysvetliteľnosť nie je jednorazová vlastnosť modelu v laboratóriu. Ak sa zmení distribúcia transakcií, produktové portfólio alebo spôsob zberu znakov, váhy vetiev aj kvalita odporúčaní sa môžu posunúť bez viditeľnej chyby v aplikácii.

AWS venuje značnú časť návrhu ochrane osobných a finančných údajov. Odporúča šifrovanie, obmedzenie oprávnení podľa princípu najmenšieho prístupu, súkromné sieťové segmenty, izoláciu tréningových úloh a audit cez CloudTrail. Pre banku je rovnako dôležitá minimalizácia údajov a politika uchovávania. Technická možnosť pridať ďalší znak ešte neznamená, že ho organizácia smie alebo potrebuje používať. Modelový tím musí mať zdokumentovaný právny základ, pôvod údajov a mechanizmus, ktorým sa oprava či vymazanie klientskych údajov premietne do ďalšieho tréningu.

Praktický prínos viacvežového návrhu spočíva aj v jednoduchšom testovaní. Tím môže samostatne merať kvalitu sekvenčnej, transakčnej či behaviorálnej vetvy, vykonávať ablačné experimenty a zisťovať, či drahší zdroj dát skutočne zlepšuje rozhodovanie. Dá sa tiež sledovať, či jedna vetva nezačne dominovať pri takmer všetkých klientoch, čo môže signalizovať únik cieľovej informácie alebo chybu v škálovaní vstupov. Takéto diagnostiky sú pre regulované nasadenie často hodnotnejšie než malé zlepšenie jedného súhrnného skóre.

Zverejnený materiál je architektonický vzor, nie nezávislý benchmark ani hotový bankový produkt. AWS opisuje dosiahnutie vysokej presnosti, ale bez verejného porovnania na spoločnom datasete nemožno výsledok prenášať na inú banku. Každá inštitúcia má odlišné portfólio, kvalitu histórie, pravidlá oprávnenosti aj definíciu obchodného úspechu. Pred nasadením treba overiť kalibráciu, spravodlivosť medzi skupinami, odolnosť voči chýbajúcim údajom a hlavne to, či odporúčanie zlepšuje výsledok klienta, nielen pravdepodobnosť predaja.

Dôležité je aj oddeliť odporúčanie od automatického rozhodnutia. Model môže zoradiť vhodné produkty alebo pripraviť podklad pre pracovníka, no schválenie úveru, cena služby či odmietnutie klienta podliehajú ďalším pravidlám. Organizácia by mala evidovať, kedy človek odporúčanie prijal alebo zamietol, aké vysvetlenie videl a či sa spätná väzba nepoužíva na tréning spôsobom, ktorý zosilňuje historické obchodné predsudky. Vysvetliteľná architektúra pomáha, ale nenahrádza procesnú zodpovednosť.

Pre širší trh je návrh ukážkou návratu ku kombinácii špecializovaných modelových častí a robustnej dátovej infraštruktúry. Nie každý hodnotný systém potrebuje veľký jazykový model. V bankovom odporúčaní môže byť vhodnejšia menšia sieť, ktorej vstupy, verzie a rozhodovacie signály možno presne sledovať. SageMaker a Glue tu poskytujú prevádzkový rámec, zatiaľ čo rozhodujúcu kvalitu určia interné dáta, testovacia disciplína a pravidlá dohľadu. Práve táto kombinácia bude rozhodovať, či sa vysvetliteľnosť stane reálnym kontrolným nástrojom alebo iba grafom pripojeným k odporúčaniu.