AWS ukazuje lacnejší tok pre skenované dokumenty cez Nova 2 Lite a Claude

AWS zverejnil technický postup, ktorý rieši veľmi praktický problém dokumentovej umelej inteligencie: ako z drahého všeobecného multimodálneho volania urobiť lacnejší, predvídateľnejší a stále presný pracovný tok. Príkladom sú skenované stránky ročeniek, kde stránka môže obsahovať viacero portrétov, desiatky mien a žiadnu strojovo čitateľnú väzbu medzi konkrétnou tvárou a textom. Namiesto toho, aby celý problém riešil jeden veľký model, AWS rozdeľuje úlohu medzi Amazon Nova 2 Lite a Claude Sonnet 4.6 v Amazon Bedrocku.

Prvá fáza patrí modelu Nova 2 Lite. Ten má zo stránky vyťažiť štruktúrované údaje: nájsť fotografie, priradiť im ohraničujúce rámčeky, vyčítať viditeľné mená a doplniť základné metadáta stránky. Dôležité je, že Nova nemá robiť úplné OCR celej strany. Prompt ju cielene obmedzuje na mená a priestorové informácie, ktoré neskôr potrebuje druhý krok. Tým sa znižuje počet výstupných tokenov a úloha zostáva vhodná pre lacnejší model, ktorý je pri tomto type extrakcie dostatočný.

Druhá fáza používa Claude Sonnet 4.6. Claude nedostáva pôvodnú stránku ako všeobecnú úlohu typu „pochop dokument“, ale už pripravený zoznam mien, súradnice textu a súradnice fotografií. Jeho úlohou je priestorové uvažovanie: rozhodnúť, ktoré meno pravdepodobne patrí ku ktorej tvári, aj keď sa rozloženie strán mení, popisky sú niekedy nad fotografiou, inokedy pod ňou a časť stránky môže obsahovať skupinové zábery alebo neštandardnú sadzbu. AWS tvrdí, že na 336 skenovaných stránkach takýto tok vytvoril 3 122 väzieb meno–tvár a 93 percent z nich malo skóre dôvery aspoň 0,95.

Zaujímavý je najmä ekonomický detail. AWS v článku tvrdí, že dvojmodelový postup stojí približne o dve tretiny menej na stránku než alternatíva, ktorá by poslala celú úlohu jednému všeobecnému vision-language modelu. Prispieva k tomu aj pevné účtovanie obrazových vstupov pri Nova 2 Lite: vstupná stránka má predvídateľnú cenu bez ohľadu na rozlíšenie či veľkosť súboru. Pri archívoch so státisícmi strán nejde o kozmetickú optimalizáciu, ale o rozdiel medzi experimentom a systémom, ktorý sa dá rozpočtovať.

Pre firmy je na tomto príklade dôležitý princíp „rozdeľ a skontroluj“. V dokumentových pipeline sa často predpokladá, že výkonnejší model automaticky vyrieši viac úloh naraz. AWS ukazuje opačný smer: lacnejší model môže spraviť vysokofrekvenčnú extrakciu, zatiaľ čo drahší model sa použije len tam, kde je potrebné uvažovanie nad rozložením. Takýto návrh zároveň zjednodušuje kontrolu kvality, pretože prvý krok produkuje medzivýstup v JSONe, ktorý možno validovať ešte pred tým, ako sa spustí druhý model.

Praktický dopad presahuje ročenky. Podobný vzor sa dá použiť pri poistných dokumentoch, personálnych formulároch, historických archívoch, faktúrach alebo technických protokoloch, kde lacný model najprv vyťaží polia a drahší model až potom rieši nejednoznačné väzby medzi položkami. V regulovaných odvetviach je to navyše príťažlivejšie než čierna skrinka jedného modelu: tím vie ukázať, ktoré polia boli extrahované, ktoré rozhodnutia vznikli priestorovým uvažovaním a kde treba nastaviť prah pre manuálnu kontrolu.

Článok však netreba čítať ako univerzálny dôkaz, že dvojmodelové riešenie vždy vyhrá. Výsledky sú viazané na konkrétny typ dokumentu, kvalitu skenov, prompt a spôsob bodovania dôvery. Pri formulároch s hustými tabuľkami, ručným písmom alebo pri dokumentoch v iných jazykoch sa môže pomer nákladov a presnosti posunúť. Pre produkčné nasadenie bude rozhodujúci vlastný test na reprezentatívnej vzorke, vrátane chýb, ktoré sú pre daný biznis najdrahšie.

Napriek tomu je to užitočný signál pre smerovanie dokumentovej AI v cloude. Namiesto súťaže o jeden „najlepší“ model rastie význam kompozície modelov, lacnejších špecializovaných krokov a explicitných medzivýstupov. Pre vývojárov to znamená viac architektonickej práce, ale aj väčšiu kontrolu nad cenou, latenciou a auditovateľnosťou. Pre nákupcov AI služieb je odkaz ešte jednoduchší: pýtať sa netreba len na presnosť modelu, ale aj na to, ktoré časti úlohy naozaj vyžadujú najdrahšie uvažovanie.