Agentické RAG v nemocnici: preprint ukazuje, kde klinická extrakcia funguje a kde sa láme

Nový preprint na arXive sa pozerá na jednu z prakticky najťažších úloh pre generatívnu AI v zdravotníctve: ako z kompletného pacientskeho kontextu vytiahnuť overiteľné klinické údaje bez toho, aby systém zakryl neistotu alebo stratil stopu k pôvodnému dokumentu. Autori opisujú ACIE, čiže Agentic Clinical Information Extraction, on-premise agentický RAG systém nasadený v University Medicine Essen. Nejde o ukážkový chatbot nad niekoľkými dokumentmi, ale o pipeline navrhnutú pre prostredie, kde pacientsky prípad môže zahŕňať stovky heterogénnych záznamov a veľa štruktúrovaných dát.

Základný problém, ktorý práca pomenúva, je metadátová medzera. Dokumenty v nemocničnom prostredí často nemajú také značenie, aké by vyhľadávací systém potreboval na spoľahlivé triedenie podľa času, typu vyšetrenia, klinickej udalosti alebo vzťahu medzi nálezmi. Štandardné RAG riešenie potom síce vie nájsť podobný textový úsek, ale môže zlyhať pri temporálnom uvažovaní, pri spájaní údajov naprieč dokumentmi alebo pri situácii, keď dôležitá informácia nie je označená priamo v metadátach. V medicíne to nie je drobná chyba vyhľadávania, ale rozdiel medzi použiteľným podkladom pre overenie a textom, ktorému lekár nemôže dôverovať.

ACIE je preto navrhnuté ako agentická extrakčná vrstva, nie iba ako jednorazový dotaz do vektorovej databázy. Systém má pracovať nad kompletnými pacientskymi kontextmi, rozkladať extrakčnú úlohu na čiastkové kroky a ku každej odpovedi pripojiť pasáže, z ktorých hodnota vychádza. Dôležitý je aj fakt, že ide o on-premise nasadenie. Pre nemocnicu je to praktická požiadavka: citlivé zdravotné dáta nemajú bez jasného právneho a bezpečnostného rámca odchádzať do externej cloudovej služby. Autori tým nepriamo ukazujú, že zdravotnícke AI systémy sa nedajú hodnotiť len podľa presnosti modelu, ale aj podľa dátovej architektúry, auditu a možnosti overenia.

Najsilnejšou časťou preprintu je hodnotenie na retrospektívnej lymfómovej registri, v ktorom jadrovo-medicínski lekári kontrolovali každú extrahovanú hodnotu proti citovaným zdrojovým pasážam. Autori uvádzajú 7 326 posúdení a celkovú mieru akceptácie 96,5 %. Rozptyl podľa typu extrakcie bol pritom výrazný: jednotlivé typy hodnôt sa pohybovali približne od 80 % po 99 %. To je užitočnejšie ako jedna priemerná metrika, pretože v klinickej praxi nie sú všetky polia rovnako jednoduché ani rovnako rizikové. Niektoré údaje sa dajú čítať takmer priamo, iné vyžadujú časové zaradenie, kontext diagnózy alebo rozlíšenie medzi plánom a skutočne vykonaným výkonom.

Pre AI Feed je na tejto práci zaujímavé najmä to, že nejde o ďalší všeobecný prísľub "AI pre zdravotníctvo". Preprint veľmi konkrétne opisuje, čo sa pokazí, keď sa veľký jazykový model pripojí na klinické dokumenty bez vrstvy, ktorá rozumie chýbajúcim metadátam a potrebe klinickej verifikácie. Agentický prvok tu nemá byť marketingovým označením pre autonómneho asistenta, ale spôsobom, ako nútiť systém postupovať po krokoch, vracať sa k zdrojom a skladať odpoveď z overiteľných dôkazov. To je oveľa bližšie k infraštruktúre pre klinický audit než k bežnému konverzačnému rozhraniu.

Zároveň treba čítať výsledky opatrne. Preprint je zatiaľ akademický text, nie dôkaz univerzálnej klinickej bezpečnosti. Retrospektívna štúdia ukazuje správanie systému v konkrétnom prostredí, na konkrétnom type registra a pri kontrole vybranou skupinou odborníkov. Aj 96,5-percentná akceptácia znamená, že časť extrakcií bola odmietnutá alebo problematická, a práve tieto okrajové prípady môžu byť v medicíne rozhodujúce. Autori však robia dôležitý posun: neskrývajú chyby za jednu presnosť, ale spájajú extrakciu s ľudským overovaním a so stopami k zdrojovým dokumentom.

Praktický dopad pre nemocnice a dodávateľov zdravotníckych IT je jasný. Ak majú byť RAG systémy použiteľné mimo pilotných ukážok, musia pracovať s celým životným cyklom klinickej informácie: import dokumentov, dopĺňanie alebo obchádzanie chýbajúcich metadát, časové uvažovanie, citovanie zdrojov, audit rozhodnutí a možnosť, aby lekár rýchlo odmietol nesprávnu hodnotu. Model sám osebe nestačí. Rovnako dôležité sú pravidlá, ktoré určujú, čo sa extrahuje, ako sa výsledok dokumentuje a kto nesie zodpovednosť za jeho použitie.

Pre širší trh zdravotníckej AI je ACIE pripomienkou, že najbližšie hodnotné nasadenia nemusia vyzerať ako autonómny doktor. Môžu to byť úzko zamerané systémy, ktoré zrýchľujú tvorbu registrov, predvypĺňajú štruktúrované klinické údaje a znižujú manuálnu administratívu, no finálnu kontrolu nechávajú odborníkovi. Takýto model je menej efektný než plne automatická diagnóza, ale je realistickejší, ľahšie auditovateľný a lepšie zapadá do nemocničných procesov.

Dôležité je aj regulačné poučenie. Európske zdravotníctvo bude pri AI systémoch očakávať vysvetliteľnosť, ochranu dát a jasné rozdelenie zodpovednosti. Preprint preto naznačuje smer, ktorým sa budú musieť uberať klinické RAG produkty: menej dôrazu na plynulú odpoveď a viac na dôkazový reťazec. Ak systém pri každej hodnote ukáže, z ktorého dokumentu a z akej pasáže pochádza, lekár môže rozhodovať rýchlejšie, ale nie naslepo. Práve táto kombinácia agentického vyhľadávania, lokálneho nasadenia a explicitnej verifikácie je najpodstatnejším signálom celej práce.