Preprint testuje agentov pri odporúčaniach liečby rakoviny prsníka

Nový preprint na arXive sa pozerá na otázku, ktorá je pre medicínske AI oveľa dôležitejšia než všeobecné benchmarky: vedia agentické LLM systémy bezpečne pomáhať pri odporúčaniach liečby rakoviny prsníka? Autori testovali sedem pipeline na 72 reálnych klinických prípadoch naprieč štádiami I až IV a vytvorili 1 147 špecifických rubrík pre jednotlivé prípady. Výsledok je opatrný: systémy dokážu generovať klinicky relevantné návrhy, ale podľa autorov stále nestačia na samostatné použitie bez dohľadu.

Štúdia je zaujímavá najmä metodikou. Rubriky vznikli cez Asymmetric Information Rubric Generation, skrátene AIRG. To znamená, že generátor hodnotiacich kritérií mal prístup k reálnym klinickým rozhodnutiam, ktoré hodnotené modely nevideli. V ideálnom prípade to znižuje riziko, že benchmark meria iba schopnosť modelu zopakovať všeobecné odporúčania. Každý prípad má vlastnú štruktúru hodnotenia, ktorá lepšie zodpovedá tomu, ako komplikované je reálne onkologické plánovanie.

Autori porovnávali jednoduché single-LLM baseline, systémy s nástrojmi aj viacagentové architektúry s fact-checkingom a autonómnym spawnovaním subagentov. Najlepší výsledok dosiahol Claude Opus 4.8 v pipeline označenej D&C+SA, s globálnym skóre 0,594 ± 0,025. Samotné číslo netreba čítať ako percento bezpečnosti. Skôr ukazuje, že aj najlepší testovaný systém zostáva ďaleko od bezchybného klinického rozhodovania, hoci môže poskytovať užitočné čiastkové návrhy.

Dôležité je, že nástroje a väčšia autonómia nepomáhali vždy. V niektorých nastaveniach zlepšili výkon, v iných ho zhoršili. To je cenný protiargument voči jednoduchému marketingovému tvrdeniu, že agent s viacerými nástrojmi je automaticky lepší lekársky poradca. Pri zložitých rozhodnutiach môžu ďalšie kroky priniesť viac informácií, ale aj viac miest, kde sa objaví nesprávna interpretácia, zastarané tvrdenie alebo falošná istota.

Onkologická analýza chýb odhalila práve tie zlyhania, ktoré sú v medicíne najnebezpečnejšie: nesprávne alebo chýbajúce odporúčania, slabé odôvodnenie, chyby v citáciách, zastarané tvrdenia a nadmernú sebaistotu. V bežnom chatbotovom použití by podobné chyby znamenali zlú odpoveď. V klinickom kontexte môžu ovplyvniť riziko, načasovanie liečby alebo dôveru pacienta a lekára. Preto je dôležité, že autori výslovne neprezentujú výsledky ako povolenie na autonómne nasadenie.

Pre vývojárov medicínskych AI systémov z toho vyplývajú dve praktické lekcie. Prvá je, že hodnotenie musí byť prípadovo špecifické a odborné. Všeobecná presnosť na otázkach z medicíny nestačí, ak systém pri konkrétnom pacientovi vynechá podstatnú kontraindikáciu alebo nesprávne odôvodní odporúčanie. Druhá lekcia je, že architektúra agenta musí byť meraná podľa klinického dopadu, nie podľa počtu použitých nástrojov alebo modelov.

Pre nemocnice a zdravotnícke startupy je najrozumnejší scenár používania takýchto systémov podporný, nie autonómny. Agent môže pripraviť návrh, zoznam otázok pre tumor board, upozorniť na chýbajúce dáta alebo porovnať odporúčanie s lokálnym protokolom. Konečné rozhodnutie však musí zostať u klinického tímu, ktorý rozumie pacientovi, dostupnosti liekov, komorbiditám a lokálnemu štandardu starostlivosti.

Štúdia tiež naznačuje, že budúce regulácie a interné governance pravidlá budú musieť rozlišovať medzi rôznymi úrovňami autonómie. Jedna vec je systém, ktorý sumarizuje dokumentáciu. Iná vec je agent, ktorý si sám vytvára subúlohy, kontroluje fakty a navrhuje liečebný plán. Čím viac autonómie, tým viac treba auditovať zdroje, logovať medzi-kroky a vyžadovať vysvetliteľné dôvody pre každé odporúčanie.

Najväčší prínos preprintu nie je v tom, že by našiel hotového AI onkológa. Skôr ukazuje, ako by mohlo vyzerať realistickejšie testovanie agentov v medicíne: s reálnymi prípadmi, asymetrickými informáciami, rubrikami viazanými na konkrétne rozhodnutia a ľudskou expertízou pri analýze chýb. To je náročnejšia, ale užitočnejšia cesta než všeobecné leaderboardy, ktoré nevedia zachytiť klinickú zodpovednosť.