DeepER-Med tlačí agentický medicínsky výskum k auditovateľným dôkazom

V zdravotníctve dnes narastá tlak na to, aby AI nebola iba rýchla, ale aj vysvetliteľná a dôkazovo ukotvená. Práve týmto smerom mieri práca DeepER-Med, ktorá spája agentický systém s explicitným hodnotením dôkazov a snaží sa z „deep research“ urobiť kontrolovateľný proces namiesto čiernej skrinky. Autori otvorene pomenúvajú problém: existujúce systémy síce dokážu kombinovať vyhľadávanie, sumarizáciu a syntézu, no často neukazujú, prečo majú byť ich závery dôveryhodné. V medicíne je to kritické, pretože chyba sa neprejaví len v nepresnej odpovedi, ale môže skresliť výskumnú hypotézu, klinickú interpretáciu aj ďalšie rozhodovanie.

DeepER-Med preto rámcuje výskumnú prácu ako viacstupňový workflow. Zahŕňa plánovanie výskumu, agentickú spoluprácu a syntézu dôkazov tak, aby bolo jasné, aké zdroje a aké kritériá kvality viedli ku konečnému záveru. To je dôležitý posun oproti mnohým komerčným „deep research“ nástrojom, ktoré pôsobia impozantne, ale používateľovi odovzdajú skôr elegantný text než auditovateľnú stopu argumentácie. V medicíne však nestačí, že odpoveď znie presvedčivo. Musí byť zrejmé, z čoho vychádza, aké sú limity dôkazov a kde sa mohla do procesu dostať chyba.

Silnou stránkou práce je aj nový benchmark DeepER-MedQA. Autori tvrdia, že dataset obsahuje stovku expertne formulovaných výskumných otázok odvodených z reálnych medicínskych scenárov a pripravených s pomocou multidisciplinárneho panelu 11 odborníkov. To je podstatné, pretože veľká časť AI benchmarkov stále meria zjednodušené úlohy, ktoré sa od praktickej klinickej reality vzďaľujú. Ak chceme vedieť, či sú agentické systémy pripravené na serióznu vedeckú alebo klinickú podporu, musíme ich hodnotiť na otázkach, kde nie je dôležitá len správna odpoveď, ale aj kvalita evidencie a schopnosť pracovať s neistotou.

Podľa autorov DeepER-Med v expertnej manuálnej evaluácii prekonáva bežne používané produkčné platformy a v siedmich z ôsmich reálnych klinických prípadov sa jeho závery zhodovali s klinickými odporúčaniami. To sú pôsobivé tvrdenia, no práve pri medicínskych paperoch je dôležité čítať ich s dvojitou opatrnosťou. Rozdiel medzi výskumným prototypom a klinicky spoľahlivým nástrojom je obrovský. Dôležité však je, že práca vôbec presúva centrum pozornosti od povrchovej užitočnosti k otázke, ako má vyzerať dôkazová stopa AI, ktorá sa chce dostať bližšie k medicínskemu rozhodovaniu.

Praktický dopad môže byť širší než len samotné zdravotníctvo. DeepER-Med je signálom aj pre ďalšie odvetvia s vysokým rizikom, kde nestačí generovať text, ale treba preukázať kvalitu podkladov: regulácia, právo, compliance či bezpečnostná analytika. Ak sa osvedčí model, v ktorom je plán, agentická spolupráca a syntéza dôkazov explicitne rozdelená a hodnotená, môže sa z neho stať šablóna pre budúce „high-stakes“ AI workflow. Dôležitá nie je len presnosť, ale aj schopnosť preukázať, že systém k záveru dospel primeraným spôsobom.

Zároveň treba vidieť limity. Medicínske dáta sú heterogénne, často neúplné a silno závislé od kontextu pacienta či štúdie. Ani najlepšie štruktúrovaný agentický workflow nedokáže automaticky odstrániť publikačné skreslenie, nekonzistentnú kvalitu štúdií alebo slabú generalizovateľnosť výsledkov. Hrozí aj to, že systém bude vedieť elegantne vysvetliť slabý záver, čo je v kritických prostrediach rovnako nebezpečné ako priama halucinácia. Preto bude zásadné, aby podobné systémy sprevádzali tvrdé evaluačné režimy, ľudský dohľad a jasné vyznačenie hraníc použitia.

Pre nemocnice, farmaceutické firmy aj výskumné tímy však DeepER-Med posiela dôležitý signál: nasadzovanie AI v medicíne sa bude lámať na transparentnosti a dokazovaní, nie iba na rýchlosti. Model, ktorý vie vyprodukovať odpoveď za minútu, nie je automaticky cennejší než systém, ktorý za dlhší čas ukáže, z ktorých štúdií vychádzal, čo považoval za slabé miesto a kde ostáva neistota. V regulovanejších prostrediach bude táto schopnosť čoraz dôležitejšia.

DeepER-Med tak neznie ako ďalší marketingový príbeh o „AI doktorovi“, ale skôr ako pokus postaviť realistickejší základ pre budúce výskumné asistenty. Jeho význam nespočíva len v samotnom skóre, ale v tom, že pripomína jednoduchú vec: ak má AI vstúpiť do medicíny dôveryhodne, musí vedieť nielen odpovedať, ale aj ukázať, čomu verí a prečo tomu verí.