Anthropic otvoril vedcom kontrolovaný prístup k výkonnejším modelom pre biológiu

Anthropic spustil beta verziu programu Life Sciences Verification Program, skrátene LSVP, ktorý má overeným vedeckým organizáciám sprístupniť modely Mythos, Opus a Sonnet s voľnejšími obmedzeniami pre biologický výskum. Firma tým reaguje na praktický problém: rovnaká požiadavka môže byť legitímnou súčasťou vývoja vakcíny, ale aj krokom k zneužitiu biologických poznatkov. Namiesto toho, aby model každú citlivejšiu otázku automaticky odmietol, chce Anthropic posudzovať používateľa, konkrétny projekt a dlhodobejší vzorec správania. Program je zatiaľ určený predovšetkým tímom a inštitúciám, nie jednotlivcom.

Oznámenie prichádza v čase, keď sa jazykové modely posúvajú od sumarizovania literatúry k návrhom experimentov, analýze molekulárnych dát a riadeniu vedeckých pracovných postupov. TechCrunch zároveň uviedol, že Anthropic prevádzkuje v oblasti Sanfranciského zálivu vlastné laboratórium pre fyzické biologické experimenty. Túto informáciu potvrdil firme samotný Anthropic, podrobnosti o konkrétnych experimentoch však nezverejnil. Podľa vyjadrenia vedenia divízie Life Sciences sa laboratórium sústreďuje na základnú biológiu, nie priamo na vývoj liekov. Ide preto o dôležitý kontext, nie o dôkaz, že modely už autonómne vykonávajú celý vedecký cyklus.

Dve úrovne prístupu namiesto jedného filtra

LSVP rozlišuje režimy Standard Use a High-risk Use. Štandardný prístup má pokryť bežnú prácu vo výskume, vývoji liekov, klinickom vývoji, výrobe, kontrole kvality, regulácii či vedeckej prevádzke. Môže sa vzťahovať na celý tím a obnovuje sa raz ročne. Overení používatelia dostanú modely s klasifikátormi, ktoré sú pri biologických témach menej reštriktívne než verejne dostupné verzie. Anthropic uvádza, že v predbežnom režime zapojil desiatky organizácií a po otvorení beta programu očakáva stovky ďalších žiadostí.

Režim High-risk Use je užší a viaže sa na konkrétny projekt. Má odomknúť aj požiadavky, ktoré zostávajú v štandardnom režime zablokované, napríklad citlivé skúmanie interakcie vírusových vektorov s ľudským imunitným systémom. Povolenie sa má obnovovať každých šesť mesiacov. Pre modely Opus 5 a Sonnet 5 je tento režim dostupný už pri štarte programu, zatiaľ čo vysoko rizikový prístup k modelu Mythos zostáva obmedzený na menší počet subjektov s dodatočným preverovaním a koordináciou s americkou vládou.

Žiadateľ neprechádza iba kontrolou identity. Anthropic chce posudzovať odborné poverenia, bezpečnostné štandardy organizácie a mechanizmy etického dohľadu. Povolenie sa následne viaže na deklarované oblasti použitia. Firma výslovne upozorňuje na tri riziká: prevzatie účtu útočníkom, zneužitie oprávnení insiderom a neúmyselné nebezpečné konanie agentov pracujúcich dlhší čas alebo vo väčšej skupine. Kybernetické a ďalšie nesúvisiace ochrany zostávajú aktívne aj po udelení biologickej výnimky.

Kontrola sa presúva od jednotlivého promptu k správaniu

Najpodstatnejšou zmenou je prechod od okamžitého blokovania jednotlivých požiadaviek k následnému monitorovaniu vzorcov správania. Jedna odborná otázka často nestačí na rozlíšenie prospešného výskumu od škodlivého zámeru. LSVP preto porovnáva aktivitu s účelom uvedeným v žiadosti a hľadá odchýlky naprieč viacerými reláciami. Ak systém označí podozrivú aktivitu, správca organizácie ju má preskúmať a riešiť v dohodnutom čase. Takýto prístup môže znížiť počet chybných odmietnutí, súčasne však presúva väčšiu zodpovednosť na prevádzkovateľa aj zákazníka.

Monitorovanie si vyžiada uchovávanie dát spojených s označenou aktivitou počas 30 dní. Anthropic tvrdí, že tieto údaje budú oddelené, nebudú použité na tréning modelov a nebudú k nim mať prístup členovia jeho biologických výskumných tímov. Pre európske laboratóriá bude napriek tomu dôležité preskúmať, aké experimentálne dáta, sekvencie, zdravotné informácie alebo obchodné tajomstvá môžu cez službu prechádzať. Samotné technické oddelenie údajov nenahrádza posúdenie podľa GDPR, interné pravidlá správy dát ani zmluvnú kontrolu miest ich spracovania.

Program je pri spustení dostupný cez vlastnú API konzolu Anthropic a plány Claude Enterprise a Team. Nie je ešte dostupný cez platformy tretích strán ani pre individuálne účty Pro a Max. LSVP zároveň nemožno v beta režime použiť v organizáciách s aktívnym BAA, teda dohodou potrebnou pri spracovaní chránených zdravotných údajov podľa amerického systému HIPAA. Anthropic odporúča takýmto zákazníkom oddelenú organizáciu bez BAA a bez chránených zdravotných údajov. To výrazne zužuje okamžité klinické využitie a ukazuje, že program je zatiaľ skôr infraštruktúrou pre výskum než hotovým zdravotníckym produktom.

Praktický dopad pre laboratóriá a vývojárov

Pre vedecké tímy môže LSVP odstrániť situácie, keď model odmietne legitímnu úlohu len preto, že obsahuje názov patogénu, opis experimentálneho postupu alebo citlivú molekulárnu transformáciu. Výskumníci by tak mohli konzistentnejšie používať jeden nástroj na rešerš, tvorbu hypotéz, návrh protokolov, kontrolu dokumentácie či prácu s laboratórnym kódom. Prínos však bude závisieť od spoľahlivosti modelov. Voľnejší filter neznižuje riziko halucinovaných citácií, nesprávnych koncentrácií, chybných biologických predpokladov ani zdanlivo presvedčivých, ale nereprodukovateľných návrhov.

Pre vývojárov agentických systémov je podstatné, že oprávnenie má fungovať v API aj v Claude Code. Biologický agent teda môže prepájať model s databázami, výpočtovými nástrojmi a internými pracovnými postupmi. Práve tu rastie riziko: rozdiel medzi nesprávnou textovou odpoveďou a chybnou akciou vykonanou cez nástroj je zásadný. Organizácie budú potrebovať limity oprávnení, schvaľovanie kritických krokov človekom, nemenné auditné záznamy, izolované prostredia a možnosť okamžite prístup odobrať. Overenie organizácie samo osebe nie je náhradou za bezpečný návrh agenta.

Slovenské univerzity, biotechnologické firmy a laboratóriá by mali program vnímať ako nový model kontrolovaného prístupu, nie ako univerzálne povolenie pre biologickú AI. Zaujímavý je najmä princíp, podľa ktorého sa vyššie schopnosti neposkytujú anonymne, ale na základe identity, dohľadu a deklarovaného účelu. Podobný mechanizmus môže časom vzniknúť aj pri kybernetických, chemických alebo autonómnych výskumných nástrojoch. Otvorenou otázkou zostáva, či sa tento prístup dá škálovať na tisíce organizácií bez povrchnej kontroly a či menšie európske pracoviská zvládnu požadovanú administratívu.

Čo zatiaľ nie je preukázané

Anthropic nezverejnil mieru chybných zásahov monitoringu, presné podmienky schvaľovania ani výsledky nezávislého auditu LSVP. Nie je známe ani to, koľko žiadostí firma odmietne, ako presne vyhodnotí neobvyklý vzorec používania a aký proces odvolania dostane organizácia po pozastavení prístupu. Rovnako chýbajú verejné výsledky, ktoré by ukázali, že sprístupnenie menej obmedzených modelov merateľne zrýchľuje výskum bez neprimeraného zvýšenia rizika. Vyjadrenia prvých partnerov sú pozitívne, ale pochádzajú od účastníkov programu a nenahrádzajú kontrolovanú evaluáciu.

Správa o vlastnom mokrom laboratóriu Anthropic naznačuje ambíciu prepájať modelové návrhy s fyzickým overovaním, no rozsah tejto práce zostáva nejasný. Nie je potvrdené, že experimenty plánuje alebo vykonáva autonómny agent, ani že laboratórium pracuje s rizikovými patogénmi. Presnejšie je hovoriť o budovaní spätnej väzby medzi AI a experimentálnou biológiou. LSVP je zatiaľ konkrétnejším posunom: mení spôsob, akým sa udeľuje prístup k citlivým schopnostiam, a vytvára test toho, či možno vedeckú užitočnosť rozšíriť bez odstránenia zodpovednosti a dohľadu.