USA nariadili Anthropicu pozastaviť prístup k modelom Fable 5 a Mythos 5

Anthropic zverejnil mimoriadne nezvyčajné oznámenie: podľa firmy dostal od vlády Spojených štátov smernicu vydanú s odkazom na národnú bezpečnosť, ktorá pozastavuje prístup k modelom Claude Fable 5 a Claude Mythos 5 pre akúkoľvek zahraničnú osobu. Firma tvrdí, že praktickým dôsledkom je dočasné vypnutie oboch modelov pre všetkých zákazníkov, pretože pri globálnej cloudovej službe nedokáže bezpečne zaručiť, že sa k nim nedostane nikto, koho sa zákaz týka. Ostatné modely Anthropic podľa oznámenia ovplyvnené byť nemajú.

Dôležité je, že nejde o bežnú produktovú odstávku ani o dobrovoľné stiahnutie modelu po internom incidente. Anthropic opisuje zásah ako externú smernicu, ktorú dostal 12. júna o 17:21 východného času. List podľa firmy neobsahoval detailné technické zdôvodnenie. Anthropic uvádza, že vládna obava sa má týkať metódy obchádzania bezpečnostných zábran modelu Fable 5, teda takzvaného jailbreaku. Z pohľadu používateľov je však výsledok rovnaký: model, ktorý bol len nedávno predstavený ako najvýkonnejší všeobecne dostupný systém firmy, sa stal zo dňa na deň nedostupným.

Samotný spor je technicky zaujímavý preto, že Anthropic nepopiera možnosť úzkych obídení bezpečnostných pravidiel. Naopak, tvrdí, že dokonalá odolnosť proti jailbreakom dnes zrejme nie je realistická pre žiadneho poskytovateľa modelov. Firma rozlišuje medzi univerzálnym jailbreakom, ktorý by široko odomkol zakázané schopnosti, a ne-univerzálnymi pokusmi, ktoré môžu v konkrétnych okolnostiach vyvolať čiastkovú odpoveď. Podľa Anthropicu doterajšie testy nenašli univerzálnu metódu a demonštrovaný prípad mal viesť len k malému počtu už známych a menej závažných zistení.

Pre regulačnú debatu je to dôležitý precedens. Frontier modely sa doteraz posudzovali najmä podľa toho, či vývojár vykonal red-teaming, zaviedol monitorovanie, obmedzil rizikové použitia a pripravil plán reakcie. Anthropic pri Fable 5 tvrdil, že urobil presne to: model mali tisíce hodín testovať interné tímy, súkromné tretie strany aj vládni partneri vrátane britského AI Security Institute. Nová smernica však naznačuje prísnejšiu hranicu: ak štát usúdi, že aj úzky spôsob obídenia predstavuje neprijateľné riziko, môže zasiahnuť priamo do dostupnosti komerčného modelu.

Z pohľadu podnikov je najväčším problémom predvídateľnosť. Firmy, ktoré začnú stavať pracovné postupy, agentov alebo bezpečnostné analýzy na konkrétnom modeli, potrebujú vedieť, že služba nezmizne bez technickej migrácie a časového okna. Tu sa ukazuje slabina modelového cloudu: zákazník si kupuje API, ale nemá kontrolu nad regulačnou dostupnosťou konkrétnej triedy modelov. Ak sa Fable 5 používal v dlhých vývojárskych alebo analytických úlohách, náhrada iným modelom nemusí byť len prepnutie názvu v konfigurácii. Líšiť sa môže kontextové okno, správanie pri odmietaní, cena, latencia aj výsledky v interných evaloch.

Prípad zároveň vracia do hry otázku uchovávania dát a dohľadu. Anthropic už pri modeloch triedy Mythos zaviedol prísnejšiu politiku retencie: zákaznícke dáta sa pri týchto modeloch majú uchovávať 30 dní, aby firma mohla vyšetrovať a zmierňovať pokusy o zneužitie. To je typická stratégia „obrany do hĺbky“: model má mať silné odmietanie rizikových požiadaviek, nad tým monitoring a nad tým schopnosť spätne analyzovať incidenty. Lenže rovnaká vlastnosť je pre časť podnikových zákazníkov citlivá, pretože dlhšia retencia znamená väčšiu zmluvnú a compliance záťaž.

Anthropic v oznámení otvorene nesúhlasí s tým, že nález úzkeho potenciálneho jailbreaku má byť dôvodom na pozastavenie komerčného modelu používaného veľkým počtom zákazníkov. Tento argument je pochopiteľný, ale nie je úplne jednoduchý. Pri veľmi schopných modeloch sa aj úzke zlyhanie môže stať vážnym, ak sa dá automatizovať, škálovať alebo skombinovať s externými nástrojmi. Na druhej strane, ak sa hranica nastaví príliš prísne, vývojári môžu skončiť v režime, kde sa žiadny špičkový model nedá spoľahlivo nasadiť, pretože neexistuje absolútna záruka proti každému variantu obídenia.

Pre európskych a slovenských používateľov je praktický odkaz jasný: pri kritických AI workflowoch nestačí hodnotiť iba benchmarky a cenu. Do architektúry treba započítať aj dostupnosť podľa jurisdikcie, možnosť rýchlej výmeny modelu, vlastné evaly pred a po migrácii a zmluvné podmienky pri retencii dát. Ak organizácia používa najnovšie frontier modely v bezpečnosti, vývoji softvéru alebo spracovaní citlivých dokumentov, mala by mať pripravený fallback model, testovaciu sadu a proces, ktorý odhalí, či náhradný model nemení rizikový profil aplikácie.

Krátkodobo je to reputačná rana pre Anthropic aj signál pre celý trh. Modely Fable 5 a Mythos 5 boli predstavené ako schopnejšia trieda systémov so špeciálnymi bezpečnostnými pravidlami. Teraz sú zároveň príkladom, že čím výkonnejší model je, tým viac sa jeho prevádzka podobá na regulovanú infraštruktúru. Ak sa podobné zásahy zopakujú, poskytovatelia AI budú musieť lepšie komunikovať nielen schopnosti a bezpečnostné skóre, ale aj to, čo sa stane pri vládnom obmedzení, spornom náleze v red-teamingu alebo pri potrebe náhlej regionálnej blokácie.

Najdôležitejšia otázka preto nie je len to, či bol konkrétny jailbreak vážny. Väčšia otázka znie, aký dôkaz bude stačiť na vypnutie modelu v čase, keď na ňom už bežia zákaznícke procesy. Anthropic tvrdí, že dôkaz zatiaľ nedostal v podobe, ktorá by zásah ospravedlnila. Štátne orgány zjavne vyhodnotili riziko inak. Pre trh s AI je to predzvesť éry, v ktorej technická bezpečnosť, exportná kontrola a spoľahlivosť produktovej dostupnosti nebudú oddelené témy, ale jeden spoločný prevádzkový problém.