Od redakcie: AI sa posúva od modelov k infraštruktúre, riadeniu a bezpečnosti

Vývoj umelej inteligencie sa často sleduje cez otázku, ktorý model je najvýkonnejší. Udalosti z pondelka 19. októbra však ukazujú aj inú stránku pretekov: čoraz dôležitejšie je, ako jednoducho sa modely prevádzkujú na rôznom hardvéri, ako firmy kontrolujú prístup k nim a či pritom neunikajú citlivé údaje. Prehľad noviniek z infraštruktúry, otvorených modelov a podnikových nástrojov dopĺňame samostatne označeným bezpečnostným vydaním z rána 20. októbra.

Pre slovenské firmy a vývojárov je spoločným menovateľom praktická integrácia. Nestačí mať model, ktorý v ukážke podáva dobré výsledky. Treba ho vedieť nasadiť v existujúcom prostredí, nastaviť oprávnenia, sledovať jeho činnosť a vyhodnotiť náklady aj riziká. Zverejnené informácie sú pritom prevažne oznámeniami samotných dodávateľov alebo správcov projektov. Ich tvrdenia o výkone a prínosoch preto treba odlišovať od nezávisle potvrdených výsledkov.

Trainium sa približuje bežnému PyTorch vývoju

Hugging Face predstavilo TorchNeuron, nový backend pre PyTorch na čipoch AWS Trainium. Verejná beta má byť dostupná od 20. októbra. Zámerom je zjednodušiť používanie Trainium v knižniciach Transformers, Diffusers, Accelerate, PEFT a TRL a zmenšiť rozdiel medzi vývojom na tomto akcelerátore a vývojom na inom hardvéri.

Doterajšia cesta pre používateľov Neuron podľa Hugging Face viedla najmä cez Optimum Neuron, ktoré je založené na PyTorch XLA. Nové riešenie má sprístupniť Neuron ako natívne zariadenie PyTorch a podporovať eager execution, torch.compile a distribuované rozhrania, napríklad FSDP a tensor parallelism. Pre tímy, ktoré už používajú štandardné postupy PyTorch, môže byť menšia potreba upravovať tréningové skripty podstatnou výhodou.

Hugging Face uvádza, že TorchNeuron podporuje 89 percent zo sto najpoužívanejších architektúr na generovanie textu, oproti 46 percentám pri Optimum Neuron v0.4.5. Ide o údaj z oznámenia projektu, nie o nezávislé porovnanie výkonu či nákladov. Pokrytie architektúr samo osebe neznamená, že každý model bude fungovať bez úprav alebo že Trainium bude v konkrétnej úlohe lacnejšie a rýchlejšie než GPU.

Oznámenie zároveň uvádza praktické obmedzenia. Pri Neurone treba pracovať so statickými tvarmi vstupov a niektoré automatické funkcie dynamických tvarov zatiaľ nie sú podporované. Asynchrónne načítanie váh v Transformers sa má vypnúť. Tieto detaily ukazujú, že zjednodušenie rozhrania ešte neznamená úplnú zameniteľnosť hardvéru. Organizácie budú musieť svoje modely, dátové tvary, knižnice a prevádzkové postupy otestovať na vlastnej úlohe.

Pre slovenské výskumné tímy a menšie firmy je dôležitý najmä možný pokles integračnej práce. Ak sa modely dajú spúšťať na alternatívnom akcelerátore s menším množstvom špecializovaného kódu, jednoduchšie sa porovnávajú rôzne infraštruktúrne možnosti. Zatiaľ však chýbajú v tomto oznámení údaje, ktoré by umožnili vyčísliť celkové náklady, dostupnosť kapacity, priepustnosť alebo spotrebu energie. Beta je vhodný začiatok testovania, nie dôkaz, že migrácia bude výhodná pre každú prevádzku.

Clef: model na rozhodovanie, nie na písanie odpovedí

Ollama oznámila dostupnosť modelu Clef vo svojej cloudovej službe a uvádza možnosť spúšťať ho aj lokálne. Model s 27 miliardami parametrov pochádza od Cloudflare, je doladený z Qwen3.8-27B a podľa oznámenia je vydaný pod licenciou Apache 2.0. Je navrhnutý na klasifikáciu a štruktúrované rozhodovanie nad textom, JSON-om alebo obrázkami, nie primárne na tvorbu plynulého textu.

Prístup je zaujímavý pre úlohy, pri ktorých má systém vybrať jednu z vopred určených možností alebo vyhodnotiť súbor otázok. Príkladmi môžu byť smerovanie požiadaviek, posúdenie, či dokument spĺňa konkrétne kritériá, alebo kontrola návrhu volania nástroja pred jeho vykonaním. Podľa Ollama model dokáže spracovať vstup a skórovať viac odpovedí naraz. Takýto spôsob práce môže byť vhodnejší než generovanie voľného textu, keď aplikácia potrebuje konzistentný výstup v obmedzenom formáte.

Zverejnené výsledky benchmarkov však treba čítať opatrne. Ollama odkazuje na hodnotenia z Cloudflare Decision Index a zverejňuje porovnania s viacerými modelmi. Tabuľky ukazujú, že Clef vedie v niektorých úlohách, no v iných prvenstvo nemá. Napríklad v teste When2Call má podľa uvedených čísel lepší výsledok Jev a pri PhishNChips vedie DiffusionGemma Jev. Výsledky závisia od konkrétneho benchmarku a samotný dodávateľ modelu ich uvádza ako podklad. Neznamenajú automaticky, že model bude rovnako úspešný na slovenských formulároch, interných dokumentoch alebo doménových dátach.

Pre praktické nasadenie je podstatná aj licencia Apache 2.0, ktorú Ollama uvádza, a možnosť lokálneho behu. Lokálne spracovanie môže organizácii pomôcť obmedziť posielanie dokumentov do externej služby, no nezaručuje bezpečnosť samo osebe. Prevádzkovateľ musí riešiť prístup k modelu, uchovávanie vstupov a výstupov, aktualizácie aj kontrolu nad tým, ako sa rozhodnutia používajú. Pri moderovaní volaní nástrojov alebo posudzovaní dokumentov by mal byť model pomocníkom s jasnými hranicami, nie jedinou autoritou pri citlivých rozhodnutiach.

GitHub Copilot: správa dostupných modelov cez API

GitHub oznámil všeobecnú dostupnosť REST API na získavanie a úpravu politík modelov Copilot. Rozhrania pokrývajú podniky, podnikové tímy, podnikové aplikácie a organizácie. Správcovia tak môžu dostupnosť modelov riadiť aj automatizovane, namiesto toho, aby každú zmenu vykonávali len cez používateľské rozhranie.

Súčasne GitHub oznámil, že od 19. októbra prestali byť v jeho väčšine prostredí Copilot dostupné vybrané modely vrátane Gemini 3.7 Flash, GPT-5.5, GPT-5.4, GPT-5.4 mini, GPT-5 mini a Grok 4.5. GitHub uvádza odporúčané náhrady a upozorňuje, že správcovia Copilot Enterprise môžu musieť alternatívne modely povoliť v nastaveniach politík.

Tieto dve zmeny spolu ukazujú, že výber modelu sa stáva súčasťou správy podnikového prostredia. Firmy potrebujú vedieť, ktoré modely môžu používať jednotlivé tímy, kedy sa model zmení alebo prestane byť dostupný a ako sa zmena premietne do nástrojov a pracovných postupov. API môže uľahčiť audit a automatizáciu, ale samo osebe nevyrieši otázku, podľa akých pravidiel modely povoľovať.

Pre slovenské organizácie používajúce Copilot je praktickým krokom preveriť interné návody, automatizácie a vývojárske procesy, ktoré sa spoliehajú na konkrétny model. Odporúčaná náhrada nemusí mať rovnaké správanie, cenu ani dostupnosť vo všetkých nastaveniach. Pri migrácii treba preto otestovať kvalitu výstupov na reálnych úlohách, skontrolovať oprávnenia v podnikovej politike a oznámiť zmenu používateľom. Fakt, že alternatíva figuruje v odporúčaní dodávateľa, ešte nie je zárukou rovnocennosti pre každú firmu.

Ranné doplnenie 20. októbra: bezpečnosť telemetrie PydanticAI

Nasledujúca informácia je ranným doplnením, nie udalosťou z 19. októbra: stránka GitHub Releases uvádza zverejnenie 20. októbra o 04:58 UTC, hoci názov vydania obsahuje dátum 19. októbra. Vydanie PydanticAI v1.107.8 opravuje bezpečnostný problém strednej závažnosti týkajúci sa telemetrie požiadaviek MCP. Podľa poznámok k vydaniu mohli záznamy OpenTelemetry obsahovať adresy MCP serverov, autorizačné tokeny a vlastné hodnoty hlavičiek aj pri nastavení include_content=False. Riziko sa týkalo aj identifikátorov odvodených z URL, v ktorých mohli byť vložené prihlasovacie údaje.

Tento prípad je dôležitý preto, že telemetria sa často považuje za bezpečnú prevádzkovú vrstvu: má pomáhať pri ladení, meraní výkonu a vyšetrovaní incidentov. Ak však aplikácia automaticky zaznamenáva citlivé identifikátory alebo konfiguračné hodnoty, údaje sa môžu dostať do systémov, ktoré majú širší okruh používateľov alebo inú dobu uchovávania než samotná aplikácia.

Poznámky k vydaniu označujú problém ako opravený vo verziách v2.58.0 a v1.107.8. Zároveň odporúčajú obmedziť prístup k historickým trasám a vymeniť potenciálne odhalené prihlasovacie údaje. Pri používateľoch Temporal s povoleným tracingom uvádzajú aj dočasné opatrenie: po dokončení rozbehnutých workflowov nastaviť pre MCP explicitné id=, pretože zmena názvov aktivít môže ovplyvniť prebiehajúce workflowy.

Organizácie používajúce PydanticAI a MCP by mali zistiť, či používajú dotknuté verzie, kde sa ukladajú telemetrické dáta a kto k nim má prístup. Nestačí aktualizovať knižnicu, ak už citlivé údaje mohli byť zaznamenané v starších trasách. Treba posúdiť potrebu rotácie tokenov a prístup k historickým záznamom. Rozsah vystavenia konkrétnej inštalácie nemožno určiť len z poznámok k vydaniu; závisí od konfigurácie a toho, či sa problematické dáta skutočne zaznamenali.

Čo sa spája naprieč týmito novinkami

Tieto udalosti sa týkajú odlišných produktov, ale ukazujú podobný posun. V infraštruktúre sa zjednodušuje cesta k alternatívnym akcelerátorom; pri modeloch sa objavujú užšie nástroje na rozhodovanie; v podnikových asistentoch pribúdajú centrálne politiky; a v agentových frameworkoch sa pozornosť presúva aj na to, čo zaznamenáva prevádzková telemetria. AI sa tak čoraz menej skladá iba z modelu a čoraz viac z celého systému okolo neho.

Pre podnikový dopad sú dôležité tri otázky. Prvou je prenositeľnosť: koľko práce si vyžiada zmena hardvéru alebo modelu? Druhou je riadenie: kto môže ktorý model používať a ako sa zmeny premietnu do tímov? Treťou je bezpečnosť dát: čo sa ukladá v promptoch, trasách a diagnostických záznamoch? Každá z noviniek sa dotýka aspoň jednej z nich.

Pre slovenské firmy, školy a verejnú správu z toho nevyplýva, že treba okamžite meniť dodávateľov alebo nasadzovať nové modely. Vyplýva z toho skôr potreba priebežne testovať konkrétne pracovné postupy. Pri infraštruktúre treba porovnať náklady a podporované modely na vlastných úlohách. Pri rozhodovacích modeloch overiť chybovosť na lokálnych dátach a zaviesť ľudskú kontrolu tam, kde má výstup právne alebo finančné dôsledky. Pri podnikových nástrojoch treba mať evidenciu povolených modelov a plán náhrady pri ich vyradení. A pri agentových systémoch kontrolovať aj telemetriu, nielen samotný obsah konverzácie.

Zatiaľ nemožno vyvodiť, že TorchNeuron prinesie všeobecne nižšie náklady, že Clef bude presnejší na slovenskom jazyku alebo že nové Copilot API samo zlepší bezpečnosť správy modelov. Rovnako nemožno bez kontroly konfigurácie určiť, či každá inštalácia PydanticAI vystavila citlivé údaje. Oznámenia však poskytujú konkrétne dôvody na testovanie, revíziu politík a kontrolu dátových tokov. V nasledujúcich týždňoch bude rozhodujúce, ako sa tieto nástroje osvedčia v reálnej prevádzke a aké výsledky prinesú nezávislé merania.

Analýza: pilotný test musí pokryť celý systém

Pri plánovaní pilotného nasadenia by sa tieto témy nemali posudzovať oddelene. Výmena akcelerátora môže meniť spôsob kompilácie aj merania výkonu. Výmena modelu môže ovplyvniť rozhodnutia aplikácie, hoci jej rozhranie zostane rovnaké. A podrobnejšie prevádzkové meranie môže rozšíriť rozsah údajov, ktoré organizácia uchováva. Ide o redakčné odporúčanie vyplývajúce zo spojenia správ, nie o výsledok spoločného testu týchto produktov. Dodávatelia v uvedených oznámeniach takýto spoločný test nepredložili.

Rozumný pilot by preto mal mať vopred určené vstupy, očakávané výstupy a hranicu prijateľných chýb. Pri rozhodovaní nad dokumentmi má zmysel zaradiť aj neúplné formuláre alebo nejednoznačné zadania, nielen ukážky, na ktorých systém funguje dobre. Pri infraštruktúre treba započítať aj prípravu prostredia a opakované spúšťanie úloh, nie iba jeden rýchly priechod modelom. Tieto návrhy nepredpovedajú konkrétne výsledky; pomáhajú oddeliť reklamný prísľub od podmienok, za ktorých by technológia dávala zmysel konkrétnemu tímu.

Rovnako dôležitý je návrat k pôvodnému riešeniu. Ak nový model alebo backend neprejde overením, tím potrebuje vedieť obnoviť predchádzajúcu konfiguráciu bez straty prehľadu o vykonaných zmenách. Dokumentácia povolených modelov, konfigurácie prostredia a prístupov k diagnostike je preto praktickou súčasťou nasadenia. Ani jedno z oznámení neoprávňuje túto zodpovednosť presunúť na automatického agenta alebo na samotného poskytovateľa modelu.

— Redakcia AI Feed