Od redakcie: čo sa v AI udialo 1. augusta

Prvý august nepriniesol záplavu veľkých modelových premiér, no ukázal tri dôležité smery, v ktorých sa umelá inteligencia posúva súčasne. OpenAI predstavilo súbor matematických a teoreticko-informatických výsledkov vytvorených interným modelom Astra. PydanticAI vydalo verziu 2.22.0 s rozsiahlymi úpravami práce s nástrojmi, trvácnymi pracovnými postupmi a bezpečným presmerovaním požiadaviek. Americký súd zároveň odmietol predbežne zastaviť minnesotský zákaz služieb, ktoré bez súhlasu vytvárajú sexualizované upravené snímky. Nie je to jeden spoločný príbeh v úzkom zmysle. Spája ich však otázka, čo sa stane, keď sa AI prestane posudzovať iba podľa pôsobivej ukážky a začne sa od nej požadovať overiteľný výsledok, spoľahlivá prevádzka a právna zodpovednosť.

Astra a matematika: výsledok už nestačí iba oznámiť

OpenAI uviedlo, že interná verzia pripravovaného modelu Astra dosiahla desať nových výsledkov pri problémoch z matematiky a teoretickej informatiky, na ktorých sa podľa firmy najmenej desať rokov nepodarilo posunúť hlavný výsledok. Záber je široký: od vysokorozmerného ukladania gúľ a kódovacej teórie cez aritmetickú zložitosť, kvantové hry a mriežkové problémy až po Ramseyho čísla a extrémnu teóriu grafov. OpenAI medzi najvýraznejšie tvrdenia zaraďuje konštrukciu nesofickej grupy, vyvrátenie jednej formy Connesovej hypotézy rigidity či nové hranice pri probléme najbližšieho vektora, ktorý súvisí aj s postkvantovou kryptografiou. Firma odhadla výpočtovú spotrebu hľadania riešení na približne 2 000 dolárov pri cenách rozhrania Sol API. Tento údaj je zaujímavý ako orientačný pohľad na cenu experimentu, nie ako nezávisle overený hospodársky rozbor.

Prakticky najdôležitejšia nie je samotná desiatka ani marketingový názov modelu, ale spôsob, akým OpenAI výsledky sprístupnilo. Argumenty boli podľa oznámenia spracované do rukopisov ľuďmi za pomoci toho istého modelu a následne formalizované do certifikátov v jazyku Lean. Firma zverejnila samostatné materiály aj úložisko s formálnymi dôkazmi. Tým sa diskusia presúva od otázky, či model vie vytvoriť presvedčivo znejúci matematický text, k otázke, či možno jednotlivé kroky strojovo skontrolovať a potom odborne posúdiť. Formálny certifikát výrazne znižuje priestor pre nenápadnú logickú chybu, ale automaticky nepotvrdzuje význam výsledku, vhodnosť formulácie problému ani správnosť všetkých predpokladov mimo formalizovaného jadra. Na to je stále potrebná kontrola matematickej komunity a bežný publikačný proces.

Pre slovenského čitateľa má táto správa význam aj mimo čistej matematiky. Ak sa podobný postup ukáže ako opakovateľný, vedecké tímy môžu model využívať nie iba na vyhľadávanie literatúry či úpravu textu, ale ako aktívny nástroj na tvorbu hypotéz, skúšanie ciest a formalizáciu dôkazov. Pre univerzity a menšie pracoviská bude dôležité, či budú mať prístup k modelom, výpočtovým kapacitám a otvoreným overovacím nástrojom. OpenAI síce oznámenie spája s programom bezplatného prístupu pre akademických výskumníkov, no podmienky dlhodobého prístupu, reprodukovateľnosť a dostupnosť samotnej Astry zostávajú otvorené. Zatiaľ preto nemožno z jedného balíka výsledkov vyvodiť, že automatizovaný vedecký objav sa stal bežnou službou. Možno však povedať, že latka dôkazu sa posúva správnym smerom: od ukážky odpovede k publikovateľnému artefaktu, ktorý môže niekto ďalší preveriť.

PydanticAI 2.22.0: menej efektov na pódiu, viac práce v zákulisí

Druhou udalosťou dňa bolo vydanie PydanticAI 2.22.0. Na rozdiel od modelovej premiéry ide o technickú aktualizáciu rámca na tvorbu agentov, ale práve takéto vydania často rozhodujú o tom, či prototyp zostane v notebooku, alebo sa dá bezpečne prevádzkovať. Nová verzia rozširuje riadenie dostupnosti nástrojov cez RunContext.is_tool_available, upravuje správanie MCP klientov a spresňuje komunikáciu s modelmi Gemini, Anthropic, OpenAI či Groq. Viaceré zmeny sa týkajú schvaľovania alebo odkladania volaní nástrojov a toho, ako sa systémové pokyny prenášajú v priebehu dlhšej konverzácie. To sú detaily, ktoré používateľ zvyčajne nevidí, no pri agentovi s prístupom k databáze, súborom alebo externým službám určujú jeho skutočný rozsah oprávnení.

Veľká časť vydania opravuje trvácne pracovné postupy postavené na Temporal, Prefect a DBOS. Poznámky k vydaniu hovoria o zacyklení pri rušení rozpracovanej aktivity, nesprávnom opakovaní úloh, kolíziách kľúčov vyrovnávacej pamäte, strate typov po prenose dát a situáciách, v ktorých mal pracovný postup radšej zlyhať čitateľnou chybou než skúšať operáciu donekonečna. Z pohľadu podniku je to podstatnejšie než ďalšia ukážka samostatne konajúceho agenta. Agent v produkcii potrebuje vedieť bezpečne pokračovať po výpadku, nezopakovať platbu alebo zápis, zachovať kontext a ponechať auditovateľnú stopu. Ak rámec nedokáže presne rozlíšiť nový pokus od opakovania už vykonanej činnosti, jazyková kvalita modelu túto prevádzkovú chybu nezachráni.

Bezpečnostne dôležitá je aj oprava mechanizmu safe_download. PydanticAI po novom pri presmerovaní porovnáva celý pôvod adresy, nielen názov hostiteľa, keď rozhoduje o odstránení prihlasovacích údajov. Rozdiel medzi hostiteľom a úplným pôvodom zahŕňajúcim schému a port môže pôsobiť drobne, ale pri prenose autorizačných hlavičiek je presnosť zásadná. Vydanie zároveň rieši prípady, keď modelové rozhranie vráti neúplnú odpoveď, keď synchrónne volanie narazí na neovládateľnú slučku udalostí alebo keď nemožno serializovať argument aktivity. Spoločným menovateľom je bezpečné a jednoznačné zlyhanie namiesto tichého poškodenia stavu. Pre slovenské vývojové tímy je praktický odkaz jednoduchý: aktualizáciu treba najprv otestovať na vlastných pracovných postupoch, najmä ak používajú MCP, Temporal alebo Prefect, no ignorovať ju len preto, že neprináša nový vizuálny produkt, by bolo krátkozraké.

Súdny spor o „nudify“ aplikácie: predbežné rozhodnutie, nie koniec prípadu

Tretí signál prišiel z oblasti bezpečnosti a práva. Federálny súd odmietol žiadosť xAI o predbežné zablokovanie minnesotského zákazu aplikácií, ktoré dokážu digitálne odstrániť oblečenie alebo vytvoriť intímny obraz človeka bez jeho súhlasu. Verejne dostupné súdne rozhodnutie je konkrétnejší zdroj než samotná mediálna skratka: ide o procesné rozhodnutie o dočasnom opatrení počas pokračujúceho sporu. Neznamená to definitívne potvrdenie každej časti zákona ani konečnú prehru xAI vo veci samej. Znamená to však, že zákaz môže zatiaľ zostať účinný napriek námietke, ktorou sa firma snaží jeho uplatňovanie pozastaviť.

Prípad ukazuje, ako rýchlo sa spor o generatívnu AI presúva od abstraktných princípov slobody prejavu ku konkrétnym vlastnostiam produktu a ujme konkrétnych ľudí. Nástroj na úpravu obrazu nie je neutrálny iba preto, že technicky generuje pixely. Ak je navrhnutý alebo používaný na vytváranie nevyžiadaného intímneho obsahu, vzniká otázka súhlasu, ochrany maloletých, identity zobrazenej osoby, distribúcie materiálu a zodpovednosti poskytovateľa. Súdne rozhodnutie zatiaľ neuzatvára hranicu medzi chráneným prejavom a regulovateľnou funkciou služby. Potvrdzuje však, že súdy budú pri predbežnej ochrane porovnávať tvrdenú ujmu platformy s ujmou obetí a verejným záujmom, nie iba s technickou možnosťou vytvoriť daný obsah.

Pre Slovensko nejde o priamo uplatniteľné americké pravidlo, no problém je bezprostredne relevantný. Európske prostredie spája ochranu osobných údajov, právo na podobizeň, trestnoprávne následky, pravidlá platforiem a nové povinnosti okolo transparentnosti syntetického obsahu. Pri intímnych deepfakoch navyše označenie obrázka ako vytvoreného AI nerieši absenciu súhlasu ani následnú škodu. Prevádzkovatelia služieb dostupných slovenským používateľom preto nemôžu považovať jednoduché upozornenie alebo vekovú podmienku za úplnú ochranu. Potrebujú obmedzenia už pri návrhu produktu, spoľahlivé hlásenie zneužitia, rýchle odstránenie, uchovanie dôkazov primerané zákonu a osobitnú ochranu detí. Dôležité bude aj to, či regulačné orgány a súdy dokážu reagovať rýchlejšie než distribúcia modelov a ich kópií.

Čo to znamená pre infraštruktúru a podnikové rozhodovanie

Pri porovnaní týchto tém je viditeľné, že náklady na AI sa čoraz menej končia pri samotnej inferencii. OpenAI môže uviesť orientačnú cenu výpočtu použitého na hľadanie matematických riešení, no celková cena dôveryhodného výsledku zahŕňa aj prípravu rukopisu, formalizáciu, kontrolu, uchovanie artefaktov a odborné posúdenie. Podobne pri agentoch nie je cenou iba volanie modelu. Organizácia platí za orchestrace, sledovanie stavov, opakované pokusy, auditné záznamy, správu tajomstiev a ľudí, ktorí určia, kedy má systém zastaviť. A pri obrazovej službe sa k výpočtu pridáva moderovanie, vybavovanie hlásení, právna podpora a odstraňovanie škôd. Lacnejší token preto nemusí znamenať lacnejšiu alebo bezpečnejšiu službu. Pre slovenské organizácie, ktoré pripravujú rozpočet na AI, je rozumnejšie oddeliť cenu modelu od ceny celej kontrolovanej prevádzky.

Dôležitá je aj voľba otvorených rozhraní a prenositeľných dôkazov. Lean certifikát možno kontrolovať mimo pôvodného chatu; záznam trvácneho pracovného postupu možno analyzovať po zlyhaní; súdny dokument umožňuje odlíšiť presné rozhodnutie od titulku. V podnikovom prostredí má obdobnú hodnotu exportovateľný auditný záznam, verzovaná konfigurácia nástrojov a jasná evidencia súhlasu. Dodávateľský panel s pekným grafom nestačí, ak zákazník nevie získať údaje potrebné na incident, kontrolu alebo zmenu poskytovateľa. Pri verejnom obstarávaní či regulovanom odvetví by preto mali byť požiadavky na prenositeľnosť a overiteľnosť súčasťou zadania od začiatku, nie dodatkom po prvom probléme.

Zároveň treba odlišovať tri úrovne istoty. Pri Astre máme podrobné tvrdenia firmy a zverejnené podklady, ale ešte nie uzavretý konsenzus odbornej komunity o každom výsledku. Pri PydanticAI máme konkrétny kód a poznámky k vydaniu, no účinok aktualizácie závisí od konfigurácie každej aplikácie a mal by sa preveriť testami. Pri minnesotskom spore máme platné procesné rozhodnutie, nie konečný verdikt o celom zákone. Takéto rozlišovanie nie je opatrníctvo pre opatrníctvo. Je to spôsob, ako prijímať rozhodnutia bez toho, aby sa dôveryhodný fakt zmiešal s očakávaním alebo marketingovým výkladom.

Spoločná línia: dôvera sa skladá z viacerých vrstiev

Tieto tri udalosti spolu vytvárajú triezvejší obraz AI než rebríček najlepších modelov. Pri vedeckom výsledku je rozhodujúca overiteľnosť, otvorené artefakty a odborné preskúmanie. Pri agentovi je rozhodujúca kontrola nástrojov, bezpečné zlyhanie, odolnosť voči opakovaniu a správne zaobchádzanie s prihlasovacími údajmi. Pri spotrebiteľskom obrazovom produkte je rozhodujúci súhlas, ochrana obete a schopnosť vynútiť pravidlá aj vtedy, keď poskytovateľ argumentuje všeobecnými právami platformy. V každom prípade platí, že schopnosť modelu niečo vytvoriť je iba prvá vrstva. Dôvera vzniká až vtedy, keď možno pôvod a správnosť výsledku preveriť, prevádzku kontrolovať a následky napraviť.

Pre firmy a verejné inštitúcie na Slovensku z toho vyplýva praktická priorita. Pri nákupe alebo nasadení AI nestačí pýtať sa na názov modelu a cenu tokenu. Treba vedieť, aké dôkazy systém poskytuje, kto schvaľuje citlivé nástroje, ako sa rieši opakovanie úloh, kam sa prenášajú poverenia, ako sa zaznamenáva pôvod výstupu a čo sa stane pri zneužití. Výskumné pracovisko potrebuje reprodukovateľnosť; podnik potrebuje prevádzkovú spoľahlivosť; občan potrebuje účinnú ochranu. Prvý august nepriniesol definitívnu odpoveď ani v jednej z týchto oblastí. Priniesol však konkrétne artefakty, vydanie softvéru a súdny dokument, podľa ktorých sa dá ďalší vývoj hodnotiť presnejšie než podľa sľubov. To je pre zrelší trh s AI podstatná správa samo osebe.