NIST a DOE zapájajú AI agentov do výroby a ochrany kritickej infraštruktúry

Od memoranda ku konkrétnym projektom

Americký Národný inštitút pre štandardy a technológie (NIST) a Office of Science pri ministerstve energetiky (DOE) podpísali memorandum o spolupráci v rámci programu Genesis Mission. Nejde ešte o oznámenie hotového systému ani o výsledok vedeckého experimentu. Dokument vytvára organizačný rámec, v ktorom majú úrady koordinovať odborníkov, výpočtovú infraštruktúru, dáta a verejno-súkromné partnerstvá. Spolupráca sa má týkať oblastí od biotechnológií a kvantovej vedy až po navrhovanie materiálov, výrobu a kybernetickú bezpečnosť.

Genesis Mission je širšia iniciatíva vedená DOE, ktorá spája národné laboratóriá, priemysel a akademické pracoviská. Jej deklarovaným cieľom je v priebehu desiatich rokov zdvojnásobiť produktivitu a dosah americkej vedy a inžinierstva. Oficiálna stránka programu opisuje integrovanú platformu prepájajúcu superpočítače, experimentálne zariadenia, AI systémy a špecializované dátové súbory. Nezávislé odborné médium POWER pritom zasadilo iniciatívu do širšieho rámca: agentické pracovné postupy majú nad touto infraštruktúrou zrýchľovať simulácie, návrh experimentov a vyhodnocovanie výsledkov.

Najkonkrétnejšou novinkou sú dva projekty NIST navrhnuté ako dvojročné šprinty. Prvý sa sústreďuje na autonómnych agentov a robotiku vo výrobe, druhý na veľmi rýchlu detekciu a nápravu kybernetických incidentov v kritickej infraštruktúre. NIST ich chce realizovať prostredníctvom centier pre AI vo výrobe a kritickej infraštruktúre, ktoré prevádzkuje v partnerstve s neziskovou organizáciou MITRE. Výsledky majú byť použiteľné v priemysle a zároveň dostatočne všeobecné na prenos do ďalších odvetví.

Továrenskí agenti dostávajú fyzické dôsledky

Výrobná iniciatíva má vyvíjať a nasadzovať AI agentov, robotické systémy a automatizované pracovné postupy pri zachovaní človeka v rozhodovacej slučke. Úvodný projekt sa zameria na drony pre civilné a vojenské použitie. NIST si stanovilo cieľ zvýšiť výrobnú kapacitu desaťnásobne v priebehu dvoch rokov. Toto číslo je dôležité čítať ako cieľ programu, nie ako dosiahnutý alebo nezávisle overený výsledok. Oznámenie nevysvetľuje východiskovú kapacitu ani spôsob, akým sa bude desaťnásobné zvýšenie merať.

V priemyselnom prostredí môže agent plánovať poradie zákaziek, koordinovať stroje, kontrolovať dostupnosť komponentov, vyhľadávať úzke miesta alebo odporúčať úpravy procesu. Takéto úlohy však nemožno hodnotiť iba podľa kvality textovej odpovede. Chyba sa môže prejaviť poškodeným výrobkom, odstávkou linky, bezpečnostným incidentom alebo nesprávnym zásahom do dodávateľského reťazca. Praktické nasadenie preto potrebuje obmedzené oprávnenia, simulované testovanie, kontrolu zmien, úplné prevádzkové záznamy a možnosť bezpečného návratu do predchádzajúceho stavu.

Dôležité je aj rozlíšenie medzi automatizáciou výroby dronov a autonómiou samotného lietajúceho systému. Oznámenie NIST sa týka predovšetkým produktivity výroby; nedokladá vývoj autonómneho rozhodovania o použití zbrane. Keďže projekt zahŕňa civilné aj vojenské aplikácie, hranice použitia, kontrola dodávateľov a oddelenie výrobných dát od citlivých operačných informácií budú podstatnou súčasťou dôveryhodnosti celého programu.

Kybernetická obrana v strojovom čase

Druhé centrum má podporiť AI agentov na vysokorýchlostnú detekciu a nápravu kybernetických hrozieb. NIST medzi chránené prostredia výslovne zaraďuje energetické siete, telekomunikácie, vodárne, finančné platformy a zdravotnícke systémy. Agent by mohol prepájať udalosti z viacerých senzorov, navrhnúť izolovanie napadnutého zariadenia alebo automaticky vykonať vopred povolený zásah. Prínosom môže byť skrátenie reakcie z hodín na minúty, prípadne sekundy, najmä pri útokoch šíriacich sa medzi veľkým počtom systémov.

Rýchlosť však sama osebe nie je vhodnou mierou úspechu. Falošný poplach, chybná diagnóza alebo príliš široké oprávnenia môžu spôsobiť výpadok aj bez zásahu útočníka. V elektrickej sieti, nemocnici či vodárni môže nesprávne odpojenie systému ohroziť kontinuitu základnej služby. Bezpečný agent preto potrebuje jasné hranice autonómie, viacstupňové schvaľovanie rizikových úkonov a oddelenie medzi odporúčaním, dočasným obmedzením prevádzky a nezvratným zásahom.

Program bude presvedčivý až vtedy, keď zverejní spôsob testovania proti adaptívnym útočníkom a preukáže odolnosť voči manipulácii vstupov, kompromitovaným nástrojom či škodlivým pokynom ukrytým v analyzovaných dátach. Potrebné budú aj merateľné ukazovatele: čas odhalenia, čas bezpečnej nápravy, počet falošných zásahov, rozsah ľudského dohľadu a schopnosť obnoviť pôvodný stav. Oznámenie z augusta 2026 takéto metriky ešte neobsahuje.

Európsky a slovenský pohľad

Pre slovenské organizácie nie je americké memorandum priamo záväzné, ale problémy, ktoré rieši, sú veľmi podobné európskym. Smernica NIS2 zahŕňa energetiku, dopravu, zdravotníctvo, bankovníctvo, vodné hospodárstvo, digitálnu infraštruktúru, verejnú správu aj vybrané výrobné odvetvia. Od dotknutých subjektov požaduje riadenie kybernetických rizík, hlásenie významných incidentov a väčšiu zodpovednosť vedenia. AI agent použitý pri obrane siete preto nemôže byť náhradou za procesy, kompetencie a evidenciu vyžadovanú od prevádzkovateľa.

Relevantný je aj európsky akt o umelej inteligencii. Európska komisia zaraďuje medzi vysokorizikové použitia okrem iného bezpečnostné komponenty AI v kritickej infraštruktúre, ak ich zlyhanie môže ohroziť život alebo zdravie ľudí. S takýmto zaradením sa spájajú požiadavky na riadenie rizík, kvalitu dát, technickú dokumentáciu, zaznamenávanie činnosti, ľudský dohľad, presnosť, robustnosť a kybernetickú bezpečnosť. Konkrétna právna klasifikácia však vždy závisí od zamýšľaného účelu a spôsobu integrácie daného systému.

Pre slovenské výrobné podniky a prevádzkovateľov základných služieb je praktickým poučením potreba hodnotiť agentov ako súčasť bezpečnostne významného systému, nie ako bežný kancelársky softvér. Pilot by mal začínať v oddelenom prostredí s obmedzenými právami, presnými kritériami zastavenia a ľudským potvrdením zásahov. Dodávateľ by mal vedieť preukázať pôvod dát, verziu modelu, vykonané nástroje aj zodpovednosť za aktualizácie. Rovnakú pozornosť si zaslúži závislosť od zahraničného cloudu, dostupnosť náhradného režimu a schopnosť pokračovať v prevádzke bez AI.

Čo zatiaľ zostáva otvorené

NIST nezverejnilo rozpočet oboch šprintov, konkrétne modely, mená technologických dodávateľov ani podrobný harmonogram. Nie je známe ani to, aká časť očakávaného zlepšenia má pochádzať z generatívnej AI, klasického strojového učenia, optimalizácie, robotiky alebo zo zmeny organizácie práce. Desaťnásobný rast výrobnej kapacity a ultra-rýchla kybernetická náprava sú preto ambiciózne hypotézy programu. Bez počiatočných hodnôt a jednotných metrík ich nebude možné seriózne vyhodnotiť.

Najdôležitejším výsledkom dvojročného obdobia nebude počet nasadených agentov, ale dôkaz, že prinášajú opakovateľný prínos bez neprijateľného zvýšenia prevádzkového rizika. Verejnosť a priemysel budú potrebovať porovnateľné testy, záznamy o zlyhaniach aj vysvetlenie, kedy rozhodoval človek a kedy systém. Memorandum je významný politický a organizačný krok, no overenie jeho sľubov sa začne až pri reálnych pilotoch a transparentne publikovaných výsledkoch.