GitHub posúva Secure Code Game do éry AI agentov: nový Season 4 učí útočiť na ProdBot a potom ho opraviť

GitHub publikoval novú sezónu svojho tréningového projektu Secure Code Game a tentoraz mieri presne na slabé miesto súčasnej vlny AI nástrojov: agentov, ktorí nielen odpovedajú, ale aj čítajú súbory, spúšťajú príkazy, volajú API a koordinujú ďalšie služby. Season 4 je postavený ako praktický bezpečnostný kurz v editore a namiesto teórie necháva hráča cielene zneužiť zraniteľného asistenta ProdBot, nájsť problém a následne ho opraviť. Pre firmy aj developerov je to zaujímavé najmä preto, že rovnaký typ schopností sa dnes objavuje v produktoch okolo copilotov, terminálových agentov a automatizovaných interných workflow.

GitHub v blogu píše, že kurz je bezplatný, open-source a pozostáva z piatich progresívnych úrovní. ProdBot sa v nich postupne rozširuje o nové schopnosti, čím sa zároveň zväčšuje útoková plocha. Hráč má jedinú úlohu: prirodzeným jazykom prinútiť agenta, aby prezradil obsah súboru password.txt, teda tajomstvo, ku ktorému sa nemá dostať. Takýto rámec je dôležitý, pretože zraniteľnosti agentov dnes často nevznikajú len v modeli samotnom, ale v kombinácii modelu, nástrojov, pamäte, webového prehliadania a dôvery medzi viacerými krokmi workflow.

Novinka prichádza vo chvíli, keď sa bezpečnosť agentických aplikácií mení z akademickej témy na prevádzkový problém. GitHub priamo odkazuje na riziká ako goal hijacking, zneužitie nástrojov, identity abuse či memory poisoning a prepája ich s tým, čo už bezpečnostná komunita sleduje aj v rámcoch OWASP pre LLM a agentické aplikácie. Praktický význam je jasný: ak tím zavádza AI asistenta, ktorý má prístup k shellu, tiketom, repozitárom alebo firemným dokumentom, nestačí hodnotiť iba kvalitu odpovedí modelu. Rovnako dôležité je testovať hranice oprávnení, validáciu vstupov, izoláciu nástrojov a to, ako agent prenáša inštrukcie medzi jednotlivými krokmi.

Zaujímavé je aj to, ako GitHub kurz zasadil do realistického prostredia. ProdBot je inšpirovaný modernými agentmi pre terminál a vývojárske workflow, podporuje prirodzený jazyk, simulované prehliadanie webu, napojenie na MCP servery, schválené skills a persistentnú pamäť. To znamená, že nejde o abstraktný školský príklad, ale o model typických funkcií, ktoré sa už objavujú v produkčných nástrojoch. Pre bezpečnostné tímy je to dobrý sandbox na nácvik útokov, pre produktové tímy zase lacný spôsob, ako si pred nasadením overiť, kde sa môže autonómia agenta zmeniť na riziko.

Dôležitá je aj forma distribúcie. Secure Code Game beží cez GitHub Codespaces, takže štart nevyžaduje lokálnu inštaláciu ani komplikovanú konfiguráciu. To znižuje bariéru pre tímové školenia, interné workshopy aj samostatné testovanie. V praxi môže byť Season 4 užitočný najmä pre organizácie, ktoré experimentujú s agentmi pre helpdesk, DevOps, interné knowledge systémy alebo automatizované coding workflow. Namiesto abstraktnej prednášky dostanú konkrétne scenáre, kde sa ukáže, čo sa stane, keď agent slepo dôveruje promptu, preberá škodlivé dáta z webu alebo vykoná príkaz mimo očakávaného kontextu.

Pre trh je to ďalší signál, že okolo agentov sa bude profesionalizovať nielen produktová vrstva, ale aj bezpečnostné testovanie. Minulý rok stačilo hovoriť o prompt injection pri chatbotoch; dnes sa rieši, ako bezpečne obmedziť AI systém, ktorý má nástroje, pamäť a schopnosť konať. GitHub týmto vydaním nepredstavuje nový model, ale niečo, čo môže mať pre adopciu AI v podnikoch podobne veľký dopad: praktický tréningový materiál, na ktorom si tímy osvoja útoky skôr, než ich uvidia v ostrej prevádzke.