Cloudflare ukazuje viacstupňový harness na hľadanie zraniteľností pomocou AI

Cloudflare zverejnil podrobný pohľad na viacstupňový systém na hľadanie zraniteľností pomocou AI. Firma ho opisuje ako vulnerability harness: riadené prostredie, v ktorom modely skúmajú kód, formulujú hypotézy, prechádzajú kontrolami stavu a následne ich výstupy prechádzajú samostatnou validačnou slučkou. Dôležité je, že Cloudflare nehovorí iba o tom, že „AI našla chybu“. Článok rozoberá architektúru, obmedzenia a obranné vrstvy, ktoré majú znížiť počet falošných nálezov.

Prvý stupeň systému je zameraný na objavovanie možných zraniteľností. Model alebo agent dostáva úlohu prehľadávať veľkú kódbázu, identifikovať podozrivé miesta a vytvoriť pracovnú hypotézu. V tradičnom bezpečnostnom audite by podobnú úlohu robil skúsený výskumník, ktorý kombinuje čítanie kódu, znalosť predchádzajúcich chýb a pokusy o reprodukciu. AI harness tento proces neurýchľuje kúzlom, ale tým, že dokáže paralelne a systematicky skúšať veľa ciest, ktoré by človek nemusel stihnúť.

Druhý stupeň je podľa Cloudflare rovnako podstatný: validácia. Nález od modelu nemožno brať ako hotovú pravdu, pretože LLM systémy vedia presvedčivo opísať aj chybu, ktorá v skutočnosti neexistuje. Cloudflare preto oddeľuje objavovanie od overovania a do procesu vkladá protivnícke preskúmanie. Cieľom je zistiť, či tvrdenie obstojí pri prísnejšej kontrole, či sa dá reprodukovať a či nejde iba o zle pochopený kontext v kóde.

Zaujímavým detailom sú stavové kontroly a práca s kontextovými limitmi. Pri veľkých podnikových kódbázach sa model nikdy nepozerá na všetko naraz. Harness musí rozhodovať, ktoré súbory a súvislosti vloží do kontextu, ako uchová priebežný stav a ako zabráni tomu, aby sa agent stratil v nepodstatných vetvách. Cloudflare tým nepriamo priznáva kľúčový limit dnešných agentov: problémom nie je iba inteligencia modelu, ale aj disciplína orchestrace, pamäte a overovania.

Pre bezpečnostné tímy je tento prístup zaujímavý najmä preto, že sa dá zaradiť medzi existujúce procesy. AI nemusí nahradiť penetračný test ani code review. Môže vytvoriť ďalšiu vrstvu, ktorá predpripraví hypotézy, upozorní na zvláštne vzory a pomôže rozšíriť rozsah kontroly. Zároveň však treba nastaviť brány, aby sa organizácia neutopila vo falošných pozitívach. Bez validačnej vrstvy by sa podobný nástroj rýchlo zmenil na generátor ticketov, ktorým vývojári prestanú veriť.

Cloudflare k článku pripája aj verejný GitHub repozitár security-audit-skill. Ten je dôležitý ako konkrétnejší artefakt než samotný blogový opis, pretože ukazuje, ako sa úlohy pre bezpečnostného agenta štruktúrujú. V praxi ide o trend, v ktorom sa „skill“ alebo predpripravený pracovný postup stáva rovnako dôležitý ako model. Dobrý prompt nestačí; bezpečnostný agent potrebuje pravidlá, formát výstupu, kontrolné otázky a hranice, v ktorých sa má pohybovať.

Širší kontext je Project Glasswing, v ktorom Cloudflare skúma, čo sa stane, keď sa frontier modely nasadia na bezpečnostné úlohy v enterprise prostredí. Tieto experimenty sú dôležité aj mimo Cloudflare. Ukazujú, že AI pre kyberbezpečnosť sa nebude skladať iba z chatbotov nad dokumentáciou. Bude to kombinácia agentických slučiek, sandboxov, kontrolných mechanizmov, auditovateľných logov a ľudskej eskalácie. Najväčšia hodnota môže byť v systematickosti, nie v jednom dramatickom objave.

Riziko je zjavné: rovnaké techniky môžu použiť aj útočníci. Ak organizácie automatizujú hľadanie zraniteľností, musia predpokladať, že podobnú automatizáciu budú mať aj protivníci. Preto je dôležité, že Cloudflare verejne rozoberá nielen výkon, ale aj validáciu a znižovanie chýb. Pre obrancov to znamená, že budú potrebovať rýchlejšiu triáž, lepšie prepojenie s opravami a schopnosť rozlišovať medzi hypotézou a reálnym exploitable problémom.

Pre firmy, ktoré uvažujú o vlastnom AI bezpečnostnom nástroji, z toho vyplýva opatrný záver. Najskôr treba navrhnúť proces: kde agent beží, aký kód vidí, ako sa evidujú nálezy, kto ich overuje a čo sa stane pri neistote. Až potom dáva zmysel vyberať model. Cloudflare ukazuje, že užitočný AI bezpečnostný harness je menej o jednej veľkej odpovedi a viac o disciplinovanom systéme, ktorý vie pochybovať o vlastných výsledkoch.