Cloudflare ukazuje interný AI engineering stack postavený na vlastnej platforme
Cloudflare tvrdí, že jeho interný AI engineering stack obsluhuje tisíce používateľov, desiatky miliónov požiadaviek a stovky miliárd tokenov, pričom stojí na Access, AI Gateway, Workers AI a MCP vrstvách.
Autor: Redakcia AI Feed
- Typ zdroja
- Kurátorovaný súhrn
- Zdroj / autorita
- Cloudflare
Jedna z najzaujímavejších dnešných publikácií neprišla v podobe nového modelu, ale ako detailný rozpis toho, ako Cloudflare používa AI vo vlastnej inžinierskej organizácii. Firma opisuje interný stack, na ktorom v posledných tridsiatich dňoch bežali AI nástroje pre 3 683 interných používateľov, čo podľa nej predstavuje 93 percent R&D organizácie. Cez AI Gateway pritom podľa zverejnených čísel pretieklo vyše 20 miliónov requestov a viac než 241 miliárd tokenov. Pre trh je dôležité, že nejde len o adopčný graf, ale o konkrétnu architektúru, ktorú Cloudflare používa na vlastné interné workflow.
Text je cenný najmä tým, že ukazuje agentický stack ako praktický produktový systém. Na najnižšej vrstve stojí Zero Trust autentifikácia cez Cloudflare Access a centrálne smerovanie modelov cez AI Gateway. Nad tým firma skladá Workers AI pre inferenciu open-weight modelov, portál pre MCP servery, sandboxes na spúšťanie agentom generovaného kódu, dlhšie trvajúce sessions cez Agents SDK a workflow vrstvu pre viac-krokové procesy. Výsledkom nie je jeden chatbot pre programátorov, ale súvislá infraštruktúra, v ktorej sa AI dá monitorovať, škálovať a obmedzovať podľa pravidiel.
Cloudflare zároveň dobre ukazuje rozdiel medzi experimentom a prevádzkou. Ak má firma tisíce interných používateľov a širokú paletu klientov od OpenCode po ďalšie MCP kompatibilné nástroje, potrebuje jednotný control plane. Preto všetko smeruje cez jednu vrstvu, kde sa dá spravovať identita, nákladové stopy, provider routing aj retenčné pravidlá. Tento detail je dôležitý aj mimo Cloudflare: mnohé firmy dnes zistili, že najväčší problém pri adopcii AI nie je prompt, ale roztrúsené kľúče, nekoordinovaný prístup k modelom a nulová observabilita nad tým, čo agenti vlastne robia.
Zaujímavé je aj to, ako firma kombinuje frontier modely s open-source inferenciou. Cloudflare priznáva, že väčšina komplexnej agentickej práce stále tečie cez modely od OpenAI, Anthropic či Google, no zároveň rastie podiel Workers AI pri úlohách, kde hrá väčšiu rolu cena, nižšia latencia a prevádzka v rovnakej sieti ako aplikácia. To je pragmatickejší obraz trhu než jednoduché rozdelenie na „uzavreté modely verzus open source“. Podnikový stack bude pravdepodobne hybridný a bude sa meniť podľa typu workloadu.
Publikácia je cenná aj pre svoju „knowledge layer“. Cloudflare nehovorí len o routingu a compute, ale aj o tom, ako agenti rozumejú interným systémom. Spomína Backstage, AGENTS.md súbory a pravidlá vynucované cez Engineering Codex. To ukazuje, že agentická efektivita vo firmách nebude daná len veľkosťou kontextu, ale aj kvalitou štruktúrovaného interného kontextu. Mnohé spoločnosti dnes investujú do ďalšieho modelu, no skutočné zrýchlenie môže prísť až vtedy, keď agent dostane presnú mapu repozitárov, služieb a prevádzkových pravidiel.
Z hľadiska trhu je tento text dôležitý aj preto, že Cloudflare demonštruje tzv. dogfooding na úrovni celej organizácie. Firma tvrdí, že stack, ktorý používa interne, je z veľkej časti zložený z produktov, ktoré zároveň predáva zákazníkom. To je silný obchodný argument: namiesto abstraktného príbehu o budúcnosti agentov ponúka prevádzkový prípad použitia s konkrétnymi číslami o adopcii a throughpute. Pre enterprise kupujúcich je to často presvedčivejšie než benchmarková tabuľka.
Pre AI Feed je hlavný odkaz jasný. Hodnota AI stacku sa v podnikoch čoraz viac presúva z modelovej vrstvy do vrstvy orchestrácie, governance a interného kontextu. Cloudflare dnes ukazuje, že ak chce firma reálne pustiť AI do vývoja, potrebuje viac než dobrý chat. Potrebuje bezpečnostný perimeter, routing, observabilitu, knowledge layer a mechanizmy na vynucovanie kvality. A práve schopnosť tieto vrstvy skĺbiť sa postupne stáva novým definujúcim parametrom enterprise AI platforiem.
Zdroje