Tag
Všetky publikované články, v ktorých sa téma bezpečnosť objavuje ako dôležitý kontext. Aktuálne 28 textov v archíve.
OpenAI zverejnil nové podrobnosti k incidentu, ktorý Hugging Face odhalil minulý týždeň. Podľa firmy išlo o internú evaluáciu kybernetických schopností, pri ktorej modely s vypnutými produkčnými zábranami reťazili zraniteľnosti a hľadali riešenia benchmarku ExploitGym.
Nové vydanie PydanticAI 2.10.0 prináša praktické opravy pre agentov: platnejšiu históriu nástrojových volaní, podporu OpenAI background mode, ošetrenie pauzovania v Anthropic API a zvýšenú spodnú verziu transformers pre CVE.
Nový technický návod pre Amazon Bedrock AgentCore Gateway ukazuje, ako majú agenti vo viacnájomnom prostredí vymieňať tokeny tak, aby nástroje konali v mene konkrétneho používateľa a nie pod všeobecným servisným účtom.
Cloudflare predstavil Precursor, systém kontinuálneho behaviorálneho overovania pre bot management. Namiesto jednorazovej výzvy sleduje signály naprieč reláciou a má lepšie odlišovať ľudí od pokročilej automatizácie vrátane agentických nástrojov.
Nové vydanie PydanticAI 2.9.0 prináša menšie funkcie, ale hlavne zverejnenie bezpečnostného upozornenia k sanitizácii histórie správ v UI adaptéroch.
Nový arXiv preprint navrhuje jeden štatistický rámec pre viacero forenzných úloh okolo AI: od odhaľovania generovaného textu cez halucinácie až po watermarky a adversariálne príklady.
OpenAI opisuje, ako chce nasadzovať svoje modely v štátnej správe, kyberobrane a biosekurite. Dôležité sú limity pre dohľad, autonómne zbrane a vysokorizikové rozhodnutia.
Nový arXiv preprint navrhuje G-DNMF, viacvrstvovú faktorizáciu pre rozpoznávanie objektov v radarových snímkach. Zaujímavý je najmä tým, že rieši interpretovateľnosť modelov v bezpečnostne citlivom videní.
Nový release llama.cpp opravuje dve chyby v spracovaní UGM tokenizéra. Podľa poznámok k vydaniu mohli škodlivo pripravené T5 alebo UGM GGUF súbory vyvolať heap-buffer-overflow, preto je aktualizácia dôležitá pre lokálne aj serverové nasadenia open-weight modelov.
OpenAI opisuje nasadenie ChatGPT Enterprise a Codexu v Australian Payments Plus. Zaujímavé nie je iba zrýchlenie práce, ale spôsob, akým AP+ drží človeka zodpovedného za rozhodnutia v platobnej infraštruktúre.
Hugging Face oznámil väčšiu aktualizáciu repozitárov Kernels. Novinky sa netýkajú iba používateľského rozhrania: pribúda podpisovanie kernelov, dôveryhodní vydavatelia, prepracované CLI, rozšírená podpora frameworkov a základ pre agentický vývoj optimalizovaných výpočtových jadier.
Mistral AI rozširuje konektory o admin pravidlá, rozsahy pre API kľúče, viac účtov na jeden konektor, debugger pre MCP a použitie konektorov vo Workflows aj Vibe Code.