Kategória
Prehľad kľúčových oznámení, partnerstiev, regulačných posunov a trhových signálov.
PydanticAI opravil nekontrolované načítavanie vzdialeného obsahu do pamäte v lokálnom web_fetch a typoch FileUrl. Bezpečnostné minimum predstavujú verzie 2.24.0 a 1.107.2, no tímy by mali preveriť aj konfiguráciu limitov, lockfily a ochranu agentov pred nedôveryhodnými URL.
OpenAI po predbežných evaluáciách pripravovaného modelu Astra nevie vylúčiť kritickú úroveň kybernetických schopností. Firma pozastavila interné aktivity, ktoré nespĺňajú sprísnené podmienky, no nezverejnila podrobné výsledky testov a netvrdí, že model hranicu Critical definitívne dosiahol.
Mobileye uvádza, že interný agent vybavuje 66 % rutinných tiketov a odpovedá približne do minúty. Výsledky sú sľubné, no pochádzajú z firemnej prípadovej štúdie bez nezávislého auditu.
NIST a americké ministerstvo energetiky rozbiehajú dva dvojročné programy pre AI agentov vo výrobe a kybernetickej obrane. Ambiciózne ciele sú potvrdené, chýbajú však rozpočty, metriky aj výsledky z reálnej prevádzky.
Denný redakčný prehľad spája matematické výsledky modelu Astra, produkčné zmeny v PydanticAI a americký spor o zákaz aplikácií vytvárajúcich intímne deepfaky.
OpenAI, Hugging Face a JFrog zverejnili podrobnejšiu rekonštrukciu incidentu, pri ktorom interné modely obišli izoláciu, zneužili nové zraniteľnosti a prenikli do produkčných systémov Hugging Face.
OpenAI spojil svoje bezpečnostné rámce, systémové karty a označovanie obsahu s dvoma európskymi kódexmi. Pre zákazníkov je dôležité, že zodpovednosť za súlad sa delí medzi poskytovateľa modelu a nasadzujúcu organizáciu.
OpenAI zablokovalo koordinovanú sieť účtov spájanú s podvodmi v Kambodži. Nezávislé zistenia Amnesty International a Interpolu zasadzujú prípad do širšieho systému nútenej práce a globálnych podvodných centier.
Okta 26. augusta dokončila akvizíciu Permiso Security. Získava technológie na sledovanie ľudských, strojových a agentických identít po prihlásení, no rozsah integrácie, licencovanie a účinnosť detekcie ešte nepoznáme.
Instagram po kritike vypol možnosť používať verejné účty ako referenciu pri generovaní obrázkov v Meta AI. Prípad ukazuje, že pri spotrebiteľských multimodálnych nástrojoch nestačia len dodatočné prepínače súkromia.
Nový procesný návrh Midjourney posúva spor s Disney, Universalom a Warner Bros. od otázky výstupov modelu k tomu, či veľké štúdiá samy trénujú alebo používajú generatívnu AI. Pre firmy vyvíjajúce obrazové a video modely je dôležité najmä to, či súd pripustí širšie dokazovanie o interných AI praktikách držiteľov práv.
Spoluzakladateľ Anthropic Chris Olah vystúpil pri predstavení encykliky pápeža Leva XIV. o umelej inteligencii. Firma tým posúva diskusiu o bezpečnosti AI mimo technických kruhov.