Tag
Všetky publikované články, v ktorých sa téma AI bezpečnosť objavuje ako dôležitý kontext. Aktuálne 5 textov v archíve.
Program LSVP umožní overeným vedeckým tímom používať modely Anthropic aj na citlivé biologické úlohy. Namiesto plošného blokovania zavádza odstupňovaný prístup, priebežné monitorovanie a osobitný režim pre rizikový výskum.
Výskumníci navrhli testovaciu metódu, ktorá po prvom vysvetlení odstráni neuvedené koncepty a model sa opýta znova. Má znižovať skryté vplyvy bez úpravy váh, výsledky sú však zatiaľ iba v novej nerecenzovanej práci.
Cloudflare Gateway dokáže identifikovať kontrolovanú MCP prevádzku, priradiť ju k používateľom a serverom a obmedziť priame spojenia mimo firemného portálu. Sieťová detekcia však nerieši lokálne servery, autorizáciu nástrojov ani bezpečnosť argumentov sama osebe.
OpenAI po predbežných evaluáciách pripravovaného modelu Astra nevie vylúčiť kritickú úroveň kybernetických schopností. Firma pozastavila interné aktivity, ktoré nespĺňajú sprísnené podmienky, no nezverejnila podrobné výsledky testov a netvrdí, že model hranicu Critical definitívne dosiahol.
Shieldstral hodnotí text a obraz podľa pravidiel zadaných prirodzeným jazykom a dá sa prevádzkovať lokálne. Sľubné výsledky však zatiaľ pochádzajú najmä od Mistralu a pre slovenčinu chýba nezávislé overenie.