Tag
Všetky publikované články, v ktorých sa téma bezpečnosť AI objavuje ako dôležitý kontext. Aktuálne 13 textov v archíve.
Štúdia na siedmich jazykových modeloch ukazuje, že pri riadení správania modelu nestačí sledovať iba smer zásahu. Uhol nesie väčšinu konceptovej informácie, no veľkosť skrytého stavu rozhoduje o stabilite a vedľajších účinkoch.
OpenAI sprístupňuje Lockdown Mode širšiemu okruhu používateľov ChatGPT. Režim obmedzuje živý web, agentické funkcie, konektory a sťahovanie súborov, aby zmenšil priestor pre prompt-injection útoky pri práci s citlivými údajmi.
Nová štúdia skúma dataset z prerušeného experimentu na r/ChangeMyView, kde neoznačené AI účty vstupovali do živých debát. Autori analyzujú identitu, autoritatívne signály a rétorické taktiky a tvrdia, že samotné pravidlá o zverejnení AI pôvodu nemusia stačiť.
Nový príspevok NVIDIA na Hugging Face opisuje Nemotron 3.5 Content Safety, rodinu modelov pre nastaviteľné posudzovanie textu aj obrazu. Dôležitá je najmä možnosť prispôsobiť bezpečnostné pravidlá podnikovým a regionálnym požiadavkám.
OpenAI zverejnila návrh, ako má USA riadiť najvýkonnejšie AI systémy: opiera sa o federálny rámec, hodnotenia rizík, incident reporting a posilnenie inštitúcie CAISI.
Americký NIST premenoval konzorcium AI Safety Institute na širšie NIST AI Consortium, otvára členstvo novým organizáciám a presúva dôraz na meranie, evaly, inovácie a adopciu AI.
OpenAI zverejnilo Frontier Governance Framework, dokument prepájajúci interné riadenie rizík s prichádzajúcimi pravidlami EÚ a Kalifornie pre najvýkonnejšie modely.
Spoluzakladateľ Anthropic Chris Olah vystúpil pri predstavení encykliky pápeža Leva XIV. o umelej inteligencii. Firma tým posúva diskusiu o bezpečnosti AI mimo technických kruhov.
Referenčná architektúra AWS kombinuje Amazon Bedrock, Nova Pro, Guardrails a serverless služby na analýzu životopisov, otázky na pohovor a skórovanie kandidátov, no výslovne nejde o hotové produkčné riešenie.
Preprint AESOP upozorňuje na nový typ útoku proti zloženým inference pipeline. Namiesto lámana jedného modelu cieli na výber vykonávacej cesty a podľa autorov vie prudko nafúknuť výpočtové náklady aj latenciu celého systému.
OpenAI pri GPT-5.5 Instant nespravilo len bežný produktový refresh. V system card po prvý raz označuje instantný model za vysoko schopný v kybernetike aj bio rizikách a pridáva prísnejšie ochrany.
Britský AI Security Institute a Google DeepMind podpísali nové výskumné memorandum, ktoré posúva spoluprácu od samotného testovania frontier modelov k spoločnému výskumu monitorovania uvažovania modelov, socio-afektívneho zosúladenia a ekonomických dopadov AI.