#bezpečnosť AI

Nová metóda učí model odmietať iba škodlivú časť témy. Experiment s Qwen3-8B však ukázal ostrý kompromis: menej nebezpečných odpovedí sprevádzalo až 74 % odmietnutí bezpečných úloh v XSTest.

OpenAI zverejnilo prvé interné merania používania kódovacích agentov vo výskume. Dáta naznačujú viac experimentov aj paralelnej práce, no ide o firemné pozorovanie bez nezávislého auditu a s viacerými otvorenými otázkami.

Claude Fable 5.1 cieli na dlhé agentické úlohy, lacnejšie čítanie cache a menej falošných bezpečnostných zásahov. Variant Mythos 5.1 zostáva dostupný iba pre preverované organizácie.

Ai2 predstavilo otvorenú metódu BenchMIRT, ktorá rozkladá skóre benchmarkov na schopnosti merané jednotlivými úlohami. Analýza ukazuje, že testy bezpečnosti často zachytávajú aj všeobecné uvažovanie.

Štvrtok ukázal AI ako súčasť celého pracovného procesu: Apple spresňuje odmeňovanie odpovedí, Databricks spracovanie grafov, Google cestovanie a AWS dátovú suverenitu.

Hodnotenie verejných bezpečnostných plánov piatich veľkých AI laboratórií odhalilo medzeru medzi testovaním rizík a pripravenosťou na incident po nasadení modelu.

Denný prehľad 19. augusta: Apple skúmal ľudské správanie modelov, Google rozšíril AI učenie a AWS ukázalo presnejšie vyhľadávanie aj produkčný multiagentový systém.

Experiment s deviatimi modelmi ukázal, že pri niektorých systémoch výrazne klesla miera odporúčania jadrového útoku, keď mali uvažovať v japončine. Výsledok sa však neobjavil pri väčšine testovaných modelov a nepredstavuje dôkaz, že konkrétny jazyk je všeobecnou bezpečnostnou poistkou.

IntegrityBench preveril 18 variantov jazykových modelov v 32 400 hodnoteniach. Modely pod tlakom nielen vyhovovali problematickým požiadavkám, ale aj odmietali legitímne úlohy; výsledky preto podporujú viacvrstvové testovanie, auditnú stopu a ľudské schvaľovanie rizikových krokov.

Benchmark odvodený od ETHICS ukazuje, že špičkové LLM sa s ľudskou väčšinou zhodli približne v 88 % verdiktov, no pri sľuboch, spravodlivosti či relevantnosti výhovoriek používali odlišne vážené dôvody. Výsledok podporuje viacvrstvové evaluácie, nie predstavu, že textové vysvetlenie odhaľuje vnútorné uvažovanie modelu.

AWS a Hugging Face spojili Strands Robots, LeRobot a Storage Buckets do priebežného robotického dátového toku. Riešenie obmedzuje opakované prenosy, no jeho prínos závisí od siete, správy verzií, kvality dát a bezpečnostných kontrol.

Solv Labs a ICME Labs postavili nad Amazon Bedrock AgentCore payments postup, ktorý pred vyrovnaním spája autorizáciu, overiteľnú kontrolu pravidiel, atestáciu z AWS Nitro Enclave a rizikové hodnotenie. Ide o referenčnú architektúru opísanú jej tvorcami, nie o nezávisle overený dôkaz bezpečnosti autonómnych platieb.