Audit medicínskych VLM benchmarkov našiel stopy kontaminácie v tréningových dátach
Preprint preveruje verejné medicínske vision-language benchmarky a varuje, že časť výsledkov môže byť ovplyvnená prekryvom s dátami dostupnými pri predtréningu.
Kategória
AI výskum
Výskumné práce, metódy, reprodukovateľné výsledky a posuny v bezpečnosti modelov.
Preprint varuje, že kvantizácia KV cache môže oslabiť bezpečnostné odmietanie modelov
Autori tvrdia, že nízkobitová kvantizácia pamäte pri inferencii môže poškodiť alignment aj vtedy, keď bežné metriky kvality vyzerajú takmer nezmenené.
ServiceNow testuje, ako hlasoví agenti zvládajú prepínanie jazykov
Benchmark na Hugging Face ukazuje, že rozpoznávanie reči v dvojjazyčných kontaktných centrách zostáva pre hlasových agentov slabým miestom.
Preprint skúša presnejšie riadenie kompozície pri generovaní krajiniek
Nový arXiv preprint navrhuje anchor-conditioned fine-tuning pre generovanie krajinných obrázkov. Model nedostáva iba textový prompt, ale aj číselný vektor kompozície, ktorý má lepšie zachytiť horizont, dominantný objekt či priestorové rozloženie scény.
NIST: matematický dôkaz podporuje priebežné opravy AI bezpečnosti
NIST upozorňuje, že konečný zoznam guardrailov nemôže byť univerzálne odolný voči protivníckym promptom. Práca Apostola Vassileva podporuje prechod k nepretržitému monitorovaniu, red teamingu a prevádzkovej odolnosti.
Preprint rozoberá, čo adversariálne dolaďovanie mení vo vision transformeroch
Nová práca z MIT analyzuje, ako adversariálne fine-tuningové postupy ovplyvňujú vision transformery pri rozmazaní, zaostrení a iných obrazových poruchách. Zlepšenie robustnosti sa podľa autorov neprenáša automaticky na nevidené typy porúch.
Štúdia testuje AI agentov na vedeckom potrubí od dát po objav v neurovede
Nový preprint hodnotí všeobecných kódovacích agentov na optogenetickom výskumnom potrubí s veľkými dátami. Výsledok je triezvy: agenti zvládajú niektoré samostatné kroky, ale zlyhávajú pri end-to-end vedeckom úsudku.
OpenAI spúšťa výskumnú burzu o vplyve AI na prácu a ekonomiku
OpenAI otvorilo Economic Research Exchange, program pre externé empirické projekty o tom, ako AI mení produktivitu, pracovné miesta, firmy a verejné inštitúcie.
Stanford varuje, že náborové AI nástroje môžu škálovať rasové odmietanie uchádzačov
Stanford HAI opisuje veľkú štúdiu algoritmického náboru: pri 4 miliónoch žiadostí mala spoločná závislosť firiem od jedného dodávateľa zvýrazniť rasové rozdiely a systémové odmietanie rovnakých kandidátov.
Preprint o hyperspektrálnych dátach varuje pred únikom v náhodných pixelových testoch
Metóda SGBR-HC vyberá približne dvadsať pásiem pre hyperspektrálnu klasifikáciu a zároveň ukazuje, že náhodné delenie pixelov môže nafúknuť presnosť o desiatky percentuálnych bodov. Dôležitý je preto priestorovo oddelený test.
AFSAT prenáša pseudo-booleovský SAT solver na GPU cez JAX a Fourierove reprezentácie
Preprint predstavuje AFSAT, plnohodnotnejšiu verziu GPU solvera pre pseudo-booleovské SAT úlohy. Autori opisujú, ako JAX, dávkové lokálne hľadanie a upravená diskrétna Fourierova transformácia zlepšujú stabilitu, pamäť aj škálovanie.
Nový preprint rozkladá activation steering na uhol a veľkosť skrytého stavu
Štúdia na siedmich jazykových modeloch ukazuje, že pri riadení správania modelu nestačí sledovať iba smer zásahu. Uhol nesie väčšinu konceptovej informácie, no veľkosť skrytého stavu rozhoduje o stabilite a vedľajších účinkoch.