Kategória
Výskumné práce, metódy, reprodukovateľné výsledky a posuny v bezpečnosti modelov.
OpenAI zverejnil audit benchmarku SWE-Bench Pro a tvrdí, že približne tretina úloh môže skresľovať hodnotenie kódovacích agentov. Pre vývojárov modelov je to pripomienka, že rast skóre nestačí bez kontroly kvality dát.
Nový arXiv preprint navrhuje G-DNMF, viacvrstvovú faktorizáciu pre rozpoznávanie objektov v radarových snímkach. Zaujímavý je najmä tým, že rieši interpretovateľnosť modelov v bezpečnostne citlivom videní.
Berkeley AI Research opisuje, ako prudký pokles cien inferencie mení databázy a dátové platformy. Ak budú agenti lacno spúšťať tisíce prieskumných dotazov, systémy budú musieť podporovať zdieľanie práce, pamäť, koordináciu aj overovanie agentmi generovaného kódu.
Apple opisuje referenčný rámec FlowEval, ktorý porovnáva navigačné stopy z reálnych webov s trasami v generovaných rozhraniach a má škálovať hodnotenie UI agentov bez ručného testovania každého prípadu.
DynaMiCS mieša trénovacie domény podľa krátkych sondovacích behov a optimalizuje ich tak, aby model napredoval v cieľovej oblasti bez straty všeobecných, inštrukčných alebo bezpečnostných schopností.
Výskumníci Apple opisujú mechanistický problém v bezpečnostnom ladení jazykových modelov: pri viacerých modeloch stačilo potlačiť alebo zosilniť jediný identifikovaný neurón, aby sa zmenilo odmietanie škodlivých požiadaviek.
Preprint o SWRL rieši dynamické plánovanie montážnych tokov s dodávkou viacerých produktov. Namiesto statických pravidiel kombinuje posuvné okno, heterogénny graf a posilňovacie učenie, aby lepšie reagoval na prichádzajúce objednávky.
Nový preprint ASK in the Dark skúma, kedy má posilňovací agent požiadať malý jazykový model o radu. Výsledok naznačuje, že pri čiastočne pozorovateľných úlohách rozhoduje najmä kontext v prompte, nie veľkosť modelu.
Nová výskumná stránka Apple sa vracia k oprave chýb v automatickom rozpoznávaní reči. Namiesto veľkých všeobecných LLM skúma špecializované sekvenčné modely trénované na reálnych aj syntetických ASR chybách, ktoré majú nižšiu latenciu a menšie riziko halucinácií.
Apple opisuje rámec Fortress, ktorý hľadá funkcie spôsobujúce časovo nestabilné skóre v odporúčacích a vyhľadávacích modeloch. Pre prax je dôležité, že nejde o ďalší väčší model, ale o disciplínu okolo dátových snímok, merania volatility a prerezávania vlastností pred opätovným tréningom.
Apple Machine Learning Research predstavil Path-Constrained Mixture-of-Experts. Práca tvrdí, že tokeny v MoE modeloch prirodzene vytvárajú malé množstvo opakovaných trás cez expertov a že architektúra PathMoE vie túto štruktúru využiť efektívnejšie.
Nový preprint navrhuje model pre predikciu rozpustnosti, ktorý drží fyzikálno-chemické deskriptory a molekulový graf v oddelených vetvách až po finálnu predikciu.