#výskum AI

Apple Machine Learning Research predstavil Path-Constrained Mixture-of-Experts. Práca tvrdí, že tokeny v MoE modeloch prirodzene vytvárajú malé množstvo opakovaných trás cez expertov a že architektúra PathMoE vie túto štruktúru využiť efektívnejšie.

Nový preprint tvrdí, že multimodálne modely vedia priestorovo uvažovať spoľahlivejšie vtedy, keď si scénu preložia do kódu s kockami, guľami a valcami, než keď majú odpovedať priamo na zdanlivo jednoduché otázky o obraze.

Apple zverejnilo výskum TC-JEPA, ktorý do samoučiaceho tréningu vizuálnych reprezentácií pridáva textové titulky, aby znížil neistotu pri predikcii zakrytých častí obrazu a zlepšil sémantické porozumenie.

Apple Machine Learning Research ukazuje, že tlak na lacnejší serving nemusí ísť len cez kvantizáciu či skracovanie kontextu. Nová práca skúša zmenšiť KV cache po hĺbke siete a zachovať pritom výkon aj priepustnosť.

Čerstvý paper na arXive navrhuje spoločný rámec pre reward fine-tuning aj sampling v difúznych a flow modeloch a tvrdí, že niektoré dnes používané tréningové cesty majú zásadne horšie vlastnosti než iné.

Na arXive pribudla práca o novom skóre pre multivariačné conformal prediction, teda technike, ktorá má k modelovej predikcii priložiť oblasť neistoty s garantovaným pokrytím. Autori tvrdia, že namiesto hrubého zredukovania chyby na jedno číslo vedia lepšie zachytiť geometriu reziduí.

Výskumníci navrhujú prístup ZeroFolio, ktorý pri výbere algoritmu nahrádza ručne tvorené príznaky textovými embeddingmi zo surového vstupu. Ak sa výsledky potvrdia aj mimo benchmarkov, môže to zjednodušiť oblasť, kde sa doteraz rátalo s pomerne vysokou doménovou expertízou a nákladnou prípravou reprezentácií problému.

Nová výskumná práca testuje, či sebamonitorovanie, self-prediction a subjektívne vnímanie času skutočne pomáhajú agentom v RL prostredí. Výsledok je triezvy: prídavné metakognitívne moduly bez hlbšej integrácie takmer nepomáhajú a niekedy sú iba ozdobou vedľa rozhodovacieho jadra.