#reasoning

Práca EasyRL spája trochu označených „ľahkých“ dát, pseudo-labeling a postupné zosilňovanie náročnosti. Autori tvrdia, že tým zlepšujú reasoning výkon bez nákladov typických pre plne anotované RL pipeline.

Nová práca LACE navrhuje, aby sa paralelné reasoning trajektórie pri inferencii navzájom ovplyvňovali cez cross-thread attention. Namiesto viacerých izolovaných pokusov tak vzniká koordinované hľadanie riešenia s potenciálom znížiť redundantné chyby.

Paper „The Spectral Geometry of Thought“ tvrdí, že v skrytých aktiváciách transformerov existujú opakujúce sa spektrálne vzory rozlišujúce reasoning od faktickej odpovede a že môžu pomôcť odhadnúť správnosť ešte pred finálnym výstupom.

Paper Think Multilingual, Not Harder tvrdí, že code-switching v reasoning modeloch nemusí byť chyba, ale užitočné správanie. Autori pripravili dátovo úsporný framework, ktorým chcú modely naučiť prepínať jazyky vtedy, keď to zlepšuje samotné uvažovanie.

Nová práca LACE navrhuje, aby sa paralelné reasoning vetvy počas inferencie navzájom ovplyvňovali. Namiesto viacerých izolovaných pokusov tak vzniká koordinované hľadanie riešenia, ktoré podľa autorov citeľne zvyšuje presnosť na náročných úlohách.

Nová výskumná práca navrhuje Filtered Reasoning Score, ktorý hodnotí iba najsebaistejšie reasoning trace modelu namiesto jednoduchého priemerovania všetkých pokusov. Cieľom je rozlíšiť modely, ktoré vyzerajú rovnako dobre v presnosti, no opierajú sa o rozdielne kvalitné uvažovanie.

Nová práca Self-Distillation Zero tvrdí, že model si vie z binárnej odmeny vytvoriť hustejší tréningový signál aj bez externého učiteľa. Ak sa výsledky potvrdia, mohlo by to zlacniť časť post-trainingu pre matematické a kódové reasoning úlohy.

Nový text IBM Research tvrdí, že rozhodujúci skok v reasoningu neprichádza iba z RL alebo inštrukčného ladenia, ale z medzifázy mid-trainingu zameranej na matematiku, kód a vedu.

Meta predstavila Muse Spark ako prvý model rodiny Muse od Meta Superintelligence Labs. Zaujímavá nie je len multimodalita, ale aj kombinácia tool-use, vizuálneho chain of thought a paralelného multi-agent orchestru, ktorou sa Meta snaží dobehnúť frontier špičku.