#LLM

Survey o transliterácii v NLP pripomína, že rozdielne písma zostávajú praktickou brzdou cross-lingual prenosu. Aj v ére veľkých modelov môže prepis medzi skriptami zlepšiť pokrytie, efektivitu aj prácu s code-mixom.

Nová práca o theorem proving ukazuje, že kompilátorové chybové režimy môžu slúžiť ako kompresia spätnoväzbového signálu. Výsledkom má byť výkonnejšie dokazovanie bez extrémne drahého test-time compute.

Štúdia sledujúca viac než 25-tisíc behov agentických systémov tvrdí, že dnešní AI „vedci“ síce vedia vykonávať workflow, no zriedka postupujú spôsobom, ktorý by zodpovedal skutočne vedeckému uvažovaniu.

Komparatívna štúdia na arXiv porovnáva Integrated Gradients, Attention Rollout a SHAP a ukazuje, že rôzne explainability metódy ponúkajú iný kompromis medzi stabilitou, výpočtovou cenou a interpretovateľnosťou.

Výskumníci ukazujú, že vysoké Brain Score dosahujú aj modely trénované na veľmi odlišných štruktúrovaných dátach vrátane genómu či kódu. To spochybňuje jednoduché tvrdenie, že metrika automaticky znamená hlbšiu podobnosť jazykových modelov s ľudským spracovaním jazyka.

Štúdia porovnávajúca Integrated Gradients, Attention Rollout a SHAP upozorňuje, že pri diagnostike jazykových modelov neexistuje univerzálne vysvetlenie. Najstabilnejšie sa podľa autorov ukazujú gradientové atribúcie, kým attention a model-agnostic prístupy majú vlastné kompromisy.

Paper Think Multilingual, Not Harder tvrdí, že code-switching v reasoning modeloch nemusí byť chyba, ale užitočné správanie. Autori pripravili dátovo úsporný framework, ktorým chcú modely naučiť prepínať jazyky vtedy, keď to zlepšuje samotné uvažovanie.

Výskum Aletheia spochybňuje bežný zvyk pripájať LoRA adaptéry rovnomerne na všetky vrstvy transformera. Namiesto toho si cez ľahký gradientový prieskum vyberá vrstvy najrelevantnejšie pre danú úlohu a hlási citeľné zrýchlenie tréningu bez veľkej straty kvality.

Nová práca LACE navrhuje, aby sa paralelné reasoning vetvy počas inferencie navzájom ovplyvňovali. Namiesto viacerých izolovaných pokusov tak vzniká koordinované hľadanie riešenia, ktoré podľa autorov citeľne zvyšuje presnosť na náročných úlohách.

Anthropic uviedol Claude Opus 4.7 ako všeobecne dostupný model so silnejším softvérovým inžinierstvom, lepším videním a vyššou spoľahlivosťou pri dlhších úlohách. Dôležité nie je len skóre, ale aj posun v tom, koľko práce môžu firmy modelu reálne odovzdať bez mikromanažmentu.

Práca na arXive tvrdí, že aj silné jazykové modely vrátane GPT-4o majú väčší problém s abstraktným významom, než sa často predpokladá. Výsledok je dôležitý najmä preto, že odhaľuje slabinu, ktorú nezakryjú bežné benchmarky ani všeobecný dojem z plynulého textu.

Nová práca tvrdí, že jazykové modely môžu pomôcť s prekladom rozdielnych schém zdravotných záznamov. Cieľom je, aby model fungoval aj tam, kde sa štruktúra dát medzi nemocnicami líši.