#vysvetliteľnosť

Komparatívna štúdia na arXiv porovnáva Integrated Gradients, Attention Rollout a SHAP a ukazuje, že rôzne explainability metódy ponúkajú iný kompromis medzi stabilitou, výpočtovou cenou a interpretovateľnosťou.

Štúdia porovnávajúca Integrated Gradients, Attention Rollout a SHAP upozorňuje, že pri diagnostike jazykových modelov neexistuje univerzálne vysvetlenie. Najstabilnejšie sa podľa autorov ukazujú gradientové atribúcie, kým attention a model-agnostic prístupy majú vlastné kompromisy.