#mechanistická interpretovateľnosť

Nová štúdia skúma blokovo riedke reprezentácie vnútorných stavov neurónových sietí. Metóda Tournament Top-K obmedzila štiepenie konceptov v syntetických testoch, no výsledky na veľkých reálnych modeloch zostávajú predbežné.

Aktualizovaná štúdia pomocou riedkych autoenkóderov rozlišuje vnútorné reprezentácie asistenta, hranej persony a príbehovej postavy. Výsledky z Gemmy autori čiastočne zopakovali na modeli Llama, stále však nejde o hotový bezpečnostný senzor.