#interpretability

Nová interpretability štúdia Anthropic opisuje J-space: malú množinu vnútorných reprezentácií, ktoré sa správajú ako zdieľaný pracovný priestor modelu. Dôležité je, že nejde o dôkaz vedomia, ale o praktický nástroj na čítanie a ovplyvňovanie tichého uvažovania modelu.

Výskumníci ukazujú, že vysoké Brain Score dosahujú aj modely trénované na veľmi odlišných štruktúrovaných dátach vrátane genómu či kódu. To spochybňuje jednoduché tvrdenie, že metrika automaticky znamená hlbšiu podobnosť jazykových modelov s ľudským spracovaním jazyka.