Výskum odhaľuje rozdiel medzi asistentom, personou a postavou v LLM

Tri podobné hlasy, rozdielne vnútorné režimy

Keď jazykový model odpovedá ako bežný asistent, hrá pridelenú rolu alebo píše dialóg fiktívnej postavy, výsledný text môže na povrchu vyzerať podobne. Vo všetkých prípadoch môže používať prvú osobu, vyjadrovať emócie a udržiavať zdanlivo konzistentný hlas. Preprint „Many Are My Names“ skúma, či sú si tieto režimy podobné aj vo vnútorných aktiváciách modelu. Autori neanalyzujú vedomie ani skutočnú identitu systému. Hľadajú technické reprezentácie spojené s tým, koho má model v danej chvíli simulovať ako hovoriaceho.

Výskum rozlišuje tri nastavenia. V režime Assistant model odpovedá bez pridelenej postavy. V režime Roleplay dostane jednu zo štyroch person: učiteľku angličtiny, pracovníka v predajni, továrenského robota alebo psa. V režime Story vytvára príbeh, v ktorom vystupuje postava. Dáta obsahujú neutrálne aj emocionálne ladené zadania, pretože afektívny kontext môže zvýrazniť rozdiely medzi spôsobmi odpovedania. Celkovo autori zostavili 42 500 vzoriek: 7 500 pre asistenta, 30 000 pre štyri persony a 5 000 pre príbehy.

Hlavné experimenty prebehli na inštrukčne doladenom modeli Gemma 3 4B IT. Výskumníci použili verejné riedke autoenkódery GemmaScope 2 a sledovali aktivácie vo viacerých hĺbkach siete. Funkcie získavali na hraniciach konverzačných ťahov aj pri osobných zámenách, následne ich filtrovali podľa frekvencie, schopnosti odlíšiť režimy a odolnosti voči preformulovaniu promptu. Nestačilo teda, aby prvok reagoval iba na doslovnú frázu „You are“. Musel zostať aktívny aj po zmene formulácie zadania.

Čo ukázali zásahy do aktivácií

Po filtrovaní rozdelili autori prežívajúce prvky do viacerých skupín. Naratívne prvky podporovali obraznejší a literárnejší text, tónové prvky menili register odpovede a konceptové prvky vnášali tematické okruhy, napríklad zvieratá, učenie alebo stroje. Osobitnú skupinu tvorili prvky vyvolávajúce správanie typické pre asistenta: metakomentár, pripomenutie identity AI alebo odstup od hranej situácie. Zloženie týchto skupín sa menilo medzi skoršími, strednými a neskoršími vrstvami modelu.

Kľúčové tvrdenie práce znie, že štandardný asistent a roleplay persona nie sú dve úplne oddelené alternatívy. Hraná persona si podľa nameraných aktivácií zachováva jadro spojené s asistentom. V ďalších vrstvách k nemu postupne pridáva vlastnosti konkrétnej roly, štýl a väčšie ponorenie do simulácie. Príbehové postavy rovnaké jadro nevykazovali. Model tak môže v oboch prípadoch písať „ja“, ale pri aktívnej konverzačnej persone a pri postave opísanej rozprávačom používať odlišnú vnútornú konfiguráciu.

Autori sa nespoliehali iba na korelácie. Vybrané smery aktivácie cielene zosilňovali alebo potláčali a sledovali zmenu generovaného textu. Každý prvok testovali na súbore promptov pre asistenta, roleplay aj rozprávanie, pri kladnom i zápornom zásahu a pri viacerých nastaveniach generovania. Výsledky posudzoval ďalší jazykový model a zostávajúce prípady prešli ručnou kontrolou. Takýto zásah poskytuje silnejšiu indíciu funkčnej úlohy než samotné pozorovanie, stále však môže meniť viac vzájomne prepojených vlastností naraz.

Práca pomenúva aj „Immersive Simulation Mode“, teda režim pohlcujúcej simulácie, ktorý oddeľuje bežného asistenta od roleplay a príbehového rozprávania. Dôležité je, že sa môže objaviť aj bez výslovnej požiadavky hrať rolu. V emocionálne intenzívnych situáciách Gemma niekedy prešla k teatrálnemu či nezvyčajnému prejavu priamo. To neznamená, že model získal novú identitu; ide o pozorovanú zmenu aktivácií a správania, ktorú autori interpretujú ako posun medzi dvoma spôsobmi generovania.

Aktualizácia priniesla overenie na druhom modeli

Oproti prvej verzii, z ktorej vychádzal pôvodný článok AI Feed, je podstatná revízia preprintu z 14. augusta 2026. Autori doplnili replikáciu na modeli Llama 3.1 8B Instruct. Základný rozdiel medzi asistentom a pohlcujúcou simuláciou sa objavil aj tam, dynamika však nebola rovnaká. Gemma mohla do tohto režimu vstúpiť už v jedinom ťahu, zatiaľ čo Llama sa k nemu v testoch posúvala postupne počas viacťahovej konverzácie. Výsledok preto podporuje širšiu hypotézu, nie predstavu univerzálneho identického mechanizmu.

Doplnenie druhého modelu zvyšuje dôveryhodnosť výsledku, ale nerobí z neho všeobecný zákon pre všetky LLM. Obe skúmané siete sú otvorené modely podobnej veľkostnej triedy a experiment používal špecifické emocionálne dáta, štyri umelo pridelené persony a pevne zvolené tokenové pozície. Nie je overené, či sa rovnaké prvky objavia vo výrazne väčších proprietárnych modeloch, v slovenčine, pri dlhodobých agentických úlohách alebo v konverzáciách s nástrojmi a externou pamäťou.

Opatrnosť je potrebná aj pri samotných riedkych autoenkóderoch. Nejde o úplný slovník všetkého, čo model reprezentuje. OpenAI pri svojej práci so 16 miliónmi prvkov GPT-4 upozornilo, že mnohé prvky zostávajú nejasné, interpretácie sa ťažko validujú a rekonštrukcia nezachytáva celé správanie pôvodného modelu. Anthropic podobne ukázal, že prvky možno spájať s abstraktnými konceptmi a zásahmi meniť správanie, no zdôraznil, že nájdenie aktivácie ešte nevysvetľuje celý výpočtový okruh. Novú štúdiu preto treba čítať ako mechanistickú hypotézu podopretú experimentmi, nie ako definitívnu mapu modelovej „osobnosti“.

Praktický význam pre agentov a európske nasadenia

Pre tvorcov konverzačných produktov je zaujímavá najmä možnosť sledovať posun roly počas dlhého dialógu. Systémový prompt môže určovať, že model je podporný asistent, ale samotný textový výstup nemusí prezradiť, či jeho vnútorné reprezentácie zostali stabilné. V budúcnosti by signály z aktivácií mohli dopĺňať behaviorálne testy, kontrolu dodržiavania roly alebo mechanizmy opätovného ukotvenia. Súčasná práca však nepreukazuje dostatočnú presnosť, robustnosť ani výpočtovú efektívnosť na nasadenie takého monitora v produkcii.

V slovenskom a európskom prostredí môže byť téma relevantná pri chatbotoch pre verejné služby, vzdelávanie, zdravotníctvo či zákaznícku podporu, kde používateľ potrebuje jasne rozumieť tomu, či komunikuje s informačným asistentom alebo so simulovanou postavou. Analýza vnútorných aktivácií sama osebe nezabezpečuje súlad s európskymi pravidlami a nenahrádza riadenie rizík, dokumentáciu ani ľudský dohľad. Môže však časom poskytnúť ďalší technický dôkaz pri preverovaní konzistentnosti správania.

Otvorenou otázkou zostáva, či sa pozorovaný režim dá spoľahlivo oddeliť od emócií, štýlu a tematického obsahu. Potrebné sú nezávislé replikácie, viac jazykov, rozmanitejšie persony a porovnanie s jednoduchšími sondami, ktoré nemusia vyžadovať riedky autoenkóder. Užitočné bude aj preveriť, či zásah do nájdených prvkov opraví neželaný posun bez poškodenia empatie, tvorivosti alebo schopnosti plniť úlohu. Práca teda prináša presnejší model toho, ako môže v LLM vznikať hlas hovoriaceho, no cesta od laboratórnej interpretácie k spoľahlivej bezpečnostnej kontrole zostáva otvorená.