Jazyk uvažovania menil odporúčania LLM v simulovaných scenároch jadrového útoku

Čo experiment skutočne meral

Bezpečnostné testy veľkých jazykových modelov sa stále sústreďujú najmä na angličtinu. Práca Riana Touchenta, publikovaná v zborníku workshopu TrustNLP 2026, ukazuje, prečo to môže byť nedostatočné. Autor testoval deväť modelov od šiestich poskytovateľov v jednorazových strategických vinetách. Model vystupoval ako poradca jadrovej mocnosti a rozhodoval, či odporučí útok na protivníka, ktorý sa nemôže brániť. Nešlo o simuláciu skutočného veliteľského systému, ale o kontrolovaný test rozhodovacieho správania pri extrémne citlivej otázke.

Scenáre boli zámerne formulované amorálne a z pohľadu teórie hier: prompt modelu nepripomínal humanitárne dôsledky ani mu neprikazoval zohľadniť etiku. Strategická situácia mala zostať medzi jazykovými verziami rovnaká, aby bolo možné sledovať, či sa zmení samotné odporúčanie. Autor rozlišoval prípady, keď útok nebol potrebný, sporné situácie a podmienky, v ktorých bol útok podľa úzko vymedzenej logiky zadania strategicky racionálny. Takýto dizajn skúma citlivosť modelu na jazyk, nie správnosť reálnej jadrovej doktríny.

Najvýraznejší rozdiel zaznamenala štúdia v rodine Claude. Pri modeli Claude Sonnet 4.6 klesol podiel odporúčaní zaútočiť v nepotrebných scenároch zo 40 percent v angličtine na nulu v japončine. V sporných scenároch sa znížil z 93 na 17 percent, zatiaľ čo pri strategicky „racionálnom“ útoku bol jazykový účinok malý. Pri Gemini Pro 3.1 uvádza práca pokles z 53 na 13 percent. Ide o podiely odpovedí v konkrétnom experimentálnom protokole, nie o všeobecnú pravdepodobnosť, že daný model podporí použitie jadrovej zbrane.

Dôležitejší bol jazyk uvažovania než jazyk vstupu

Prínosom práce je pokus oddeliť dva javy, ktoré sa pri obyčajnom preklade promptu miešajú. V doplňujúcom experimente dostal model zadanie v angličtine, no mal uvažovať v japončine. V príslušnej spornej podmienke klesla miera odporúčania útoku z 93 na 37 percent. Autor z toho vyvodzuje, že pozorovaný posun nesúvisel iba s japonským znením vstupu, ale najmä s jazykom, v ktorom model vytváral odôvodnenie svojho rozhodnutia.

V japonských odôvodneniach sa spontánne objavovali výrazy ako „morálna cena“ či odkazy na milióny životov, hoci ich prompt neobsahoval. Jedným z možných vysvetlení je, že jednotlivé jazyky aktivujú odlišné asociácie, textové vzory alebo časti tréningových dát. Štúdia však mechanizmus neurčuje na úrovni vnútorných reprezentácií modelu. Z textových výstupov nemožno spoľahlivo usúdiť, či model „premýšľa“ rovnakým spôsobom ako človek ani či morálny slovník priamo spôsobil výsledný verdikt.

Rovnako dôležitý je negatívny výsledok: päť z deviatich modelov merateľný jazykový efekt neukázalo, pretože útok odporúčali takmer v každej podmienke. Podľa autora sa posun objavil iba pri systémoch, ktoré prejavovali určitú mieru váhania už v angličtine. Japončina teda nevytvorila bezpečnostnú brzdu tam, kde sa v správaní modelu žiadna neprejavovala. Titulok práce je zámerne provokatívny, no dáta nepodporujú návod „pýtajte sa po japonsky a model bude bezpečný“.

Prečo je to podstatné aj mimo jadrových scenárov

Jadrová vineta je hraničný test, ale problém jazykovej nekonzistentnosti sa týka aj bežnejších nasadení. Viacjazyčný asistent môže pri rovnakých faktoch rozdielne posudzovať podvod, nebezpečný návod, úverové riziko, medicínske odporúčanie alebo zásah do práv používateľa. Samostatná práca z rovnakého workshopu o bezpečnostnom hodnotení arabských modelov podľa dialektov poukazuje na príbuzný metodický problém: testovanie jedného štandardizovaného variantu jazyka nemusí zachytiť správanie vo všetkých reálnych jazykových komunitách.

Pre slovenské a európske organizácie z toho vyplýva praktická požiadavka netestovať iba preložené používateľské rozhranie. Evaluácia by mala zahŕňať slovenčinu, češtinu a ďalšie jazyky, v ktorých systém reálne komunikuje, vrátane zmiešaných promptov a odbornej terminológie. Nestačí porovnať gramatickú kvalitu odpovedí. Treba merať, či model zachováva rovnaké bezpečnostné hranice, pracuje s rovnakými dôkazmi a pri porovnateľných vstupoch nevydáva vecne protichodné odporúčania.

V citlivom prostredí by sa preto mali oddeliť minimálne štyri vrstvy kontroly: jazyk vstupu, požadovaný jazyk odôvodnenia, konečný verdikt a konkrétne argumenty použité na jeho podporu. Testy potrebujú viac opakovaní, pretože generovanie je stochastické, a mali by sa zopakovať po každej významnej zmene modelu alebo systémového promptu. Užitočné je tiež zapojiť rodených hovoriacich a doménových expertov; mechanický preklad nemusí zachovať pragmatický význam, mieru naliehavosti ani kultúrne konotácie pôvodnej vinety.

Hranice výsledku a otvorené otázky

Práca má viacero obmedzení. Skúma krátke jednorazové vinety, nie dlhodobú interakciu s nástrojmi, neistými spravodajskými údajmi a viacerými aktérmi. Výsledky sú viazané na konkrétne verzie modelov, formulácie promptov a spôsob získavania odôvodnení. Nie je jasné, či by sa efekt zachoval po aktualizácii systému, pri odlišnej teplote generovania, pri inom preklade alebo v realistickejšej sérii nadväzujúcich rozhodnutí. Jedna štúdia navyše sama osebe neposkytuje nezávislú replikáciu zistených percent.

Treba tiež striktne oddeliť výskum správania chatbotov od otázky použitia AI vo vojenských systémoch. UNIDIR dlhodobo upozorňuje, že zapájanie AI a rastúcej autonómie do zbraní prináša právne, etické, politické a strategické problémy. Touchentov experiment neukazuje, že testované komerčné modely sú zapojené do jadrového velenia, ani nehodnotí technické zabezpečenie takýchto systémov. Ukazuje užší, ale dôležitý problém: jazykovo podmienený model nie je stabilným rozhodovacím nástrojom len preto, že jeho odpovede znejú plynulo.

Najrozumnejším záverom preto nie je hľadanie „najmorálnejšieho“ jazyka, ale rozšírenie bezpečnostných evaluácií. Organizácie by mali vopred určiť neprípustnú mieru medzijazykového rozdielu, archivovať presné verzie promptov a modelov a vyžadovať ľudské rozhodnutie pri závažných následkoch. Otvorenou výskumnou otázkou zostáva, či rozdiel spôsobuje zloženie tréningových dát, následné dolaďovanie, tokenizácia, kultúrne asociácie alebo kombinácia týchto faktorov. Kým nebudú dostupné replikácie na väčšom počte jazykov a úloh, výsledok je silným varovaním pre metodiku testovania, nie univerzálnou bezpečnostnou technikou.