OpenAI vysvetľuje, prečo sa v GPT-5 začali množiť „goblini“

Keď sa pri modeloch objaví chyba, väčšina tímov čaká niečo merateľné a rýchlo viditeľné: pád benchmarkov, zhoršenie latencie alebo nezvyčajné správanie po konkrétnej zmene v tréningu. OpenAI však teraz zverejnilo oveľa subtílnejší príklad. Pri novších generáciách GPT sa postupne začali objavovať metafory s goblinmi, gremlinmi a podobnými bytosťami. Samostatne to mohlo pôsobiť ako nevinný štylistický detail, no v súčte išlo o jasný signál, že model si buduje zvláštny opakujúci sa zvyk, ktorý nevznikol náhodou, ale ako vedľajší dôsledok optimalizácie správania.

Podľa OpenAI sa koreň problému nenašiel v jednom dramatickom zásahu do základného modelu, ale v sérii malých incentív. Dôležitú úlohu zohralo ladenie pre funkciu prispôsobovania osobnosti v ChatGPT, konkrétne pre takzvanú „Nerdy“ personu. V systéme odmien sa neúmyselne zvýhodňovali metafory s bytosťami a kreatívne, mierne teatrálne obraty. Model si tak osvojil vzor, ktorý sa spočiatku zdal zábavný a neškodný. Neskôr sa však ukázalo, že ak sa takýto vzor dostane do tréningovej a hodnotiacej slučky opakovane, začne sa replikovať naprieč ďalšími iteráciami a prestane byť iba kuriozitou.

Pre bežného používateľa môže celý príbeh znieť úsmevne, no pre firmy je dôležitý z oveľa vážnejšieho dôvodu. Nasadenie modelov do produkcie dnes stojí aj na konzistentnom tóne, predvídateľnosti a kontrole nad tým, ako model vysvetľuje odpovede. Ak sa do výstupov vkradne opakujúci sa štýlový tik, môže to v zákazníckej podpore, dokumentácii, programovaní alebo analytických workflow pôsobiť rušivo. Ešte dôležitejšie je, že takáto zmena nemusí hneď znížiť presnosť odpovedí, a preto ju tradičné evaly zachytia neskoro. Práve to z tejto epizódy robí zaujímavý signál pre celý trh okolo post-trainingu.

OpenAI v texte pomerne otvorene ukazuje, že moderné správanie modelov už nevzniká iba z jedného veľkého predtréningu a následného doladenia na bezpečnosť. Medzi výsledkom modelu a zámerom tímu dnes stojí množstvo jemných preferenčných mechanizmov: od reinforcement learningu, cez personalizačné režimy, až po výber dát z interného hodnotenia. Každá takáto zložka môže pridať drobný tlak na štýl alebo obsah odpovede. Samotné modely sú navyše dosť silné na to, aby si z týchto drobných tlakových bodov vytvorili trvalé návyky. Z pohľadu vývoja produktov to znamená, že „osobnosť“ už nie je kozmetická vrstva, ale súčasť jadra kvality.

Zverejnenie je dôležité aj preto, že otvára tému merania charakteru modelu mimo klasických testov správnosti. Trh sa dnes sústreďuje najmä na reasoning, latenciu a cenu tokenov, no pre reálne nasadenie je čoraz podstatnejšie aj to, aké rétorické zvyky si model nesie do odpovedí. V interných nástrojoch to môže byť len estetická chyba, no v regulovaných alebo vysoko citlivých prostrediach sa aj drobný posun v štýle môže podpísať pod dôveru používateľov. Model, ktorý sa nečakane správa ako rozprávač s obľubou v bytostiach z fantasy sveta, môže pri rovnakých faktoch znieť menej profesionálne než konkurencia.

Praktická lekcia pre produktové tímy je pomerne tvrdá. Nestačí sledovať iba to, či model odpovie správne, ale aj to, či sa jeho správanie postupne neposúva smerom, ktorý nikto explicitne nechcel. Znamená to viac dlhodobého monitoringu, jemnejšie evaly zamerané na štýl a menšiu vieru v to, že personalizácia sa dá od jadrového správania úplne oddeliť. V čase, keď sa veľké modely čoraz častejšie prispôsobujú používateľom, značkám a konkrétnym profesiám, sa podobné vedľajšie efekty môžu objavovať častejšie, nielen vo forme humoru, ale aj v spôsobe argumentácie, miere istoty či sklone k prezdobenej reči.

Zaujímavý je aj spôsob, akým OpenAI problém opisuje. Firma netvrdí, že objavila univerzálne riešenie, skôr ukazuje internú forenznú prácu: sledovanie, odkiaľ sa zvyk vzal, kde sa zosilňoval a ako sa dostal do ďalších generácií modelu. To je cenný signál pre celý ekosystém, pretože najväčší hráči čoraz častejšie narážajú na chyby, ktoré nie sú katastrofické, ale kumulatívne. V praxi môžu byť práve takéto drobné odchýlky jedným z hlavných dôvodov, prečo sa správanie modelov v produkcii postupne rozchádza s tým, čo si tímy mysleli po laboratórnych testoch.

Príbeh s „goblinmi“ preto nie je len bizarnou poznámkou z interného ladenia GPT-5. Je to celkom presný obraz novej fázy vývoja modelov, v ktorej budú firmy bojovať nielen o lepšie benchmarky, ale aj o jemnú kontrolu nad charakterom systémov. S rastúcou personalizáciou a stále zložitejším post-trainingom sa bude kvalita modelu merať aj tým, či si vie udržať stabilný profesionálny tón bez nečakaných manýr. Pre používateľov je to možno kuriozita. Pre výrobcov modelov je to pripomienka, že aj malá odmena navyše môže časom zmeniť identitu celého produktu.