OpenAI mení pamäť ChatGPT: „dreaming“ má znížiť zastaraný kontext

OpenAI začína meniť jednu z najcitlivejších vrstiev ChatGPT: spôsob, akým si asistent ukladá, obnovuje a preusporadúva informácie z predchádzajúcich rozhovorov. Nový systém firma opisuje ako lepšiu syntézu pamäte, interne rámcovanú aj slovom „dreaming“. Nejde o samostatný model ani o ďalší chatbot, ale o infraštruktúrnu zmenu v tom, ako sa z rozptýlených poznámok, preferencií a projektového kontextu vytvára použiteľný obraz pre ďalšie konverzácie. Podľa oficiálneho oznámenia sa novinka najprv zavádza pre používateľov Plus a Pro v USA a neskôr má postupne prísť do ďalších krajín aj nižších plánov.

Doterajšia pamäť v ChatGPT mala jednoduchý praktický cieľ: aby sa používateľ nemusel stále predstavovať odznova a aby model vedel rešpektovať stabilné preferencie. V čase, keď sa AI asistenti posúvajú od jednorazových odpovedí k práci na dlhších úlohách, však takáto pamäť začína byť prevádzkový problém. Informácie môžu zostarnúť, môžu si navzájom odporovať alebo môžu byť príliš špecifické pre starý projekt. OpenAI preto zdôrazňuje tri kritériá: čerstvosť, kontinuitu a relevanciu. Inými slovami, systém nemá iba viac pamätať, ale má vedieť, čo už nepoužiť.

Najdôležitejšia zmena je v tom, že pamäť sa nemá chápať ako jednoduchý zoznam uložených faktov. OpenAI opisuje proces, pri ktorom sa z minulých interakcií skladá novší a škálovateľnejší súhrn používateľského kontextu. To je dôležité najmä pri miliónoch ľudí, ktorí používajú ChatGPT celé mesiace alebo roky. Bez priebežnej syntézy by sa každé ďalšie stretnutie muselo opierať o čoraz väčšiu a špinavšiu históriu. Výsledkom môže byť spomalenie, vyššie náklady alebo horšie rozhodovanie modelu o tom, čo je pre aktuálnu otázku naozaj podstatné.

Pre používateľa by sa zmena mala prejaviť menej nápadne než nový hlasový režim alebo nový model. Dobrá pamäť je úspešná práve vtedy, keď neprekáža. Asistent si má pamätať pracovný štýl, formát výstupov, obľúbené nástroje, dlhodobé projekty alebo obmedzenia, ale nemá mechanicky prenášať starú požiadavku do úplne iného kontextu. Ak sa napríklad človek pred pol rokom pripravoval na jednu rolu a dnes rieši iný projekt, systém by mal vedieť starú informáciu potlačiť alebo ju použiť len opatrne.

Z produktového pohľadu je to zároveň krok k osobnejším AI agentom. Agent, ktorý má plánovať, kontrolovať dokumenty, pracovať s e-mailom alebo nadväzovať na dlhé zadania, potrebuje viac než posledné okno konverzácie. Potrebuje stabilnú, ale upraviteľnú predstavu o používateľovi. OpenAI tým nepriamo priznáva, že dlhý kontext v samotnom modeli nestačí. Aj veľmi veľké kontextové okno rieši iba to, čo sa doň práve vloží. Pamäťová vrstva rozhoduje, čo sa oplatí vložiť a čo nechať bokom.

S tým prichádzajú aj riziká. Pamäť je citlivá funkcia, pretože môže obsahovať pracovné postupy, osobné preferencie, zdravotné či rodinné informácie alebo obchodné detaily. OpenAI v oznámení kladie dôraz na hodnotenie správnosti a aktuálnosti, no pre firmy a regulátorov bude rovnako dôležité, ako sa takýto systém kontroluje, vypína, exportuje alebo čistí. Čím viac sa AI asistent približuje k dlhodobému spolupracovníkovi, tým menej stačí všeobecná veta, že „si pamätá kontext“. Potrebná je zrozumiteľná správa pamäte.

Technicky je zaujímavé aj samotné slovo „dreaming“. V tomto prípade ho netreba čítať ako ľudské snívanie, ale ako metaforu pre spracovanie a preusporiadanie skúseností mimo konkrétnej odpovede. Podobný princíp poznajú aj iné systémy, ktoré si po skončení úlohy vytvárajú kompaktné poznámky, zhrnutia alebo vektorové reprezentácie. Rozdiel je v mierke: OpenAI rieši pamäť pre masový spotrebiteľský produkt, nie iba pre interný prototyp alebo podnikovú znalostnú bázu.

Praktický dopad môže byť výrazný hlavne pre ľudí, ktorí ChatGPT používajú ako pracovné prostredie. Lepšia pamäť môže zrýchliť zadávanie, znížiť počet opravujúcich promptov a zlepšiť konzistentnosť výstupov. Zároveň však zvýši očakávanie, že používateľ bude vedieť presne určiť, čo sa má zachovať a čo zabudnúť. Ak sa táto hranica nepodarí, personalizácia sa môže zmeniť na zdroj chýb: model bude sebavedomo vychádzať z niečoho, čo už neplatí.

Pre širší trh je správa dôležitá ešte z jedného dôvodu. Boj o AI asistenta sa presúva z odpovedania na otázky k vlastníctvu dlhodobého pracovného kontextu. Ten, kto vie bezpečne a užitočne spravovať pamäť, môže používateľovi ponúknuť výrazne vyššiu hodnotu než model, ktorý je len o niečo lepší v benchmarku. OpenAI tým ukazuje, že ďalšia fáza produktovej AI nebude iba o väčších modeloch, ale aj o menej viditeľných systémoch, ktoré rozhodujú, čo si model vôbec má pamätať.