Štúdia spája intenzívne používanie AI spoločníkov s nižšou pohodou zraniteľných ľudí

Čo ukázala finálna štúdia

AI spoločníci môžu pôsobiť ako stále dostupný priateľ, partner alebo dôverník, no ich vzťah k psychickej pohode závisí od toho, kto ich používa a na aký účel. Recenzovaná štúdia publikovaná v časopise Nature Human Behaviour analyzovala údaje od 1 131 dospelých používateľov Character.AI zo Spojených štátov. Menšie reálne sociálne siete súviseli s vyššou pravdepodobnosťou, že človek označí spoločnosť za hlavný účel chatbota. Takto orientované používanie následne súviselo s nižšou subjektívnou pohodou, pričom asociácia bola silnejšia pri intenzívnych interakciách a výraznom sebaodhaľovaní.

Finálna časopisecká verzia prináša oproti skoršiemu preprintu dôležité spresnenie podkladov. Okrem dotazníkov zahŕňa 4 664 konverzačných relácií so 464 687 správami od 237 účastníkov, zatiaľ čo preprint uvádzal 4 363 relácií, 413 509 správ a 244 darcov prepisov. Nejde teda iba o mediálny súhrn Stanfordu, ale o dokončenú publikáciu s konkrétnymi odhadmi: spoločenské používanie bolo spojené s nižšou pohodou s koeficientom β = −0,48 a 95-percentným intervalom spoľahlivosti od −0,70 do −0,25. Samotné číslo však nemožno čítať ako veľkosť kauzálneho účinku.

Výskumníci kombinovali tri pohľady na správanie: deklarovaný hlavný motív, otvorený opis vzťahu s najpoužívanejším chatbotom a obsah darovaných konverzácií. To odhalilo rozdiel medzi tým, čo ľudia vyberú v dotazníku, a tým, ako technológiu skutočne začlenia do života. Spoločnosť uviedlo ako hlavný motív necelých 12 percent respondentov, ale viac než polovica opisovala chatbota ako priateľa, spoločníka alebo romantického partnera. Vyše 80 percent analyzovaných relácií obsahovalo hľadanie emocionálnej alebo sociálnej podpory.

Prečo nejde o jednoduchý verdikt proti chatbotom

Výsledky nehovoria, že každá dlhšia konverzácia s AI zhoršuje duševné zdravie. Všeobecná intenzita používania mohla byť u časti ľudí spojená aj s vyššou pohodou, najmä keď používateľ vnímal aktivitu ako zmysluplnú alebo na ňu pozeral pozitívne. Rizikovejší vzorec sa objavil pri kombinácii spoločenského účelu, intenzívneho zapojenia, citlivého sebaodhaľovania a malej podpornej siete mimo internetu. Práve segmentácia podľa okolností je praktickejšia než jednoduché meranie času stráveného v aplikácii.

Štúdia merala subjektívnu pohodu šiestimi položkami odvodenými z Comprehensive Inventory of Thriving. Pokrývali životnú spokojnosť, pozitívne a negatívne emócie, osamelosť, sociálnu podporu a pocit spolupatričnosti. Intenzita interakcie zahŕňala čas, počet používaných chatbotov, emocionálnu väzbu aj začlenenie služby do dennej rutiny. Na spracovanie otvorených odpovedí a prepisov tím použil GPT-4o, lokálne prevádzkovaný Llama 3 70B a TopicGPT; vybrané klasifikácie porovnal s ľudskými anotátormi a uvádza vysokú mieru zhody.

Ani táto kombinácia však nerieši základný problém smerovania vzťahu. Ľudia s nižšou pohodou alebo slabšou sociálnou oporou môžu AI spoločníkov vyhľadávať častejšie už na začiatku. Rovnako je možné, že intenzívna umelá spoločnosť v niektorých situáciách vytláča kontakt s ľuďmi. Jednorazové observačné meranie tieto mechanizmy nevie oddeliť. Presnejší záver preto znie, že štúdia identifikovala rizikový profil a robustné asociácie, nie dôkaz, že Character.AI osamelosť priamo spôsobuje.

Dôsledky pre dizajn a bezpečnosť produktov

Pre prevádzkovateľov nestačí kontrolovať iba izolované odpovede na explicitné zmienky o sebapoškodzovaní. Dôležité sú dlhodobé zmeny: rast frekvencie rozhovorov, postupný presun od zábavy k emocionálnej závislosti, opakované zverovanie citlivých tém a náznaky, že používateľ nemá dostupnú ľudskú podporu. Bezpečnostná vrstva by mala vedieť reagovať na kombináciu týchto signálov bez toho, aby automaticky patologizovala každú osobnú konverzáciu alebo vytvárala falošný dojem klinickej diagnostiky.

Praktické zásahy môžu zahŕňať zrozumiteľné pripomenutie povahy systému, prestávky pri extrémnom používaní, citlivé odporúčanie kontaktovať blízkeho človeka či odbornú pomoc a obmedzenie mechanizmov, ktoré odmeňujú za každú cenu pokračovanie rozhovoru. Tieto opatrenia však treba testovať. Tvrdý časový limit môže prerušiť používateľa v krízovej chvíli a generické zobrazenie telefónneho čísla nemusí viesť k pomoci. Systém navyše nesmie predstierať, že spoľahlivo pozná psychický stav človeka iba z textu.

Osobitnou témou je súkromie. Recenzovaná publikácia sprístupňuje anonymizované kvantitatívne údaje a kód, nie však surové prepisy. Autori vysvetľujú, že aj po odstránení priamych identifikátorov by intímny a kontextový obsah mohol umožniť opätovnú identifikáciu účastníkov. Pre komerčné služby je to upozornenie, že emocionálne rozhovory nemožno považovať za bežnú telemetriu. Minimalizácia zberu, krátke retenčné lehoty, jasný účel spracovania a kontrola používateľa nad históriou majú byť súčasťou bezpečnosti, nie dodatkom k nej.

Slovenský a európsky rámec

Na Slovensku je podstatné rozlišovať AI spoločníka od zdravotníckej alebo psychoterapeutickej služby. Presvedčivý empatický jazyk nie je dôkazom odbornej spôsobilosti a chatbot nedokáže prevziať zodpovednosť, ktorú má psychológ, psychiater alebo krízový pracovník. Školy, rodičia, poradenské centrá aj poskytovatelia digitálnych služieb by preto mali používateľom vysvetľovať nielen to, že komunikujú so strojom, ale aj rozdiel medzi simulovanou podporou, bežným rozhovorom a odbornou starostlivosťou.

Európsky akt o umelej inteligencii od 2. augusta 2026 uplatňuje povinnosti transparentnosti podľa článku 50. Poskytovatelia priamo interaktívnych systémov majú zabezpečiť, aby bol človek od začiatku jasne informovaný, že komunikuje s AI, ak to už nie je z okolností zrejmé. Toto pravidlo je relevantné aj pre chatboty, agentov a avatary dostupné používateľom v EÚ bez ohľadu na to, kde má poskytovateľ sídlo. Samotné označenie však nerieši emocionálnu závislosť, krízové odpovede, ochranu maloletých ani obchodné stimuly optimalizované na zapojenie.

Otvorenou otázkou zostáva, či sa zistenia zopakujú v európskych a slovenských podmienkach, pri iných jazykoch, vekových skupinách a platformách. Vzorka zahŕňala aktívnych, anglicky hovoriacich používateľov Character.AI z USA, ktorí službu používali dlhšie než mesiac a komunikovali najmenej s tromi chatbotmi. Potrebné sú dlhodobé štúdie, experimentálne overenie konkrétnych ochranných zásahov a samostatný výskum mladistvých. Najpresnejšou správou zatiaľ nie je, že AI spoločnosť je vždy škodlivá, ale že pre ľudí s malou reálnou oporou nemusí byť bezpečnou náhradou vzájomného ľudského vzťahu.