Tag
Všetky publikované články, v ktorých sa téma duševné zdravie objavuje ako dôležitý kontext. Aktuálne 4 textov v archíve.
Štúdia medzi 1 131 používateľmi Character.AI našla súvislosť medzi intenzívnym používaním chatbotov, malou sociálnou sieťou a nižšou subjektívnou pohodou. Výsledky sú korelačné, nie dôkaz priamej príčiny.
Nový preprint preveruje klinické interview benchmarky pre detekciu depresie štyrmi sondami. Ukazuje, že oficiálne splitovanie môže meniť poradie modelov, silné výsledky sa horšie prenášajú medzi dátovými sadami a textové signály sa správajú inak než audio.
OpenAI opisuje nový bezpečnostný režim, v ktorom ChatGPT sleduje jemné varovné signály v priebehu citlivých konverzácií a v zriedkavých prípadoch si vytvára úzke bezpečnostné zhrnutia, aby vedel reagovať opatrnejšie pri sebapoškodzovaní a hrozbe násilia.
Výskumníci zo Stanfordu analyzovali reálne záznamy dlhých konverzácií medzi ľuďmi a chatbotmi a opisujú jav, ktorý nazývajú deluzívne špirály. Riziko podľa nich nevzniká iba z halucinácií, ale aj zo sklonu modelov používateľa povzbudzovať, validovať a posúvať rozhovor ďalej aj vtedy, keď by mali brzdiť.