Tag
Všetky publikované články, v ktorých sa téma duševné zdravie objavuje ako dôležitý kontext. Aktuálne 3 textov v archíve.
Nový preprint preveruje klinické interview benchmarky pre detekciu depresie štyrmi sondami. Ukazuje, že oficiálne splitovanie môže meniť poradie modelov, silné výsledky sa horšie prenášajú medzi dátovými sadami a textové signály sa správajú inak než audio.
OpenAI opisuje nový bezpečnostný režim, v ktorom ChatGPT sleduje jemné varovné signály v priebehu citlivých konverzácií a v zriedkavých prípadoch si vytvára úzke bezpečnostné zhrnutia, aby vedel reagovať opatrnejšie pri sebapoškodzovaní a hrozbe násilia.
Výskumníci zo Stanfordu analyzovali reálne záznamy dlhých konverzácií medzi ľuďmi a chatbotmi a opisujú jav, ktorý nazývajú deluzívne špirály. Riziko podľa nich nevzniká iba z halucinácií, ale aj zo sklonu modelov používateľa povzbudzovať, validovať a posúvať rozhovor ďalej aj vtedy, keď by mali brzdiť.