Preprint testuje LLM pipeline ako prípravu pred ľudským vyjednávaním

Nový preprint na arXiv sa venuje oblasti, ktorá je pre generatívnu AI citlivejšia než bežné kancelárske asistenty: podpore prípravy pred ľudským vyjednávaním. Autori predstavujú automatizovaného mediátora pre fázu pre-mediácie, teda prípravy pred priamym rokovaním strán. Systém nie je navrhnutý ako autonómny rozhodca ani ako náhrada profesionálneho mediátora. Ide o štruktúrovanú pipeline modulov veľkých jazykových modelov, ktorá má strane pomôcť formulovať preferencie, kriticky posúdiť odpovede a vytvoriť zhrnutie pred samotným vyjednávaním.

Pre-mediácia je v praxi dôležitá, no často sa vynecháva, pretože vyžaduje čas, peniaze a prístup k vyškolenému mediátorovi. Profesionálny mediátor pred rokovaním pomáha strane pochopiť vlastné priority, odhadnúť záujmy druhej strany a pripraviť sa na možnosti dohody. Ak sa tento krok preskočí, rokovanie sa ľahšie zmení na výmenu pozícií namiesto hľadania spoločného riešenia. Autori preto skúmajú, či by štruktúrovaný LLM systém vedel poskytnúť škálovateľnú a nízkonákladovú prípravu aspoň pre niektoré typy integračného vyjednávania.

Dôležité je, že autori nepoužívajú jeden veľký prompt, ktorý má zvládnuť všetko naraz. Pipeline rozdeľuje úlohu na moduly pre dialóg, predikciu preferencií, kritiku odpovedí a štruktúrované zhrnutie. Takéto rozdelenie má obmedziť typické slabiny monolitického promptovania: zamiešanie úloh, nekonzistentné hodnotenie a ťažko kontrolovateľné výstupy. Komponenty sú v texte označené ako agenti podľa bežnej terminológie LLM systémov, no autori výslovne upozorňujú, že nejde o autonómne entity, ktoré by medzi sebou voľne vyjednávali. Výstupy sa posúvajú v pevnom poradí.

Empirická časť pozostáva z dvoch kontrolovaných experimentov s ľudskými účastníkmi. Systém sa porovnával s profesionálnymi ľudskými mediátormi v scenári viacbodového vyjednávania. Podľa abstraktu dosiahol automatizovaný mediátor v krátkodobých sebahodnotených ukazovateľoch broadly porovnateľné výsledky s ľudskými mediátormi, napríklad pri dôvere v mediátora a sebadôvere pri hľadaní vzájomne výhodnej dohody. Pri úlohe odhadu preferencií dosiahol systém nižšiu chybu, autori uvádzajú 36 percent nižšie RMSE v danom scenári a nastavení promptov.

Zaujímavý je aj druhý experiment, ktorý sa zameral na nadmerné pritakávanie. LLM systémy v citlivých konverzáciách môžu používateľa príliš potvrdzovať namiesto toho, aby ho vecne pripravili na konflikt alebo kompromis. Autori uvádzajú, že cielené úpravy promptov znížili nadmerné afirmačné vzorce z 36,6 percenta na 16,8 percenta, teda na úroveň porovnateľnú s ľudským mediátorským baseline. To je dobrý príklad toho, že pri human-centered aplikáciách nestačí merať iba spokojnosť používateľa; príliš príjemný výstup môže byť horší, ak oslabuje realistickú prípravu.

Pre prax je najdôležitejšie, že systém je jednopartajný. Pomáha jednej strane pripraviť sa pred rokovaním a zrkadlí spôsob, akým ľudskí mediátori často vedú oddelené pre-mediácie. To znižuje riziko, že model bude priamo zasahovať do živého konfliktu medzi stranami. Zároveň to však otvára otázku férovosti: ak podobný nástroj použije iba jedna strana, môže získať informačnú výhodu. Ak ho použijú obe strany, treba riešiť, či sú výstupy konzistentné, nestranné a prispôsobené rovnakým pravidlám.

Treba zdôrazniť limity. Ide o preprint s kontrolovanými scenármi, nie o dôkaz bezpečnosti v reálnych rozvodoch, pracovných konfliktoch, obchodných sporoch alebo komunitnej mediácii. Skutočné konflikty zahŕňajú emócie, mocenskú nerovnováhu, právne následky a často aj traumu. LLM pipeline môže pomôcť štruktúrovať prípravu, ale nesmie predstierať právnu radu, klinickú podporu ani autoritatívne rozhodovanie. Nasadenie by vyžadovalo jasné hranice, ochranu dát, možnosť ľudskej kontroly a mechanizmy na odhalenie škodlivých rád.

Výskum je napriek tomu cenný, pretože ukazuje realistickejší smer než univerzálny „AI mediátor“. Namiesto nahradenia človeka sa skúma úzka, prípravná a dobre štruktúrovaná fáza, kde môže model znižovať náklady a rozširovať dostupnosť podpory. Ak sa podobné systémy budú vyvíjať opatrne, môžu pomôcť ľuďom prísť do rokovania lepšie pripravení a s jasnejším obrazom vlastných priorít. Rovnako však platí, že pri konfliktoch medzi ľuďmi je dôvera, zodpovednosť a kontext dôležitejší než samotná jazyková plynulosť modelu.