Apple upozorňuje, že deväť LLM sudcov môže mať hodnotu iba dvoch hlasov

Apple Machine Learning Research zverejnil prácu s príznačným názvom „Nine Judges, Two Effective Votes“, ktorá skúma slabé miesto populárnej praxe LLM-as-a-judge. Mnohé tímy dnes hodnotia odpovede modelov tak, že nechajú hlasovať viacero veľkých jazykových modelov a očakávajú, že panel bude spoľahlivejší než jeden sudca. Apple však ukazuje, že ak modely robia podobné chyby na rovnakých príkladoch, formálne väčší panel neprináša toľko nezávislej informácie, ako by naznačoval počet hlasov.

Výskumníci testovali panel deviatich frontier modelov zo siedmich modelových rodín na troch úlohách prirodzeného jazykového usudzovania, kde sú dostupné aj ľudské anotácie. Podľa zhrnutia práce panel deviatich sudcov poskytoval približne len ekvivalent dvoch nezávislých hlasov. Približne tri štvrtiny očakávanej nezávislosti sa stratili preto, že modely zlyhávali podobným spôsobom na rovnakých položkách. To je zásadné upozornenie pre každého, kto berie väčšinové hlasovanie modelov ako lacnú náhradu ľudského auditu.

Kľúčový pojem je korelácia chýb. Ak sa pýtame deviatich nezávislých expertov, môžeme dúfať, že ich omyly sa čiastočne vyrušia. Ak sa však pýtame deviatich systémov trénovaných na podobných dátach, podobnými optimalizačnými postupmi a hodnotených rovnakými benchmarkmi, ich chyby môžu byť synchronizované. Vtedy väčšinové hlasovanie iba posilní spoločnú slepú škvrnu. Panel pôsobí robustne, ale informačne sa správa ako oveľa menší počet skutočne nezávislých rozhodnutí.

Praktický dopad je veľký najmä pre eval tímy. LLM sudcovia sa používajú pri porovnávaní chatbotov, ladení promptov, hodnotení sumarizácií, RAG systémov alebo agentických pracovných postupov. Sú lacnejší a rýchlejší než rozsiahle ľudské anotácie, preto sa stali súčasťou mnohých interných testovacích slučiek. Apple však naznačuje, že samotné pridanie ďalších modelov do panelu nemusí vyriešiť problém spoľahlivosti, ak nevznikne skutočná diverzita chýb.

Z toho vyplýva, že dôležitá nie je iba veľkosť panelu, ale jeho efektívna nezávislosť. Organizácie by mali merať, ako často sa jednotliví sudcovia mýlia na rovnakých prípadoch, nie len agregovať ich skóre. Ak dvaja rôzni dodávatelia zdieľajú podobné tréningové signály alebo hodnotiace preferencie, ich hlasovanie môže vyzerať pestro iba na papieri. Užitočnejšie je kombinovať modely, metriky, pravidlové kontroly a cielené ľudské hodnotenie tak, aby sa chyby navzájom odhaľovali.

Pre vývojársku prax je dôležité aj to, že panel LLM sudcov môže preceňovať kvalitu systémov práve tam, kde sú odpovede najneistejšie. Ak všetky modely preferujú plynulú, sebavedomú a štýlovo presvedčivú odpoveď, môžu spoločne zlyhať pri jemných faktických rozdieloch, nejednoznačnosti alebo pri úlohách, kde ľudia legitímne nesúhlasia. V takýchto prípadoch je väčšinový výsledok menej dôkazom pravdy a viac meraním zdieľaného vkusu modelov.

Apple tým nepriamo nadväzuje na širšiu diskusiu o tom, ako hodnotiť AI systémy, ktoré sa samy používajú na hodnotenie ďalších AI systémov. Eval infraštruktúra sa stáva súčasťou produkčného cyklu: modely generujú dáta, hodnotia odpovede, vyberajú víťazné verzie a niekedy riadia ďalšie učenie. Ak je hodnotiaci signál zaujatý alebo korelovane chybný, chyba sa môže šíriť späť do vývoja a vytvoriť uzavretú slučku sebapotvrdzovania.

Správa je relevantná aj pre verejnú správu a regulované odvetvia. Ak firma predloží audit, v ktorom „nezávislý panel“ modelov schválil správanie systému, otázka musí znieť, ako bola nezávislosť meraná. Nestačí uviesť počet modelov a ich značky. Treba vedieť, na akých dátach boli porovnané, kde sa zhodli nesprávne, akú hodnotu majú ľudské referencie a či panel naozaj znižuje riziko oproti jednému sudcovi.

Najpraktickejšie odporúčanie z práce je teda opatrnosť pri interpretácii hlasovania. Panely LLM sudcov môžu byť užitočné ako rýchly filter, no nemali by sa prezentovať ako automatická záruka objektivity. Kvalitné hodnotenie bude musieť kombinovať meranie korelácie chýb, kalibráciu na ľudských anotáciách, testovanie neistoty a cielené kontroly na príkladoch, kde modely zlyhávajú spoločne. Deväť hlasov môže vyzerať presvedčivo; podľa Apple však môže v skutočnosti niesť len zlomok očakávanej nezávislej informácie.