PayPal tvrdí, že špekulatívne dekódovanie zrýchlilo jeho obchodného agenta bez straty kvality
Nová práca na arXive opisuje, ako PayPal testoval špekulatívne dekódovanie EAGLE3 nad doladeným modelom Nemotron. Pri vhodnom nastavení dosiahol citeľne vyššiu priepustnosť aj nižšiu latenciu a naznačuje, že časť agentických workloadov môže bežať lacnejšie bez ďalšieho hardvéru.