PydanticAI 2.24 opravuje nastavenia modelov, streamovanie Bedrocku aj integráciu Google

Pydantic vydal PydanticAI 2.24.0, aktualizáciu agentického frameworku zameranú najmä na opravy integrácií s poskytovateľmi modelov a spracovanie okrajových stavov. Vydanie neprináša jednu veľkú novú funkciu, ale odstraňuje viacero problémov, ktoré môžu v produkcii viesť k tichému ignorovaniu parametrov, odlišnému správaniu medzi backendmi alebo chybám pri prehrávaní streamovaných udalostí. Pre knižnicu prepájajúcu mnoho API je takýto typ údržby prakticky významný.

Integrácia Google po novom zachová explicitné nastavenie timeout=0. Pred opravou mohla nulová hodnota zmiznúť pri spracovaní konfigurácie, pretože program ju vyhodnotil ako nepravdivú podobne ako chýbajúci parameter. Ide o typickú chybu vznikajúcu pri zámene kontroly „hodnota existuje“ s kontrolou „hodnota je pravdivá“. V agentických aplikáciách môže aj malá zmena timeoutu ovplyvniť spôsob rušenia požiadaviek, testy alebo vlastnú logiku klienta.

PydanticAI zároveň filtruje nedostupné názvy z googleovského allowed_function_names. Zoznam povolených funkcií má obmedziť, ktoré nástroje môže model zavolať, musí však zodpovedať nástrojom skutočne poslaným poskytovateľovi. Ak obsahuje názov, ktorý v danej požiadavke nie je dostupný, API môže reagovať chybou alebo nekonzistentne. Oprava má zosúladiť deklarované povolenia s reálnou sadou funkcií a znižuje riziko, že požiadavka zlyhá ešte pred samotným rozhodovaním modelu.

Pri modeloch OpenAI framework po novom zachová nastavenia vlastnené volajúcim. To je dôležité v aplikáciách, ktoré opakovane používajú jeden konfiguračný objekt alebo nad ním stavajú vlastnú vrstvu. Knižnica by nemala vstupnú konfiguráciu meniť spôsobom, ktorý ovplyvní ďalšie volanie. Takéto vedľajšie účinky sa môžu prejaviť až pri súbežnosti alebo pri opakovanom použití agenta, preto bývajú ťažšie reprodukovateľné než jednoduchá chyba validácie.

Viacero zmien sa týka Amazon Bedrock. Framework teraz odosiela aj top_p=0.0, namiesto toho, aby nulovú hodnotu zahodil, a pri streamoch rešpektuje voľbu ignore_streamed_leading_whitespace. Prvá oprava znovu rieši rozdiel medzi platnou nulou a neprítomnou hodnotou. Druhá má zabezpečiť, že nastavenie spracovania počiatočných medzier funguje rovnako aj pri postupne prijímanom texte. Pre používateľa to znamená predvídateľnejšie formátovanie a väčšiu zhodu medzi poskytovateľmi.

Aktualizácia rozširuje rozpoznávanie názvov modelov. Kimi-k2-thinking a herokuovský kimi-k2-5 sa majú správne identifikovať ako reasoning modely, zatiaľ čo názvy groq/compound sa majú rozpoznať v integrácii Groq. Pri OpenRouteri framework vyvolá používateľskú chybu, ak názov modelu neobsahuje prefix poskytovateľa. Skorá a zrozumiteľná chyba je bezpečnejšia než odoslanie nejednoznačného názvu a následná ťažko čitateľná odpoveď zo vzdialeného API.

Oprava mechanizmu wait_retry_after chráni pred zápornými celočíselnými hodnotami hlavičky Retry-After. Externá služba alebo sprostredkovateľ môže vrátiť neštandardnú hodnotu a klient by sa nemal pokúsiť čakať záporný čas ani spadnúť v pomocnej logike. Odolnosť voči chybným odpovediam je pri agentoch dôležitá, pretože jedna úloha môže vykonať množstvo modelových a nástrojových volaní. Malá chyba v opakovaní požiadaviek tak môže prerušiť celý dlhší pracovný postup.

V oblasti AG-UI sa prichádzajúci obsah novší než nainštalovaná verzia protokolu po novom preskočí namiesto odpovede HTTP 422. Zmena zvyšuje doprednú kompatibilitu medzi klientom a serverom, no zároveň znamená, že neznámy obsah nemusí byť spracovaný. Prevádzkovatelia by preto mali sledovať logy a verzie závislostí, aby preskakovanie udalostí nezakrývalo dlhodobú nekompatibilitu. Knižnica tiež zachová indexy častí streamu pri prehrávaní cez apply_event.

Schéma Vercel AI dostala sprísnenie typu ToolApprovalResponded.approved na StrictBool. Hodnoty ako reťazec „true“ alebo číslo 1 sa tak nemajú automaticky pretypovať na pravdivú hodnotu. Pri obyčajných formulároch môže byť benevolentná konverzia pohodlná, no schvaľovanie nástrojov je bezpečnostne citlivé. Prísny boolean pomáha zabrániť tomu, aby nepresný alebo chybný vstup neúmyselne povolil operáciu, ktorú mal systém odmietnuť.

Vydanie 2.24.0 ukazuje, aké náročné je udržať jednotnú abstrakciu nad rýchlo sa meniacimi modelovými API. Rovnaký parameter môže mať odlišné obmedzenia a každá integrácia pridáva vlastné názvy modelov, streamované udalosti či chybové stavy. Používatelia by mali aktualizáciu najprv preveriť v testovacom prostredí, najmä ak sa spoliehajú na presný formát streamu alebo vlastné obsluhovanie chýb. Ide prevažne o opravy kompatibility, no niektoré z nich zámerne menia reakciu na neplatný vstup.