PydanticAI 2.18 prepája agentov s Bedrock Mantle a rozširuje riadenie nástrojov

PydanticAI vydal verziu 2.18.0, ktorá rozširuje agentický framework o integráciu s novým rozhraním Amazon Bedrock Mantle a upravuje prácu s nástrojmi naprieč viacerými poskytovateľmi modelov. Vydanie bolo zverejnené 25. júla a nadväzuje na verziu 2.17.0 z predchádzajúceho dňa. Rozsah zmien nie je veľký počtom položiek, ale zasahuje do dôležitej vrstvy produkčných agentov: výberu poskytovateľa, identity volaní nástrojov, webového prístupu a spracovania chýb počas streamovania.

Najvýraznejšou novinkou je BedrockMantleProvider. Ide o adaptér pre rozhranie Bedrock Mantle, cez ktoré AWS sprístupňuje modely s kompatibilnými API a vlastnou autentifikáciou, kvótami a prevádzkovými kontrolami. Pre používateľov PydanticAI to znamená možnosť zapojiť modely dostupné cez Mantle do rovnakého programového rámca ako ostatných poskytovateľov bez ručného písania celej integračnej vrstvy. Praktická hodnota spočíva najmä v jednotnom definovaní agentov, typovaných výstupoch, nástrojoch a telemetrii pri zachovaní podnikového riadenia v AWS.

Súčasťou tej istej zmeny je normalizácia identifikátorov volaní nástrojov viazaných na jednu odpoveď. Identifikátor spája požiadavku modelu na použitie funkcie s výsledkom, ktorý aplikácia vráti. Ak rôzni poskytovatelia používajú odlišný formát alebo platnosť identifikátora, pri prenose histórie medzi modelmi môže vzniknúť chyba, zamenený výsledok alebo neplatná následná požiadavka. Normalizácia je preto nenápadná, no podstatná pre agentov, ktorí prepínajú modely, opakujú nedokončený krok alebo ukladajú priebeh úlohy na neskoršie obnovenie.

Verzia 2.18 pridáva podporu AdvisorTool pre Anthropic a OpenRouter. Poradenský nástroj možno chápať ako mechanizmus, ktorým model požiada o dodatočnú odbornú radu alebo pomocný výpočet bez toho, aby hlavný agent stratil vlastníctvo úlohy. V praxi môže ísť o delegovanie úzkej analýzy inému modelu, špecializovanej službe alebo kontrolnému komponentu. Podpora vo viacerých backendových službách znižuje závislosť aplikačnej logiky od jedného poskytovateľa, no tímy musia stále jasne určiť, aké dáta môže poradca vidieť a ako sa jeho odpoveď overí.

Ďalšia zmena sa týka WebSearchTool pri OpenAI Responses API. Nová voľba external_web_access umožňuje explicitnejšie riadiť prístup nástroja k externému webu. Takéto nastavenie je dôležité v prostrediach, kde agent smie pracovať iba s povolenými internými zdrojmi alebo kde sa každý odchod na verejnú sieť musí auditovať. Samotný prepínač nenahrádza sieťovú izoláciu ani pravidlá organizácie, poskytuje však aplikácii zrozumiteľný bod, v ktorom možno správanie nástroja deklarovať a testovať.

GoogleCloudProvider dostal typové hodnoty us a eu pre viacregionálne umiestnenia. Namiesto viazania konfigurácie iba na konkrétny región môže aplikácia vyjadriť širšiu geografickú oblasť podporovanú službou Google Cloud. Pre medzinárodné nasadenia to uľahčuje konfiguráciu, no nie je to automatická záruka dátovej rezidencie pre každú súvisiacu službu. Prevádzkovateľ musí overiť, kde sa spracúvajú vstupy, telemetria, vyrovnávacia pamäť a prípadné dáta od externých nástrojov.

Jediná uvedená oprava mapuje odložené chyby knižnice google-genai počas streamovania do chybového modelu PydanticAI. Pri streamovanej odpovedi sa problém nemusí objaviť pri vytvorení požiadavky, ale až po prijatí časti tokenov. Bez správneho prekladu môže aplikácia dostať nejednotnú výnimku, nesprávne označiť beh za úspešný alebo vynechať mechanizmus opakovania. Oprava by mala zjednotiť správanie s ostatnými modelmi a pomôcť telemetrii presnejšie odlíšiť zlyhanie poskytovateľa od chyby validačnej alebo aplikačnej vrstvy.

Pre produkčné tímy je dôležité, že nové integrácie zväčšujú plochu, ktorú treba testovať. Nestačí overiť, či agent odpovie na jednoduchý prompt. Regresné testy by mali pokryť viacnásobné volania nástrojov, obnovenie prerušenej konverzácie, streamovanú chybu po čiastočnom výstupe, zmenu poskytovateľa a obmedzený prístup na web. Pri Bedrock Mantle treba navyše sledovať autentifikáciu, expiráciu tokenov, regionálne kvóty a to, či sa identifikátory nástrojov zachovajú pri ukladaní histórie.

Vydanie je relevantné aj pre architektúru s viacerými modelmi. Jednotný agentický framework môže znížiť množstvo kódu viazaného na konkrétne API, ale rozdiely medzi poskytovateľmi nezmiznú. Modely sa odlišujú formátom nástrojov, bezpečnostnými pravidlami, streamovaním aj účtovaním. Rozumným postupom je ponechať spoločnú doménovú logiku v PydanticAI a okolo každého poskytovateľa mať tenkú vrstvu politík, metrík a testov. Tým sa získa prenositeľnosť bez predstierania, že všetky backendy sú zameniteľné.

PydanticAI 2.18.0 je menší, ale praktický infraštruktúrny release. Neprináša nový spôsob stavby agentov, skôr spevňuje mosty medzi frameworkom a rýchlo sa meniacimi modelovými platformami. Najväčší úžitok budú mať tímy, ktoré potrebujú kombinovať Anthropic, OpenRouter, OpenAI, Google Cloud a AWS v jednom typovanom prostredí. Pred nasadením je vhodné uzamknúť verziu závislosti, prečítať rozdiel oproti 2.17.0 a spustiť vlastné integračné testy, pretože aj zdanlivo kompatibilná zmena identifikátorov nástrojov môže ovplyvniť uložené konverzácie a opakovanie rozbehnutých úloh.