Amazon Bedrock dostal natívne vyhľadávanie na webe s citáciami

Amazon Web Services všeobecne sprístupnilo Web Search priamo v službe Amazon Bedrock. Nový serverový nástroj umožňuje modelu vyhľadať aktuálne informácie na webe, vložiť relevantné pasáže do kontextu a vrátiť odpoveď so zdrojovými citáciami. Vývojár pritom nemusí pripájať samostatného poskytovateľa vyhľadávania, spravovať ďalšie API kľúče ani implementovať vlastnú slučku pre volanie nástroja. Funkcia nadväzuje na webové vyhľadávanie v AgentCore, no tentoraz je súčasťou samotného inferenčného rozhrania Bedrocku.

AWS opisuje službu ako kombináciu vlastného webového indexu, ktorý obsahuje miliardy priebežne obnovovaných dokumentov, a znalostného grafu. Index má poskytovať aktuálne textové podklady, zatiaľ čo graf pomáha pri otázkach o konkrétnych entitách a vzťahoch, napríklad pri menách autorov či dátumoch udalostí. Bedrock z nájdených stránok neodovzdáva modelu celý neupravený obsah. Namiesto toho používa sémantickú extrakciu úryvkov, aby do kontextového okna vložil iba pasáže súvisiace s otázkou a nemíňal tokeny na navigáciu alebo inú výplň stránky.

Celý proces prebieha na strane AWS. Model najskôr rozpozná, že otázka vyžaduje čerstvé znalosti, Bedrock zostaví vyhľadávací dopyt, získa výsledky z indexu a znalostného grafu a doplní ich do kontextu. Výsledná odpoveď obsahuje anotácie s URL a názvom každej použitej stránky. Rozhranie uvádza aj znakové pozície, ku ktorým sa citácia viaže, takže aplikácia môže zdroj zobraziť ako poznámku pod čiarou alebo zvýrazniť presný úsek odpovede, ktorý podporuje.

Web Search sa zapína cez nástroj typu web_search v rozhraní OpenAI Responses API, ktoré Bedrock podporuje na svojom novom inferenčnom engine. Podľa AWS stačí do existujúceho volania pridať jednu položku v poli tools. Nie je potrebné definovať vlastnú funkčnú schému, spracúvať medzivýsledky vyhľadávača ani opakovane posielať konverzáciu medzi klientom a modelom. Jedno volanie môže zahŕňať vyhľadanie, otvorenie výsledku a vytvorenie finálnej odpovede.

Pri spustení je nástroj dostupný pre modely OpenAI poskytované cez tento engine Amazon Bedrock. Klient sa pripája na regionálny endpoint bedrock-mantle a autentizuje sa existujúcou identitou AWS. Krátkodobý bearer token možno odvodiť z poverení IAM pomocou podpisovania SigV4; nejde teda o nový dlhodobý API kľúč. Identita potrebuje samostatné oprávnenie na inferenciu a akcie InvokeSearch, prípadne InvokeFetch na načítanie plného obsahu nájdenej stránky.

Parameter external_web_access rozlišuje prácu s predindexovaným korpusom a budúce priame načítavanie živého webu. AWS upozorňuje, že pri uvedení je obsluhované iba vyhľadávanie v indexe, hoci parameter je už súčasťou API. Aplikácia tak môže zakázať externý prístup a fungovať bez osobitného oprávnenia ExternalWebAccess. To je podstatné najmä pre organizácie, ktoré chcú presne obmedziť sieťové správanie agentov a oddeliť kontrolovaný index od priameho prístupu na ľubovoľné stránky.

Bezpečnostný a prevádzkový význam má integrácia s AWS CloudTrail. Volania InvokeSearch a InvokeFetch sa zapisujú ako udalosti správy spolu s identitou volajúceho, časom, akciou, účtom a regiónom. CloudTrail však podľa AWS nezaznamenáva text dopytu, vrátené URL ani obsah získaných stránok. Organizácia tak môže auditovať, kto nástroj použil, bez ukladania samotných otázok používateľov do auditného záznamu. Zamietnuté požiadavky sa logujú vrátane podmienky IAM, ktorá ich zablokovala.

Pre tímy budujúce produkčné asistenty ide najmä o zníženie integračnej réžie. Vlastný vyhľadávací reťazec zvyčajne zahŕňa ďalšieho dodávateľa, správu limitov, filtrovanie výsledkov, extrakciu obsahu, priraďovanie citácií a pravidlá pre zlyhania. Bedrock tieto časti spája do jedného spravovaného nástroja. Súčasne to však znamená väčšiu závislosť od kvality indexu Amazonu, jeho výberu úryvkov a dostupnosti podporovaných modelov a regiónov.

Webové ukotvenie samo osebe nezaručuje pravdivú odpoveď. Model môže nesprávne interpretovať dobrý zdroj, vyhľadávanie môže nájsť neaktuálnu alebo nekvalitnú stránku a citácia nemusí podporovať každú formuláciu vo výslednom texte. Aplikácie s vysokými nárokmi na presnosť preto stále potrebujú kontrolu zdrojov, vhodné obmedzenia a evaluačné testy. Pri všeobecnom uvedení je Web Search dostupný v Spojených štátoch so spracovaním v regiónoch us-east-1, us-east-2 a us-west-2; AWS odkazuje na samostatný cenník služby.