Couchbase postavil Capella iQ na viacmodelovej architektúre cez Amazon Bedrock

AWS zverejnil technický opis toho, ako Couchbase presunul Capella iQ na viacmodelovú architektúru postavenú nad Amazon Bedrock. Capella iQ je AI asistent pre databázových vývojárov: má generovať SQL++ dotazy, odporúčať indexy a podporovať konverzácie nad stavom aplikácie a dátovej vrstvy. Pointa článku nie je iba v tom, že služba používa veľký jazykový model, ale v tom, ako je inference zasadená do produkčnej, viacnájomníckej a regionálne odolnej architektúry.

Podľa AWS Couchbase rozšíril svoju aplikáciu tak, aby nebola naviazaná na jedného poskytovateľa modelov. Bedrock v tomto prípade poskytuje prístup k rodine modelov Claude od Anthropic a zároveň infraštruktúrnu vrstvu, ktorá umožňuje smerovanie požiadaviek cez súkromné spojenie a medzi regiónmi. Pre podnikové databázové nástroje je to dôležité: zákazník nechce, aby citlivé schémy, dotazy alebo konverzačný kontext putovali cez verejný internet bez kontroly, a zároveň očakáva, že asistent bude dostupný aj počas špičiek.

Architektúra beží v riadiacej rovine AWS a zahŕňa Amazon EKS klaster v regióne us-east-1. V ňom sú oddelené mikroslužby pre prijímanie vývojárskych požiadaviek, internú komunikáciu, smerovanie modelov a správu nájomníckej konfigurácie. Požiadavka od používateľa prejde autentifikáciou, doplnením konverzačnej histórie a výberom promptovej šablóny podľa typu úlohy. Až potom sa posiela cez VPC interface endpoint do Amazon Bedrock runtime.

Súkromné VPC spojenie je v tomto návrhu podstatnejšie, než sa môže zdať. Znamená, že plný prompt aj odpoveď modelu zostávajú v rámci infraštruktúry AWS a nemusia prechádzať verejným internetom. Pri nástroji, ktorý pracuje s databázovými schémami, metadátami, indexmi a aplikačným kontextom, je to základná požiadavka pre bezpečnostné tímy. Zároveň to ukazuje, že enterprise AI sa čoraz menej predáva ako samostatné chatovacie okno a čoraz viac ako riadený tok dát medzi aplikačnými službami, modelovým runtime a politkami organizácie.

Druhým zaujímavým prvkom je Cross-Region Inference v rámci Bedrocku. AWS opisuje smerovanie požiadaviek v rámci americkej geografie medzi regiónmi us-east-1, us-east-2 a us-west-2. Cieľom je vyrovnávať zaťaženie, zvládnuť výkyvy dopytu a poskytnúť failover bez toho, aby aplikácia Couchbase musela sama implementovať regionálnu logiku. Pre zákazníkov to môže znamenať stabilnejšiu odozvu asistenta počas špičiek, no zároveň zachovanie geografického obmedzenia pre spracovanie dát.

Capella iQ tak dobre ilustruje posun od jednoduchého volania modelového API k viacvrstvovej AI architektúre. Vývojársky dotaz sa nestáva iba textom pre model. Najskôr sa vyhodnotí typ úlohy, použije sa kontext relácie, aplikujú sa nájomnícke nastavenia a vyberie sa vhodné smerovanie modelu. Odpoveď sa následne normalizuje a formátuje späť do rozhrania Capella. Pri generovaní databázových dotazov a odporúčaní indexov je takáto kontrolná vrstva nevyhnutná, pretože nesprávna odpoveď môže viesť k pomalým dopytom, zlým indexom alebo k nebezpečným zásahom do produkcie.

Pre trh enterprise AI je dôležitý aj modelovo-agnostický prístup. Firmy nechcú zostať viazané na jedného dodávateľa, cenu alebo regionálnu dostupnosť jedného modelu. V praxi preto pribúda vrstva, ktorá oddeľuje aplikačnú logiku od konkrétneho modelového backendu. Bedrock tu funguje ako riadená brána k modelom, zatiaľ čo Couchbase si ponecháva vlastnú logiku promptov, kontextu, nájomníckych nastavení a používateľského rozhrania. Tento vzor sa dá očakávať aj v iných nástrojoch pre dáta, analytiku a vývoj.

Článok AWS je zároveň pripomienkou, že nasadenie AI asistenta v databázovom produkte nie je iba otázka presnosti modelu. Rovnako dôležité sú latencia, dostupnosť, auditovateľnosť, súkromné sieťovanie, správa nájomníkov a možnosť meniť poskytovateľov modelov. Couchbase uvádza, že architektonické rozhodnutia mali priniesť lepšiu prevádzkovú odolnosť a škálovanie bez predpripravenej kapacity. Pre zákazníkov je praktický dopad jednoduchý: AI funkcie v databázovom nástroji musia pôsobiť ako súčasť spoľahlivej platformy, nie ako prilepený experiment.

Nie je to najhlasnejší typ AI novinky, ale je významný pre reálne prijímanie generatívnej AI v podnikoch. Keď sa modely používajú na prácu s databázami, nestačí mať pôsobivú ukážku v prehliadači. Organizácie potrebujú architektúru, ktorá rešpektuje hranice dát, regiónov, nájomníkov a dostupnosti. Capella iQ na Bedrocku ukazuje jeden konkrétny návrh, ako sa takéto vrstvy skladajú: mikroslužby v EKS, privátne spojenie do modelového runtime, regionálne smerovanie a aplikačná logika, ktorá drží AI asistenta v kontexte práce vývojára.