IBM ukazuje 100-miliardovú vektorovú databázu na jednom serveri: RAG sa má presunúť bližšie k úložisku

IBM Research predstavilo zaujímavý infra príbeh pre generatívnu AI: namiesto toho, aby sa retrieval-augmented generation stavalo ako voľne pospájaný reťazec samostatných komponentov, chce časť práce presunúť priamo bližšie k úložisku dát. Firma opisuje content-aware storage a tvrdí, že na jednom serveri dokáže obslúžiť 100-miliardovú vektorovú databázu. Ak sa podobný prístup osvedčí aj mimo laboratórneho nastavenia, mohol by citeľne zmeniť to, ako firmy stavajú veľké RAG systémy nad vlastnými dokumentmi.

Dnešný enterprise RAG sa často skladá z viacerých vrstiev: dokumenty sú v jednom systéme, embeddingy sa vytvárajú inde, vektorové vyhľadávanie beží v ďalšej službe a nad tým všetkým sedí aplikačná vrstva s modelom. IBM argumentuje, že takýto rozklad je drahý, zložitý na prevádzku a zbytočne presúva dáta medzi systémami. Content-aware storage má časť týchto operácií vtiahnuť späť do úložiska, vrátane vektorizačných a retrieval funkcií, aby sa znížili režijné náklady a zjednodušila architektúra.

Kľúčovým tvrdením je škála. Hranica 100 miliárd vektorov na jednom serveri je presne typ marketingovo-technického parametra, ktorý sa oplatí sledovať, pretože enterprise AI sa dnes láme na tom, či dokáže obslúžiť obrovské interné dokumentové korpusy bez explózie nákladov. Pre banky, poisťovne, zdravotníctvo či priemyselné firmy totiž nie je problém len kvalita modelu, ale aj to, koľko stojí udržiavanie a aktualizácia veľkej retrieval vrstvy nad vlastnými znalosťami.

IBM zároveň stavia naratív na bezpečnosti a dátovej blízkosti. Ak sa retrieval a časť embedding workflow presunie k úložisku, môže to firmám pomôcť obmedziť kopírovanie citlivých dát medzi viacerými nástrojmi a zjednodušiť správu prístupov. V čase, keď sa veľa AI architektúr komplikuje novými vrstvami orchestrácie, je to zaujímavý protiťah: namiesto ďalších služieb skúsiť presunúť inteligenciu nižšie do infraštruktúrneho základu.

Takýto model však bude musieť obstáť aj mimo benchmarkových čísel. Dôležité bude, akú latenciu a priepustnosť systém dosiahne pri reálnych podnikových workloadoch, ako sa bude správať pri aktualizáciách dokumentov a či sa výhoda jednej serverovej jednotky nestratí pri produkčnom nasadení s vysokou dostupnosťou. Napriek tomu ide o signál, že boj o RAG infra sa presúva za hranicu samotných modelov a vektorových databáz do oveľa hlbšej vrstvy storage architektúry.

Pre AI trh je IBM dôležité tým, že pripomína starú pravdu v novej podobe: pri enterprise AI nevyhráva len ten, kto má lepší model, ale aj ten, kto dokáže lacnejšie a bezpečnejšie dostať vlastné dáta do inference slučky. Ak content-aware storage splní aspoň časť sľubov, môže to byť jedna z tichších, ale praktickejších ciest k lacnejšiemu a robustnejšiemu RAG v produkcii.

Zaujímavé bude sledovať aj to, či sa podobným smerom vydajú ďalší hráči v storage a databázovej vrstve. Ak sa RAG presunie bližšie k dátam, môže to oslabiť predstavu, že celá hodnota generatívnej AI sedí výlučne v modeloch a orchestration nástrojoch. Časť konkurenčného boja sa potom odohrá v tom, kto vie lepšie spojiť úložisko, embeddingy, vyhľadávanie a governance do jedného prevádzkovo zmysluplného celku.

Zdroje

• IBM Research: IBM demonstrates extreme scale for content-aware storage with a 100-billion vector database