#RAG

Pinecone v technickom texte vysvetľuje, prečo samotné vektorové vyhľadávanie nemusí stačiť pre agentov. Textové filtre zužujú kandidátov pred sémantickým hľadaním a majú znížiť riziko, že agent začne konať nad nesprávnym kontextom.

AWS uvádza všeobecnú dostupnosť Bedrock Managed Knowledge Base, spravovaného riešenia pre podnikovú retrieval vrstvu s konektormi, ACL kontrolami a ukážkovým kódom.

NVIDIA predstavila rodinu Nemotron 3 Embed na Hugging Face. Modely sú určené pre vyhľadávanie v RAG systémoch, pamäť agentov a kódové úlohy; najväčší variant podľa oznámenia vedie leaderboard RTEB.

CLaRa spája retrieval a generovanie v jednom optimalizačnom priestore. Namiesto posielania dlhých textov do generátora používa komprimované vektory a trénuje reranker aj generátor spoločnou jazykovou stratou.

Apple Machine Learning Research opisuje SRLM, rámec pre dlhokontextové úlohy, ktorý vyberá programy podľa sebareflexie, konzistencie a odhadovanej neistoty. Výsledky naznačujú, že samotná rekurzia pri dlhom kontexte nestačí.

Výskum Apple opisuje amortizované maximum inner product search: neurónové siete SupportNet a KeyNet sa učia predpovedať riešenia vyhľadávania v pevnej databáze vektorov a môžu zlepšiť smerovanie dotazov v embedding indexoch.

Technický návod AWS skladá neurobiologicky inšpirovaný RAG z grafovej databázy, embeddingov a algoritmov na šírenie relevancie. Pointa je lepšia práca so vzťahmi, nie iba ďalší vektorový index.

Mistral predstavil OCR 4, nový model na spracovanie dokumentov so 170 jazykmi, bounding boxmi, klasifikáciou blokov a nasadením cez API alebo samostatný kontajner.

Preprint z University Medicine Essen opisuje on-premise systém ACIE pre klinickú extrakciu informácií. Lekári v retrospektívnej štúdii akceptovali 96,5 % extrahovaných hodnôt, no práca zároveň ukazuje, prečo bežné RAG nestačí na celé pacientske kontexty.

Pinecone zverejnil open-source stack s Prometheom a Grafanou, ktorý má tímom ukázať zdravie indexov skôr, než sa zhorší kvalita odpovedí v RAG aplikáciách.

Databricks predstavil Instructed-Retriever-1, komponent pre rýchlejšie vyhľadávanie v znalostných asistentoch. Firma tvrdí, že paralelné škálovanie pri inferencii skracuje čas vyhľadávania viac než trojnásobne bez zmeny konfigurácie používateľa.

Mistral predstavil open-source Search Toolkit, ktorý má zjednotiť ingest, retrieval a evaluáciu pre RAG a podnikové vyhľadávanie bez uzamknutia na konkrétnu infraštruktúru.