OpenAI našla vzácne pády infraštruktúry cez epidemiológiu core dumpov
Technický rozbor OpenAI ukazuje, ako analýza veľkej populácie pádov odhalila chybný hardvér aj 18-ročnú race condition v knižnici GNU libunwind.
Tag
#infraštruktúra
Všetky publikované články, v ktorých sa téma infraštruktúra objavuje ako dôležitý kontext. Aktuálne 5 textov v archíve.
Google pridáva do Gemini API webhooky a skracuje čakanie na dlhé úlohy
Google sprístupnil pre Gemini API webhooky, ktoré posielajú notifikácie pri dokončení dlhšie bežiacich operácií. Zmena má odstrániť neefektívne pollingové slučky a posunúť integrácie smerom k udalostnému modelu, ktorý sa lepšie hodí pre batch úlohy, interakcie aj generovanie videa.
OpenAI opisuje, ako drží hlasové AI v reálnom čase na nízkej latencii
OpenAI po prvý raz detailne rozobralo infraštruktúru za hlasovým rozhraním ChatGPT a Realtime API. Nejde o nový model, ale o dôležitý technický signál: pri hlasových agentoch sa začína rozhodovať viac v sieti a mediálnej vrstve než len v samotnom modeli.
Google uvádza TPU 8t a 8i: čipy delí na tréning a rýchlu obsluhu agentov
Google na Cloud Next predstavil ôsmu generáciu TPU v dvoch variantoch. TPU 8i cieli na rýchlu inferenciu pre agentické úlohy, zatiaľ čo TPU 8t je optimalizovaný na tréning veľkých modelov s masívnou pamäťovou kapacitou.
IBM ukazuje 100-miliardovú vektorovú databázu na jednom serveri: RAG sa má presunúť bližšie k úložisku
IBM tvrdí, že vie na jednom serveri postaviť storage-centrickú vektorovú databázu pre 100 miliárd embeddingov a chce tým zmeniť ekonomiku enterprise RAG systémov.