Tag
Všetky publikované články, v ktorých sa téma infraštruktúra objavuje ako dôležitý kontext. Aktuálne 4 textov v archíve.
Google sprístupnil pre Gemini API webhooky, ktoré posielajú notifikácie pri dokončení dlhšie bežiacich operácií. Zmena má odstrániť neefektívne pollingové slučky a posunúť integrácie smerom k udalostnému modelu, ktorý sa lepšie hodí pre batch úlohy, interakcie aj generovanie videa.
OpenAI po prvý raz detailne rozobralo infraštruktúru za hlasovým rozhraním ChatGPT a Realtime API. Nejde o nový model, ale o dôležitý technický signál: pri hlasových agentoch sa začína rozhodovať viac v sieti a mediálnej vrstve než len v samotnom modeli.
Google na Cloud Next predstavil ôsmu generáciu TPU v dvoch variantoch. TPU 8i cieli na rýchlu inferenciu pre agentické úlohy, zatiaľ čo TPU 8t je optimalizovaný na tréning veľkých modelov s masívnou pamäťovou kapacitou.
IBM tvrdí, že vie na jednom serveri postaviť storage-centrickú vektorovú databázu pre 100 miliárd embeddingov a chce tým zmeniť ekonomiku enterprise RAG systémov.