Tag
Všetky publikované články, v ktorých sa téma AI infraštruktúra objavuje ako dôležitý kontext. Aktuálne 22 textov v archíve.
Rackový systém Helios spája 72 akcelerátorov Instinct MI455X, procesory EPYC Venice, sieť Pensando a ROCm. AMD uvádza prvé rozsiahle plány OpenAI, Anthropic, Meta a ďalších zákazníkov, no výkonové tvrdenia sú zatiaľ prevažne interné.
Nový technický postup AWS rieši, ako monitorovať SageMaker Pipelines vo viacerých účtoch a regiónoch cez CloudWatch dashboardy, EventBridge, Lambda a ukážkový CDK repozitár.
Francúzsky startup ZML sprístupnil alfa verziu servera LLMD, ktorý má spúšťať otvorené jazykové modely na rôznych akcelerátoroch bez viazania na jeden hardvérový ekosystém.
Hugging Face oznámil väčšiu aktualizáciu repozitárov Kernels. Novinky sa netýkajú iba používateľského rozhrania: pribúda podpisovanie kernelov, dôveryhodní vydavatelia, prepracované CLI, rozšírená podpora frameworkov a základ pre agentický vývoj optimalizovaných výpočtových jadier.
Amazon Bedrock v prostredí AWS GovCloud (US) sprístupňuje open-weight modely OpenAI GPT OSS a NVIDIA Nemotron. Pre regulované organizácie je dôležité najmä to, že výkonnejšie modely môžu volať bez presunu citlivých dát mimo vládneho cloudového perimetra.
Databricks otvorilo inžiniersky pohľad na spoľahlivosť GPU v rozsiahlej AI infraštruktúre. Téma je dôležitá, pretože pri veľkých modeloch často rozhoduje prevádzka, nie iba počet akcelerátorov.
Nová práca opisuje koncept siete modelov, v ktorej by sa ľahšie vyhľadávali, prepájali a používali menšie doménové AI systémy. Ide skôr o architektonickú víziu než hotový štandard, no dobre vystihuje problém fragmentácie modelov.
Micron uzavrel s Anthropicom strategickú dohodu o návrhu pamäťovej a úložiskovej vrstvy pre veľké AI systémy, dodávkach komponentov, nasadení Claude vo vlastných tímoch a investícii do Anthropic. Signál je dôležitý preto, že úzke hrdlo frontier AI sa čoraz viac presúva z čistého výpočtu aj na pamäť, energiu a ekonomiku inferencie.
Amazon po stretnutí Andyho Jassyho s indickým premiérom oznámil nový investičný záväzok. Peniaze majú rozšíriť cloudové a AI kapacity v krajine a posilniť digitálne služby pre firmy aj štát.
AWS predstavuje Neuron Agentic Development: súbor agentov a zručností, ktoré majú pomôcť vývojárom písať, profilovať a ladiť kernely pre AI čipy Trainium a Inferentia.
Cloudflare rozšíril AI Gateway o limity výdavkov v reálnom čase a pripravuje rozpočty viazané na identitu používateľa. Novinka cieli na firmy, ktoré používajú viac modelových providerov a potrebujú zastaviť nečakané účty skôr, než sa stanú incidentom.
SoftBank oznámil zámer vybudovať vo Francúzsku AI dátové centrá s kapacitou do 5 GW a investíciou až 75 miliárd eur. Prvá fáza má priniesť 3,1 GW do roku 2031 a posilniť európsku výpočtovú infraštruktúru pre umelú inteligenciu.