AWS ukazuje šifrovanú inferenciu v SageMakeri cez plne homomorfné šifrovanie
Nový technický návod AWS kombinuje SageMaker AI a knižnicu concrete-ml, aby modely vedeli spracovať šifrované vstupy bez ich dešifrovania.
Tag
#SageMaker
Všetky publikované články, v ktorých sa téma SageMaker objavuje ako dôležitý kontext. Aktuálne 10 textov v archíve.
AWS pridáva Nemotron 3 Ultra do SageMaker JumpStart pre dlhé agentické úlohy
NVIDIA Nemotron 3 Ultra je od 4. júna dostupný v Amazon SageMaker JumpStart. AWS ho rámuje ako otvorený model pre dlhé agentické workflowy, kde rozhoduje nielen presnosť, ale aj čas dokončenia úlohy a cena za beh.
AWS ukazuje nízkolatenčné hlasové aplikácie cez SageMaker a vLLM
Nový technický návod spája bidirekcionálne streamovanie v SageMakeri, vLLM a real-time API pre prípady ako hlasoví agenti, titulkovanie či analytika call centier.
SageMaker pridáva OpenAI-kompatibilné endpointy pre firemnú inferenciu
Amazon SageMaker AI zavádza OpenAI-kompatibilné API pre real-time endpointy. Aplikácie používajúce OpenAI SDK či LangChain tak môžu cieliť na vlastné nasadenia v AWS s menšou úpravou kódu.
AWS chce skrotiť nedostatok GPU cez krátkodobé rezervácie pre tréning AI
Amazon opisuje dvojicu mechanizmov, ktoré majú firmám pomôcť získať GPU kapacitu na presne určené termíny bez dlhých kontraktov. Téma je dôležitá hlavne pre tímy, ktoré pripravujú veľké tréningy, testy alebo časovo citlivé spustenia modelov.
AWS tlačí RLVR do praxe: na SageMakeri ukazuje GRPO s overiteľnou odmenou
AWS zverejnil návod, ako na SageMaker AI skladať reinforcement learning s overiteľnou odmenou a algoritmom GRPO. Mieri tým na úlohy, kde sa dá správnosť výsledku objektívne skontrolovať, od matematiky po kód.
NVIDIA Nemotron 3 Nano Omni spája obraz, zvuk aj video do jedného open modelu
NVIDIA uviedla multimodálny model Nemotron 3 Nano Omni a AWS ho sprístupnilo v SageMaker JumpStart v deň vydania. Zaujímavý je najmä tým, že má slúžiť ako jednotný percepčný model pre dokumenty, obrazovky, zvuk aj video v agentických workflow.
AWS spája DVC, SageMaker a MLflow do auditovateľnej ML línie
AWS ukazuje, ako prepojiť DVC, SageMaker a MLflow tak, aby bolo možné spätne dohľadať presnú verziu dát, tréningu aj nasadeného modelu, čo je kľúčové najmä v regulovaných odvetviach.
AWS skladá Path-to-Value: generatívnu AI chce merať produkciou, nie pilotmi
AWS predstavil rámec Path-to-Value, ktorým sa snaží preklopiť diskusiu z experimentov k produkčným metrikám. Dôraz kladie na prechod od pilotov k prevádzke, integrácii, riadeniu nákladov a merateľnému dopadu.
AWS pridáva do SageMaker JumpStart nasadenia podľa use case
Amazon rozširuje SageMaker JumpStart o optimalizované nasadenia podľa konkrétneho scenára použitia. Namiesto ručného odhadovania infraštruktúry si tímy vyberú use case a prioritu medzi cenou, latenciou, priepustnosťou alebo vyváženým profilom.