#GPU

Amazon sprístupnil G7e inštancie s GPU NVIDIA RTX PRO 6000 Blackwell Server Edition v SageMaker AI. Dôležité nie sú len nové čipy, ale aj to, že AWS tlačí jednou GPU konfiguráciou hosting veľkých open modelov bližšie k praktickej ekonomike nasadenia.

Nový technický materiál AWS ukazuje, ako má SageMaker HyperPod fungovať aj ako inference platforma. Kľúčová téza je praktická: kombinácia KEDA a Karpenteru má umožniť škálovanie od nuly až po produkčnú záťaž bez trvalých nečinných GPU nákladov.