Tomofun presúva pet AI na Inferentia2, AWS cieli na lacnejšiu VLM inferenciu
AWS zverejnil detailný prípad Tomofunu, ktorý presúva detekciu správania domácich zvierat z GPU na čipy Inferentia2. Zaujímavý nie je len nižší účet za inferenciu, ale aj vzor, ako sa vision-language modely môžu s minimom zmien presúvať na špecializovaný hardvér mimo klasických GPU fariem.