Modely
Autor: Redakcia AI Feed
Bielik na Apple Silicon ukazuje praktický posun pre cross-family speculative decoding
Poľská práca o Bielik 11B a UAG-Extended MLX-LM testuje speculative decoding medzi modelovými rodinami s odlišnými tokenizérmi na Apple Silicon. Výsledok je dôležitý pre lokálne nasadzovanie väčších modelov tam, kde nie je k dispozícii drahý GPU server.