Tag
Všetky publikované články, v ktorých sa téma open-weight modely objavuje ako dôležitý kontext. Aktuálne 3 textov v archíve.
Cerebras tvrdí, že otvorenejší model Kimi K2.6 na jeho infraštruktúre dosahuje podobnú inteligenciu ako Gemini 3.5 Flash, ale výrazne vyššiu rýchlosť výstupu. Porovnanie ukazuje, ako sa pri agentoch čoraz viac hodnotí latencia a počet tokenov za sekundu, nielen skóre benchmarkov.
Databricks rozšíril automatické ukladanie opakovaných častí promptov aj na otvorené modely vo svojich Foundation Model API. Pri produkčnom nasadení GPT-OSS uvádza 2,5-násobný nárast priepustnosti a trojnásobne nižšiu mediánovú latenciu bez nutnosti manuálnej konfigurácie.
DeepSeek predstavil radu V4 s miliónovým kontextom, no podstatnejší je iný posun: firma tvrdí, že nové modely výrazne znižujú priebežné výpočtové náklady aj pamäťové nároky pri veľmi dlhých behoch. To je dôležité najmä pre agentov, ktorí si do kontextu nesú históriu nástrojov, logov a medzikrokov.