ZML/LLMD chce zjednotiť inferenciu naprieč GPU, TPU aj Trainium
Francúzsky startup ZML sprístupnil alfa verziu servera LLMD, ktorý má spúšťať otvorené jazykové modely na rôznych akcelerátoroch bez viazania na jeden hardvérový ekosystém.
Tag
Všetky publikované články, v ktorých sa téma LLMD objavuje ako dôležitý kontext. Aktuálne 1 textov v archíve.
Francúzsky startup ZML sprístupnil alfa verziu servera LLMD, ktorý má spúšťať otvorené jazykové modely na rôznych akcelerátoroch bez viazania na jeden hardvérový ekosystém.