IBM skúša nahradiť časti transformerov sieťami z reťazových zlomkov
IBM Research predstavil CoFrGeNets, architektúru pre generovanie jazyka, ktorá nahrádza pozornosť a feed-forward bloky v transformeroch kompaktnejšími komponentmi. Výsledky sú zatiaľ výskumné, ale ukazujú smer k menším modelom s nižšími nárokmi na tréning.