Výskum
Autor: Redakcia AI Feed
Aletheia sľubuje rýchlejšie LoRA ladenie bez plošného zásahu do všetkých vrstiev
Výskum Aletheia spochybňuje bežný zvyk pripájať LoRA adaptéry rovnomerne na všetky vrstvy transformera. Namiesto toho si cez ľahký gradientový prieskum vyberá vrstvy najrelevantnejšie pre danú úlohu a hlási citeľné zrýchlenie tréningu bez veľkej straty kvality.