IBM vydalo Granite Speech 5.0: otvorený prepis reči zrýchľuje, slovenčina však chýba

IBM rozšírilo rodinu Granite Speech o nový dvojmiliardový model na rozpoznávanie a preklad reči a súčasne aktualizovalo dva špecializované modely. Oznámenie z 21. októbra prináša tri odlišné zlepšenia: presnejší viacjazyčný prepis, vyššiu priepustnosť menšieho modelu a lepšie zachytenie toho, kto na nahrávke hovoril a kedy. Všetky tri modely sú podľa IBM dostupné pod licenciou Apache 2.0. Nejde však o jeden univerzálny systém, ktorý by automaticky zvládol každú hlasovú úlohu alebo každý jazyk.

Pre slovenské firmy je najdôležitejšia hranica jazykovej podpory. Nový granite-speech-5.0-2b uvádza angličtinu, francúzštinu, nemčinu, španielčinu, portugalčinu a japončinu. Slovenčina v zozname nie je. Vydanie preto môže byť zaujímavé pre spracovanie zahraničných hovorov, nemeckých obchodných stretnutí či anglických firemných záznamov, nie ako doložená náhrada slovenského prepisovacieho systému. Rozdiel medzi dostupnými váhami a overenou podporou konkrétneho jazyka zostáva podstatný aj pri otvorených modeloch.

Tri modely riešia tri rozdielne problémy

Hlavnou novinkou je granite-speech-5.0-2b, nástupca verzie 4.1 s rovnakým počtom parametrov. IBM uvádza vyššiu presnosť krátkych anglických prepisov, lepšiu odolnosť proti hluku a ozvene a zlepšené spracovanie reči zo vzdialenejšieho mikrofónu. Model umožňuje uviesť vstupný jazyk v zadaní a podporuje zoznam až 2 000 výrazov, ktorým má pri rozpoznávaní venovať osobitnú pozornosť. Tréning podľa modelovej karty využil 390-tisíc hodín verejných zvukových dát a ďalšie syntetické dáta.

Prekladové možnosti sa nekryjú úplne so zoznamom jazykov na prepis. Model má prekladať medzi angličtinou a francúzštinou, nemčinou, španielčinou, portugalčinou či japončinou v oboch smeroch. Navyše uvádza preklad z angličtiny do taliančiny a mandarínskej čínštiny. Z toho nemožno odvodiť podporu ľubovoľných jazykových párov. Tím, ktorý potrebuje napríklad prepis talianskej nahrávky alebo preklad medzi dvoma neanglickými jazykmi, musí overiť práve svoju úlohu, nie sa spoliehať na všeobecné označenie viacjazyčného modelu.

Menší granite-speech-5.0-470m-turboctc je aktualizáciou približne 470-miliónového modelu zameraného na rýchlosť. K pôvodnej angličtine pridáva japončinu, španielčinu, nemčinu, francúzštinu, taliančinu a portugalčinu. Výstup zahŕňa interpunkciu a veľké písmená bez samostatného následného modelu. IBM uvádza aj lepšiu odolnosť proti ozvene. Je to iný kompromis než pri dvojmiliardovom modeli: zmyslom je vysoká priepustnosť a spracovanie na zariadení, nie automaticky rovnaký rozsah prekladových či riadiacich možností.

Tretí model, granite-speech-4.1-2b-plus, si ponecháva označenie 4.1. Podľa IBM sa totiž nemení architektúra, formát zadania ani rozhranie; aktualizované sú váhy. Zlepšenia sa sústreďujú na viacúčastnícke nahrávky, priraďovanie slov hovoriacim, časové značky a dlhší zvuk. Pre existujúce integrácie je to potenciálne menej náročná zmena než prechod na inú architektúru. Ani deklarovaná kompatibilita však nenahrádza regresný test na vlastných nahrávkach, pretože rovnaké rozhranie nezaručuje rovnaké správanie pri každom vstupe.

Čísla vyzerajú dobre, ale nehovoria o rovnakej veci

V oznámení IBM uvádza pre nový dvojmiliardový model priemernú slovnú chybovosť 5,06 percenta na verejných anglických krátkych testovacích súboroch Open ASR Leaderboard. Sprievodný graf tento výsledok označuje za neoficiálny a datovaný k 15. októbru. Ide o údaj prezentovaný výrobcom, nie o naše nezávislé meranie. Nemožno ho preniesť na dlhé porady, slovenské telefonáty ani nahrávky s prekrývajúcimi sa hlasmi. Priemer cez viac súborov navyše môže zakryť slabší výsledok v konkrétnej doméne.

Pri Turbo CTC IBM hlási zvýšenie priepustnosti z približne 12 600 na 19 870 RTFx, teda zhruba 1,6-násobok pri zachovanej úrovni presnosti. RTFx vyjadruje násobok rýchlosti spracovania voči dĺžke zvuku. Takéto číslo opisuje výkon v konkrétnom meraní, nie čas odozvy bežného notebooku. Firma zlepšenie spája s kompiláciou jedného bloku Conformer a opakovaným využitím jeho výpočtového grafu. Pre interaktívny hlasový systém bude okrem priepustnosti rozhodujúce aj oneskorenie prvého výsledku a stabilita priebežného prepisu.

Aktualizovaný model Plus prináša odlišné metriky. IBM uvádza pokles chybovosti pri dlhých nahrávkach z 13,53 na 10,22 a zlepšenie chybovosti slov priradených hovoriacim z 30,50 na 28,48. Pri prvej dvojici ide približne o 24-percentné relatívne zníženie, nie o zlepšenie o 24 percentuálnych bodov. Toto rozlíšenie je dôležité: marketingové percento môže znieť výraznejšie než absolútny rozdiel. Zverejnené výsledky naznačujú pokrok, ale zároveň ukazujú, že pri náročnejších úlohách zostáva priestor na chyby.

Aj modelová karta hlavnej novinky obsahuje užitočnú protiváhu zjednodušenému príbehu o plošnom zlepšení. V tabuľke interpunkcie a kapitalizácie sa jednotlivé výsledky nehýbu vždy rovnakým smerom. Napríklad pri niektorých korpusoch je kapitalizácia mierne slabšia než pri predchodcovi a pri francúzskom Common Voice stúpa interpunkčná chybovosť. Nová verzia teda nemusí zvíťaziť v každej podúlohe. Pre aplikáciu, ktorá potrebuje presné titulky alebo spoľahlivé vlastné mená, je podrobná tabuľka hodnotnejšia než jediné priemerné skóre.

Firemný slovník môže byť dôležitejší než všeobecná presnosť

Podpora zoznamu až 2 000 výrazov cieli na praktickú slabinu prepisovacích systémov: názvy produktov, ľudí, súčiastok a interné skratky bývajú zriedkavé alebo sa v tréningových dátach nevyskytujú. Zoznam kľúčových slov dáva modelu kontext, ktorý samotný zvuk nemusí jednoznačne poskytnúť. Pre servisné centrum môže byť správne zachytenie označenia zariadenia cennejšie než malé zlepšenie pri bežných slovách. Neznamená to však, že model smie zoznam mechanicky vkladať do každej podobne znejúcej pasáže.

Technické pozadie dopĺňa aprílová práca výskumníkov IBM o kontextovom usmerňovaní rozpoznávania reči. Skúma využitie bežných slov s čiastočne podobnou výslovnosťou ako akustických pomôcok a predikciu pozície zvýhodneného výrazu. Autori v konkrétnych experimentoch uvádzajú 16,3-percentné zníženie chýb pri takýchto slovách oproti porovnávacím systémom. Nie je to samostatný benchmark októbrového vydania ani nezávislé potvrdenie jeho výkonu. Práca však vysvetľuje, prečo je prispôsobovanie odborného slovníka samostatným výskumným problémom, nie iba formátovacou funkciou.

Pri praktickom teste by preto nestačilo spočítať všetky nesprávne slová dohromady. Odporúčaným postupom je osobitne sledovať názvy, čísla, negácie a priradenie výroku človeku. Prepis môže byť celkovo čitateľný, no napriek tomu zameniť číslo objednávky alebo nesprávne pripísať súhlas účastníkovi porady. Následné zhrnutie jazykovým modelom takúto chybu nemusí odhaliť; môže ju len premeniť na presvedčivejšiu vetu. Toto je prevádzkový dôsledok celého reťazca spracovania, nie doložené osobitné zlyhanie Granite Speech.

Otvorené váhy dávajú kontrolu, nie hotovú službu

Licencia Apache 2.0 a zverejnené váhy umožňujú uvažovať o vlastnom nasadení namiesto povinného posielania každej nahrávky externému poskytovateľovi. IBM uvádza podporu hlavného modelu v Transformers, vLLM, llama.cpp a mlx-audio pre Apple Silicon. Konkrétne nároky na pamäť, rýchlosť a vhodné nastavenia však závisia od použitej implementácie a hardvéru. Samotná prítomnosť integračného príkladu ešte nepreukazuje, že ľubovoľná kombinácia verzií alebo kvantizácie dosiahne publikované výsledky.

Otvorené spracovanie reči pritom nezačína týmto vydaním. Nezávislý kontext poskytuje dokumentácia projektu Whisper od OpenAI: zverejňuje viac veľkostí modelov, upozorňuje na výrazné rozdiely výkonu medzi jazykmi a rozlišuje prepis od prekladu. Jeho variant turbo napríklad podľa dokumentácie nie je trénovaný na prekladové úlohy. Tento príklad nepotvrdzuje prvenstvo Granite, ale dopĺňa dôležitú zásadu výberu: označenie rýchleho modelu ani jeho rodina samy osebe nehovoria, ktoré úlohy naozaj podporuje.

Dôležitá je aj príprava dlhších nahrávok. Modelová karta Granite Speech 5.0 2B odporúča pre najlepšie výsledky úseky približne do dvoch minút a dlhší zvuk pred dekódovaním rozdeliť, napríklad pomocou detekcie hlasovej aktivity. Výsledná kvalita služby preto závisí aj od segmentácie, nadväzovania úsekov a zachovania časových údajov. Systém na porady potrebuje navyše rozumne spracovať prestávky a zmeny hovoriacich. Model je významná súčasť riešenia, ale nie náhrada celej zvukovej pipeline.

Pre Slovensko rozhodne jazyk a cena ľudskej kontroly

Pre slovenský podnik so zahraničnými zákazníkmi môže mať novinka zmysel v presne vymedzenej časti prevádzky. Ako modelový príklad možno uviesť nemeckú zákaznícku linku alebo anglické interné školenia. Rozumný pilot by porovnal existujúci systém a Granite na rovnakých nahrávkach, s rovnakou segmentáciou a referenčným prepisom. Okrem presnosti by meral čas následnej opravy, náklady na spracovanie a počet záznamov vyžadujúcich kontrolu. Ide o odporúčanie pre hodnotenie, nie o správu o už uskutočnenom slovenskom nasadení.

Pri slovenských nahrávkach je záver prísnejší: vydanie neposkytuje doloženú podporu slovenčiny. Ani blízkosť iných európskych jazykov, ani schopnosť pridať odborné výrazy tento nedostatok automaticky neriešia. Vlastné dolaďovanie by bolo samostatným projektom s požiadavkami na dáta, vyhodnotenie a údržbu. Vlastná prevádzka zároveň sama osebe nezabezpečuje ochranu osobných údajov. Firma musí riešiť prístup k nahrávkam a prepisom, ich uchovávanie, záznamy o spracovaní aj prípadné odosielanie obsahu ďalším nástrojom.

Granite Speech 5.0 je preto relevantné vydanie najmä tým, že oddeľuje presnosť, rýchlosť a prácu s viacerými hovoriacimi do konkrétnych dostupných možností. Zatiaľ však chýba nami overené nezávislé porovnanie novej zostavy na reprezentatívnej podnikovej prevádzke. Zverejnené výsledky pochádzajú predovšetkým od IBM a neodpovedajú na každú otázku o oneskorení, nákladoch či kvalite v konkrétnej akustike. Najsilnejším argumentom na vyskúšanie sú dostupné váhy a dokumentácia; rozhodujúcim argumentom na nasadenie musí byť vlastné meranie.