Kanadský AI register ukazuje, že transparentnosť verejného sektora môže byť iba formálna

Výskumná práca Bureaucratic Silences sa pozerá na prvý federálny AI register vlády Kanady nie ako na neutrálny katalóg systémov, ale ako na nástroj, ktorý sám formuje predstavu o tom, čo sa v štáte považuje za zodpovedné používanie AI. Autori analyzovali všetkých 409 záznamov v registri a tvrdia, že spôsob, akým sú systémy opísané, môže verejnosti ukazovať iba technickú fasádu bez širšieho rozhodovacieho kontextu.

Jadro argumentu je jednoduché: transparentnosť nie je iba o tom, že úrad niečo zverejní. Dôležité je aj to, čo presne zverejní, čo vynechá a aké kategórie použije. Ak register vysvetľuje AI hlavne ako efektívny nástroj pre interné procesy, ale neukazuje, kde do procesu vstupuje človek, kde vzniká neistota alebo aké kompromisy musia pracovníci robiť, verejnosť dostáva iba obmedzený obraz o reálnom fungovaní týchto systémov.

Podľa abstraktu je až 86 percent evidovaných systémov nasadených interne na zvýšenie efektivity. To samo osebe nie je problém. Zaujímavé však je, že register má podľa autorov tendenciu skryť tréning ľudí, úroveň ľudskej diskrečnej kontroly aj spôsoby manažovania neistoty. Výsledkom je obraz AI ako spoľahlivého administratívneho nástroja, nie ako sporného rozhodovacieho mechanizmu, ktorý si vyžaduje priebežný dohľad a možnosť verejnej námietky.

Pre regulačnú diskusiu je dôležité aj to, že práca nepíše iba o jednom konkrétnom štáte. Kanadský príklad funguje ako upozornenie pre každú vládu alebo verejnú inštitúciu, ktorá chce dokazovať zodpovednosť jednoduchým dashboardom, registrom alebo zoznamom modelov. Takýto artefakt môže navonok pôsobiť otvorene, no zároveň môže ukryť tie aspekty, ktoré sú pre občanov kľúčové: dopad na práva, skutočné rozhodovacie toky, možnosť odvolania či priestor na ľudský zásah.

Z pohľadu firiem je to praktická lekcia aj mimo verejného sektora. Podnikové AI registre, interné inventáre modelov a compliance katalógy sú čoraz populárnejšie, no ak sa sústredia iba na názov systému, účel a technické metriky, môžu vytvoriť podobne zavádzajúci pocit kontroly. Auditovateľnosť totiž nevzniká zo samotného zoznamu aktív, ale z prepojenia na procesy, zodpovedné osoby, eskalačné pravidlá a popis situácií, v ktorých sa model nemá použiť bez dodatočného overenia.

Výskumníci preto implicitne posúvajú debatu od otázky „máme register?“ k otázke „aký typ zodpovednosti register naozaj umožňuje?“. To je dôležitý posun v čase, keď sa čoraz viac krajín aj podnikov snaží ukázať pripravenosť na AI reguláciu formálnou dokumentáciou. Papierovo správny register môže byť užitočný začiatok, no ak neodhaľuje limity a neumožňuje spochybniť rozhodnutia, môže sa zmeniť len na rituál súladu.

Treba dodať, že ide o akademickú analýzu založenú na jednom konkrétnom registri a abstrakt neukazuje všetky metodické detaily. Napriek tomu už z popisu vyplýva silný a praktický záver: transparentnosť AI sa nedá redukovať na inventár modelov. Pre štát, regulátorov aj enterprise tímy bude čoraz dôležitejšie, aby dokumentácia zahŕňala aj ľudské rozhodovanie, výnimky, neistotu a reálne hranice nasadenia.

Ak sa tento pohľad presadí, môže ovplyvniť aj to, ako budú vyzerať budúce registre pod AI Actom a podobnými rámcami. Menej marketingovej transparentnosti a viac contestability – teda možnosti pochopiť, namietať a auditovať rozhodnutie – bude pravdepodobne to, čo od podobných systémov začne očakávať nielen akademická obec, ale aj podniková správa rizík.