Kanadský AI register sa mení na test transparentnosti verejného sektora

Kým veľká časť AI spravodajstva sleduje modely a produkty, menej nápadné, no dlhodobo mimoriadne dôležité boje sa vedú okolo transparentnosti a verejnej zodpovednosti. Práve sem patrí nová práca Bureaucratic Silences, ktorá analyzuje prvý federálny AI register v Kanade. Autori tvrdia, že registre AI systémov nie sú len neutrálne zoznamy technológií používaných štátom. Sú to aktívne administratívne nástroje, ktoré určujú, čo sa považuje za relevantné priznanie, čo ostáva skryté a ako sa v praxi kreslí hranica medzi deklarovanou a skutočnou zodpovednosťou.

To je dôležitá téma práve teraz, keď európske aj mimoeurópske inštitúcie tlačia na dokumentáciu modelov, auditovateľnosť a správu rizika. Kanadský register ponúka zaujímavú empirickú sondu do toho, čo sa stane, keď sa princíp transparentnosti premení na byrokratický formulár. Podľa autorov analýza 409 systémov odhaľuje rozdiel medzi rétorikou suverénnej a zodpovednej AI a každodennou praxou, v ktorej veľa kľúčových detailov mizne, zjednodušuje sa alebo ostáva neporovnateľných.

Pre verejný sektor je to mimoriadne relevantné varovanie. Registre sa často zavádzajú ako riešenie dôvery: občania majú získať prehľad, čo štát používa, na čo a s akým dopadom. Ak je však štruktúra registra navrhnutá zle, vznikne presný opak. Formálne síce existuje transparentnosť, no prakticky je ťažké porozumieť riziku, prepojiť systém s rozhodovacou právomocou alebo zistiť, kde sa skrývajú citlivé použitia. Inak povedané, aj zverejnený register môže produkovať ticho namiesto jasnosti.

Dopad presahuje vlády. Podobná logika sa bude týkať aj podnikov, ktoré budú musieť viesť interné inventáre modelov, dokumentovať nasadenie agentov alebo dokazovať, ako pristupujú k dátam a rozhodovacím procesom. Firmy môžu mať pokušenie chápať tieto registre ako compliance checklist. Práca však naznačuje, že kvalita takého zoznamu rozhodne o tom, či slúži na riadenie rizika, alebo len na vytváranie dojmu, že riziko je pod kontrolou.

Z trhového pohľadu je to ďalší signál, že regulačná vrstva AI sa nebude lámať len na veľkých zákonoch, ale aj na detailoch implementácie. To, ako budú nastavené registre, dokumentačné povinnosti a klasifikácie systémov, ovplyvní náklady na compliance aj reputačné riziko. Posilní to dopyt po nástrojoch, ktoré vedia zbierať metadáta o modeloch a deploymentoch priebežne, nie až dodatočne pred auditom.

Samozrejme, treba dodať, že ide o kritickú akademickú analýzu, nie o oficiálne priznanie zlyhania zo strany štátu. Aj tak je však cenné, že sa diskusia presúva od abstraktného sloganu transparentnosti k otázke, čo presne musí register obsahovať, aby mal demokratickú aj praktickú hodnotu. Bez tohto rozlíšenia sa môže veľmi ľahko stať, že AI governance bude vyzerať prísne na papieri, no slabé v každodennej prevádzke.

Pre Slovensko a širšiu EÚ je to zaujímavé aj v predstihu. Keď sa budú budovať interné registre a evidencie AI systémov vo verejnom sektore, bude dôležité neopakovať chybu, v ktorej sa transparentnosť zamieňa s byrokratickým minimom. Verejné inštitúcie budú potrebovať nielen zoznam nástrojov, ale aj zrozumiteľné väzby na účel, dáta, rozhodovacie právomoci, úroveň automatizácie a zodpovedné osoby.

Téma tak zapadá do širšej línie AI trhu, kde sa dôvera stáva prevádzkovou disciplínou. Nestačí mať model, nestačí mať pravidlo, treba mať aj čitateľný záznam o tom, ako systém funguje v konkrétnej inštitúcii. A práve tam sa často rozhoduje, či bude AI governance reálna alebo len papierová.

Preto je kanadský register zaujímavý nielen ako domáca politická téma. Je to laboratórny test toho, ako bude vyzerať transparentnosť AI v ére, keď sa dokumentácia stáva povinnou súčasťou nasadenia.