OpenAI podporuje európsky kódex transparentnosti AI obsahu

OpenAI oznámilo podporu európskemu kódexu postupov pre transparentnosť AI generovaného obsahu. Ide o súčasť širšej implementácie európskeho AI Actu, ktorá sa netýka iba samotného trénovania modelov, ale aj toho, ako používatelia, platformy a verejnosť rozpoznávajú pôvod textu, obrazu, zvuku či videa. Firma tým signalizuje, že označovanie AI obsahu a práca s metadátami už nie sú iba dobrovoľná bezpečnostná vrstva, ale postupne sa menia na praktickú požiadavku pre veľkých poskytovateľov AI.

Kľúčové slovo v oznámení je pôvod obsahu, často označovaný anglickým pojmom provenance. V praxi ide o technické a organizačné signály, ktoré majú pomôcť zistiť, či bol obsah vytvorený alebo upravený AI systémom, akým nástrojom prešiel a či sa s ním po vytvorení manipulovalo. OpenAI pripomína, že už pri DALL-E 3 začalo pridávať C2PA metadáta a neskôr rozširovalo vlastné nástroje na overovanie pôvodu. C2PA je otvorený štandard pre kryptograficky viazané informácie o pôvode mediálneho súboru.

Európsky kódex je dôležitý najmä preto, že samotný vodoznak nestačí. Používatelia sa s obsahom stretávajú na sociálnych sieťach, v správach, reklamách, interných firemných dokumentoch aj v súkromných chatoch. Časť metadát sa môže pri kopírovaní stratiť, niektoré platformy ich nemusia zobrazovať a pri škodlivých kampaniach sa útočníci môžu snažiť signály odstrániť. Preto OpenAI hovorí o ekosystémovom prístupe: modelové laboratóriá, distribučné platformy, tvorivé nástroje aj prehliadače musia vedieť s informáciou o pôvode pracovať konzistentne.

Pre európske firmy a verejné inštitúcie to má praktický dôsledok. Ak organizácia používa generatívnu AI na tvorbu marketingu, interných dokumentov, vzdelávacích materiálov alebo vizuálneho obsahu, nebude stačiť iba povedať, že „AI pomáhala“. Bude potrebné vedieť, aké nástroje boli použité, kde sa uchováva dôkaz o pôvode a ako sa táto informácia prenáša cez redakčný alebo schvaľovací proces. Transparentnosť sa tak presúva z právneho dodatku do každodennej správy obsahu.

Oznámenie má aj politický rozmer. OpenAI zdôrazňuje, že podporuje vykonateľné pravidlá v Európe a nadväzuje na svoju skoršiu podporu kódexu pre všeobecné AI modely. Pre Brusel je to signál, že veľké modelové firmy nechcú zostať mimo procesu, ktorý bude určovať praktické štandardy. Zároveň však platí, že dobrovoľný kódex nie je náhradou za vynucovanie. Skutočný test príde pri tom, ako budú firmy dokladať súlad, ako budú riešiť chyby v označovaní a či budú nástroje použiteľné aj pre menších aktérov, ktorí nemajú vlastné bezpečnostné tímy.

Pre médiá a tvorcov obsahu môže byť najväčšou zmenou nové očakávanie overiteľnosti. Ak AI nástroj vytvorí obrázok alebo upraví video, redakcia bude chcieť vedieť, či sa pôvod dá zachovať až po publikovanie. Ak sa pôvod stratí, vzniká otázka, či je problém v nástroji, v publikačnej platforme alebo v internom procese. Aj preto sú štandardy typu C2PA dôležitejšie než uzavreté označenia jedného dodávateľa. Otvorený formát umožňuje, aby informáciu čítali viaceré nástroje a služby.

Z bezpečnostného hľadiska však nejde o všeliek. Metadáta a overovacie nástroje pomáhajú pri čestnom alebo polovične čestnom toku obsahu, no nezastavia všetky deepfaky, screenshoty, opätovné nahratie ani syntetický obsah vytvorený systémami mimo pravidiel. Ich hodnota je skôr v znižovaní informačnej hmly: ak dôveryhodné platformy a tvorcovia budú dôsledne niesť signály o pôvode, používatelia získajú lepší základ na posudzovanie, čo vidia. Tam, kde signál chýba, bude potrebná opatrnosť a ďalšie overovanie.

OpenAI preto nevydalo iba reputačné vyhlásenie. Ukazuje, že nasledujúca fáza regulácie AI bude technicky konkrétna: bude sa týkať metadát, verifikačných nástrojov, produktového dizajnu a zodpovednosti v celom reťazci tvorby obsahu. Pre slovenské a európske organizácie je vhodný čas začať mapovať, kde AI obsah vzniká, kto ho schvaľuje a či sa informácia o pôvode zachová aj po exporte, preklade alebo publikovaní. Transparentnosť AI obsahu sa stáva prevádzkovou disciplínou, nie iba témou pre právne oddelenie.