OpenAI opisuje, ako chce plniť pravidlá EÚ pre všeobecné modely a AI obsah

OpenAI zverejnil prehľad, ako prepája svoju správu modelov s pravidlami Európskej únie pre umelú inteligenciu. Firma uvádza, že podporila Kódex postupov pre všeobecné modely AI a osobitný Kódex postupov pre transparentnosť obsahu vytvoreného AI. V praxi ide o dve rozdielne vrstvy: prvá pomáha poskytovateľom všeobecných modelov preukázať plnenie povinností v oblasti transparentnosti, autorského práva, bezpečnosti a ochrany systémov, druhá sa sústreďuje na informovanie ľudí o pôvode syntetického alebo upraveného obsahu. Oznámenie je stanoviskom samotného poskytovateľa, preto jeho tvrdenia treba čítať spolu s oficiálnymi materiálmi Európskej komisie.

Európska komisia opisuje kódex pre všeobecné modely ako dobrovoľný nástroj, ktorý má firmám uľahčiť súlad so zákonom o AI. Kódex vznikol v procese vedenom nezávislými expertmi a skladá sa z troch častí: transparentnosť, autorské právo a bezpečnosť so zabezpečením. Prvé dve sa týkajú všetkých poskytovateľov všeobecných modelov, bezpečnostná časť je určená najmä pre najpokročilejšie modely so systémovým rizikom. Podpis kódexu nenahrádza zákon ani dohľad regulátora, môže však znížiť administratívnu záťaž a poskytnúť jasnejší spôsob, ako dokumentovať plnenie povinností.

OpenAI svoju pripravenosť opiera o niekoľko už existujúcich mechanizmov. Pri veľkých vydaniach zverejňuje systémové karty, používa interné testovanie a externý red teaming a verejne opisuje zásady správania modelov v dokumente Model Spec. Rámec pripravenosti má slúžiť na identifikovanie a riadenie závažných rizík pokročilých systémov, zatiaľ čo Frontier Governance Framework vysvetľuje rozhodovanie o hodnotení rizík, ochranných opatreniach, incidentoch a aktualizáciách. Novinkou v európskom kontexte nie je existencia týchto dokumentov, ale ich explicitné priradenie k požiadavkám a dobrovoľným kódexom EÚ.

Pre podnikových zákazníkov je kľúčové, že dokumentácia poskytovateľa rieši iba časť súladu. Organizácia, ktorá model nasadí do náboru, úverovania, zdravotníctva, verejnej správy alebo iného citlivého procesu, musí posúdiť vlastný prípad použitia, údaje, ľudský dohľad a dopad na dotknuté osoby. Systémová karta môže vysvetliť schopnosti a známe riziká základného modelu, no nevie automaticky pokryť kvalitu firemných dát, oprávnenia agentov, lokálne integrácie ani spôsob, akým zamestnanci používajú výstupy. Praktický program súladu preto potrebuje inventár modelov, záznamy o rozhodnutiach, hodnotenia rizika a pravidelné testovanie konkrétneho nasadenia.

Druhou veľkou témou je pôvod digitálneho obsahu. OpenAI uvádza kombináciu Content Credentials založených na štandarde C2PA a neviditeľných značiek SynthID. C2PA môže k obrázku alebo inému súboru pripojiť overiteľné informácie o tom, ako vznikol a či bol upravený; vodoznak sa snaží zachovať signál aj vtedy, keď platforma alebo používateľ odstráni časť metadát. Firma chce opatrenia rozšíriť z obrázkov aj na zvuk a postupne hľadá riešenia pre text. Sama pritom priznáva zásadné obmedzenie: metadáta sa môžu stratiť, značky nemusia prežiť všetky úpravy a žiadny jednotlivý signál nie je spoľahlivý vo všetkých distribučných kanáloch.

Pre médiá, platformy a verejné inštitúcie z toho vyplýva potreba vrstveného overovania. Označenie od poskytovateľa je užitočný dôkaz, nie konečný rozsudok o pravosti. Pri dôležitom obsahu treba kombinovať informácie o pôvode súboru, históriu publikovania, dôveryhodnosť účtu, forenznú analýzu a nezávislé potvrdenie udalosti. Osobitne pri zvuku je rizikom napodobnenie hlasu, vystrihnutie krátkeho úseku alebo prevod cez službu, ktorá pôvodné údaje nezachová. Rozšírenie označovania je preto technicky dôležité, no jeho účinnosť bude závisieť od podpory editorov, sociálnych sietí, cloudových úložísk a koncových aplikácií.

OpenAI osobitne spája regulačný rámec s kybernetickou bezpečnosťou. Pokročilé modely môžu pomáhať obrancom pri hľadaní a opravovaní zraniteľností, rovnaké schopnosti však môžu znižovať náklady útočníkov. Program Trusted Access for Cyber má sprístupniť citlivejšie možnosti overeným obrancom za prísnejších podmienok. Firma zároveň odkazuje na európsky kybernetický akčný plán a spoluprácu s agentúrami, prevádzkovateľmi kritickej infraštruktúry a súkromným sektorom. Ide o príklad riadeného prístupu podľa rizika, ktorého kvalita sa bude posudzovať podľa kontroly oprávnení, monitorovania používania, reakcie na incidenty a merateľného prínosu pre obranu.

Oznámenie neznamená, že OpenAI získal všeobecné potvrdenie súladu pre všetky modely a služby. Dobrovoľný kódex poskytuje cestu, ako súlad preukazovať, ale konkrétne povinnosti, termíny a posúdenia zostávajú viazané na zákon a postup európskych orgánov. Navyše sa budú meniť spolu s modelmi: nový režim agentov, pokročilejšie kybernetické schopnosti alebo generovanie ďalšej modality môžu vytvoriť riziká, ktoré staršia dokumentácia nepokrýva. Organizácie by preto nemali chápať podpis poskytovateľa ako dôvod prestať s vlastným auditom alebo preniesť všetku zodpovednosť na dodávateľa API.

Praktickým krokom pre firmy je prepojiť technický a právny inventár. Ku každému modelu a verzii treba evidovať účel, vlastníka procesu, zdroj dát, prístupové oprávnenia, hodnotenia kvality, známe obmedzenia a plán reakcie na zlyhanie. Pri generovanom obsahu sa má sledovať, či nástroj poskytuje údaje o pôvode a či ich interný publikačný reťazec zachová. Pri agentoch treba navyše zaznamenávať volania nástrojov, schvaľovanie citlivých krokov a hranice autonómie. Takéto dôkazy majú pre audit väčšiu hodnotu než všeobecné vyhlásenie, že organizácia používa model od signatára kódexu.

Európsky rámec tým vytvára tlak na to, aby bezpečnosť a transparentnosť neboli iba produktovým sľubom, ale opakovateľným procesom s dokumentmi, testami a zodpovednými osobami. OpenAI teraz verejne ukazuje, ktoré svoje mechanizmy považuje za súčasť tohto procesu. Ďalším testom bude ich konzistentné uplatňovanie pri nových modeloch, kvalita zverejnených údajov a schopnosť zákazníkov preniesť signály poskytovateľa do vlastnej správy rizík. Pre európsky trh je dôležité najmä to, že sa diskusia posúva od abstraktných princípov ku konkrétnym povinnostiam, dôkazom o pôvode a prevádzkovej zodpovednosti.