OpenAI navrhuje medzinárodný inštitút pre bezpečnejšie používanie AI deťmi

OpenAI zverejnila politický návrh, ktorý posúva debatu o deťoch a umelej inteligencii z úrovne rodičovských nastavení na úroveň medzinárodnej koordinácie. Pred rokovaniami lídrov G7 vo Francúzsku firma vyzýva na vznik medzinárodného inštitútu pre bezpečnosť mladých používateľov AI, prípadne na rozšírenie mandátu niektorého existujúceho národného AI inštitútu. Cieľom nemá byť ďalšia jednorazová deklarácia, ale trvalé miesto, ktoré bude zhromažďovať dôkazy, vydávať odporúčania a pomáhať štátom aj firmám držať krok s rýchlo sa meniacimi produktmi.

Téma je dôležitá preto, že generatívna AI sa pre mladých ľudí rýchlo stáva bežným rozhraním k učeniu, tvorbe aj sociálnym situáciám. OpenAI v texte pripomína pozitívne použitia: vysvetlenie ťažkého učiva, prípravu na pracovný pohovor, učenie jazykov či tvorivé experimentovanie. Zároveň však tvrdí, že bezpečnosť nemôže zostať prenesená najmä na rodičov a samotné deti. Ak sa AI produkty dostávajú do školského a domáceho prostredia, základné ochrany majú byť zabudované priamo v službách a majú byť vekovo primerané.

Navrhovaný inštitút by mal podľa OpenAI plniť najmä praktickú funkciu. Mal by zdieľať výskum o tom, ako deti a tínedžeri AI používajú, vyhodnocovať riziká rôznych vekových skupín, pripravovať odporúčania pre dizajn produktov a pomáhať vytvárať spoločné štandardy. Takýto prístup je odlišný od čisto právnej regulácie: namiesto jedného pevného pravidla pre všetky služby by inštitút priebežne aktualizoval poznatky a prekladal ich do konkrétnych technických a produktových rozhodnutí.

OpenAI zároveň priznáva, že trh už dnes potrebuje spoločný jazyk. „Bezpečná AI pre mladých“ môže znamenať veľa rôznych vecí: filtrovanie nevhodného obsahu, ochranu súkromia, limity personalizácie, vysvetliteľné nastavenia pre rodičov, pravidlá pre školské nasadenie alebo mechanizmy, ktoré bránia emočne závislým či manipulatívnym interakciám. Ak každá firma zavedie vlastné definície, školy, rodičia aj regulátori budú ťažko porovnávať, čo jednotlivé produkty naozaj robia.

Praktický dopad pre poskytovateľov AI služieb je jasný: ochrany pre deti sa budú čoraz viac posudzovať ako základná súčasť produktu, nie ako doplnková voľba. To môže ovplyvniť spôsob, akým modely odpovedajú na citlivé témy, ako si služby pýtajú súhlas, ako sa nastavujú profily maloletých a ako sa logujú či vyhodnocujú interakcie. Pre školy to znamená, že nákup AI nástrojov bude vyžadovať nielen cenu a výkon, ale aj dôkaz o bezpečnostných procesoch.

Návrh zároveň zapadá do širšieho posunu v politike AI. Doteraz sa veľká časť medzinárodnej debaty sústredila na najvýkonnejšie modely, kybernetické riziká, biologickú bezpečnosť alebo manipuláciu informácií. Detská bezpečnosť je iný typ problému: nejde iba o extrémne scenáre, ale o každodenné používanie systémov, ktoré môžu vplývať na učenie, sebahodnotenie, sociálne vzťahy a rozhodovanie mladých ľudí. Práve preto OpenAI zdôrazňuje potrebu dôkazov a kontinuity.

S návrhom treba zaobchádzať aj kriticky. OpenAI je zároveň firma, ktorá chce, aby sa AI produkty používali vo vzdelávaní a medzi mladými ľuďmi. Volanie po medzinárodnom inštitúte preto nie je neutrálne: môže pomôcť nastaviť vyššiu latku, ale môže aj formovať reguláciu spôsobom, ktorý vyhovuje veľkým platformám s kapacitou plniť komplexné štandardy. Dôležité bude, či do procesu dostanú silný hlas školy, detskí psychológovia, ochrancovia súkromia, občianske organizácie a samotní mladí používatelia.

Pre európske prostredie je téma obzvlášť citlivá. AI Act už vytvára pravidlá pre rizikové systémy, ochrana detí však často presahuje hranice jednej legislatívy. V praxi pôjde o kombináciu školských politík, pravidiel pre digitálne služby, ochrany osobných údajov a technických štandardov. Ak sa diskusia G7 posunie k funkčnému inštitútu, môže to urýchliť vznik spoločných testov a odporúčaní, ktoré budú musieť rešpektovať aj produkty dostupné v Európe.

Najdôležitejší signál z oznámenia je preto tento: bezpečnosť detí pri AI sa stáva samostatnou medzinárodnou témou. Už nejde len o to, či model odmietne nevhodnú otázku. Ide o to, kto bude zbierať dôkazy, kto bude definovať vekovo primerané používanie a kto bude niesť zodpovednosť, keď sa AI stane bežnou súčasťou učenia aj dospievania.