Snapchat prestal odporúčať plne generované AI videá v Spotlight

Snap mení pravidlá odporúčania krátkych videí v službe Spotlight. Videá vytvorené celé pomocou umelej inteligencie už nebudú oprávnené na zaradenie do odporúčaní, zatiaľ čo obsah ľudí upravený alebo rozšírený pomocou nástrojov AI môže naďalej získavať distribúciu. Firma tým vytvára praktickú hranicu medzi syntetickým obsahom bez ľudského základu a tvorbou, pri ktorej AI slúži iba ako nástroj. Zmena sa podľa oficiálneho oznámenia uplatňuje od júla a má pokračovať aj v ďalších mesiacoch.

Spotlight je krátkovideová časť Snapchatu, v ktorej o dosahu nerozhodujú iba existujúci sledovatelia autora, ale najmä odporúčací systém. Vylúčenie z odporúčaní preto nie je kozmetická značka. Plne generované video môže zostať technicky publikovateľné, no stráca hlavnú cestu k organickému rastu a tým aj významnú časť ekonomickej motivácie vyrábať veľké množstvo lacného syntetického obsahu. Pravidlo zasahuje distribúciu, nie iba označovanie.

Snap rozhodnutie vysvetľuje rastom nekvalitných, opakujúcich sa a plne generovaných videí na internete. Platforma chce podľa vlastných slov odmeňovať osobné pohľady, príbehy a momenty vytvorené skutočnými ľuďmi. Firma hlási, že počet jedinečných prispievateľov do Spotlight medziročne vzrástol o viac než 120 percent. Ide o firemnú metriku bez nezávislého auditu, no naznačuje, že Snap nechce rast produktu postaviť na automatizovaných obsahových farmách.

Dôležitou súčasťou pravidla je zachovanie priestoru pre asistovanú tvorbu. Ak autor natočí vlastný materiál a použije nástroje Snapchatu na úpravu, rozšírenie alebo kreatívny efekt, video môže byť naďalej odporúčané. Takýto obsah má obsahovať indikátor transparentnosti. Platforma teda nehodnotí každé použitie modelu ako problém; snaží sa rozlíšiť, či je AI doplnkom ľudského prejavu alebo úplnou náhradou autora a pôvodného záznamu.

Hranica však nebude jednoduchá na presadzovanie. Plne syntetické video možno skombinovať s krátkym ľudským úvodom, prerobiť viacerými nástrojmi alebo exportovať bez metadát. Samotný Snap pripúšťa, že žiadny detekčný systém nie je dokonalý. V praxi bude musieť spájať informácie o použití vlastných nástrojov, stopy v súbore, obrazové a zvukové detektory, správanie účtu aj podobnosť medzi opakovane publikovanými videami. Každá z týchto metód prináša falošné pozitívne aj falošné negatívne výsledky.

Pre tvorcov je podstatné, že platforma neoznamuje všeobecný zákaz AI. Odmenená môže zostať animácia, vizuálny efekt, dabing či úprava obrazu, ak je súčasťou širšieho autorského procesu a je primerane označená. Väčšie riziko nesú účty, ktoré automaticky generujú celé videá, recyklujú rovnaké šablóny a publikujú vo veľkom objeme. Týmto účtom sa môže zhoršiť dosah aj bez formálneho odstránenia príspevkov.

Zmena nadväzuje na aprílové smerovanie Spotlight, keď Snap oznámil, že chce zvýrazňovať pôvodný obsah vytvorený kamerou Snapchatu a zobrazovať menej syntetických videí či široko preberaných príspevkov. Júlové pravidlo je konkrétnejšie: plne generované videá vylučuje z odporúčania. Z neurčitého signálu o preferencii autenticity sa tak stáva produktové kritérium s priamym vplyvom na viditeľnosť obsahu.

Pre reklamný trh a značky ide aj o otázku susedstva obsahu. Automaticky vyrábané videá môžu krátkodobo zvyšovať objem a čas sledovania, no znižujú dôveru používateľov a komplikujú posudzovanie pôvodu, práv či vhodnosti. Uprednostnenie ľudskej tvorby môže znížiť počet lacných videí v ponuke, ale zároveň zvýšiť hodnotu prostredia, v ktorom sa reklama zobrazuje. Snap tak uprednostňuje dlhodobejšiu kvalitu distribúcie pred maximálnym množstvom materiálu.

Pravidlo zároveň otvára otázku spravodlivosti. Nezávislí tvorcovia môžu používať generatívne nástroje z dôvodu dostupnosti, zdravotného obmedzenia, jazykovej bariéry alebo nízkeho rozpočtu. Príliš hrubý detektor by mohol znevýhodniť aj legitímne diela s výrazným ľudským vkladom. Platforma preto bude potrebovať zrozumiteľné vysvetlenie rozhodnutí, možnosť odvolania a presnejšie kategórie než jednoduché označenie „AI alebo nie AI“.

Snap zatiaľ nezverejnil technický prah, podľa ktorého určí, že video je vytvorené úplne pomocou AI, ani podrobnosti o sankciách pri nesprávnom označení. Potvrdená je zmena oprávnenosti na odporúčanie a pokračujúca podpora obsahu upraveného vlastnými kreatívnymi nástrojmi. Účinok bude možné posúdiť až podľa toho, či sa v Spotlight skutočne zníži množstvo opakujúceho sa syntetického obsahu bez toho, aby systém poškodil tvorcov používajúcich AI ako bežnú súčasť produkcie.

Širší význam rozhodnutia spočíva v tom, že platformy začínajú riešiť generovaný obsah cez ekonomiku pozornosti. Samotné označenie používateľovi povie, odkiaľ video pochádza, ale neznižuje motiváciu vyrábať ho vo veľkom. Obmedzenie odporúčaní túto motiváciu mení priamo. Ak sa prístup osvedčí, ďalšie siete môžu namiesto plošných zákazov vytvoriť podobné pravidlá, ktoré ponechajú priestor pre tvorivé použitie AI, no nebudú algoritmicky odmeňovať úplne automatizovanú výrobu obsahu.