Meta sťahuje z Instagramu AI funkciu, ktorá napodobňovala verejné účty

Meta po niekoľkých dňoch stiahla jednu z najcitlivejších častí nových AI efektov v Instagram Stories. Funkcia mala používateľom umožniť v Meta AI vytvárať obrázky tak, že v zadaní @-spomenú verejný instagramový účet, ktorý chcú použiť ako referenciu. Spoločnosť v aktualizácii oficiálneho príspevku uviedla, že zámerom bolo dať ľuďom tvorivý nástroj a zároveň kontrolu nad tým, či sa ich verejný obsah môže takto referencovať. Po spätnej väzbe však priznala, že funkcia „minula cieľ“, a oznámila, že už nie je dostupná.

Samotný produktový príspevok pritom pôvodne oznamoval viac než tridsať nových AI efektov pre Stories v USA. Meta ich postavila na modeli Muse Image, ktorý predstavila ako prvý obrazový generátor z nového tímu Meta Superintelligence Labs. Používateľ má vybrať fotografiu, použiť pripravený efekt alebo napísať vlastný prompt a systém má upraviť scénu, svetlo, kompozíciu či štýl. V tejto časti nejde o nezvyčajný posun: Instagram už roky stavia na filtroch a efektoch, len ich teraz presúva do generatívnej vrstvy. Problém nastal pri sociálnom rozšírení, ktoré do tvorby zapájalo verejné účty iných ľudí.

Rozdiel medzi obyčajným efektom a referenciou na cudziu verejnú identitu je zásadný. Verejný účet na sociálnej sieti neznamená automatický súhlas s tým, aby sa jeho fotografie, vzhľad alebo vizuálny štýl používali ako vstup pre generovanie nových obrázkov v súkromnom alebo virálnom kontexte. Aj keď Meta hovorila o ovládacích prvkoch v nastaveniach zdieľania a opätovného použitia, kritika sa sústredila na opačné nastavenie otázky: citlivá možnosť bola predstavená ako tvorivá funkcia, nie ako samostatný súhlas každého človeka, ktorého účet sa môže stať referenciou.

TechCrunch upozornil, že funkcia podľa opisu nemala používateľa automaticky upozorniť, ak niekto použil jeho verejný účet ako referenciu. To je pri obrazových generátoroch dôležité, pretože výstup nemusí byť iba neškodná koláž alebo narodeninová karta. Rovnaká technika môže viesť k zosmiešňovaniu, sexuálne ladeným úpravám, falošným scénam alebo k obsahu, ktorý človek nikdy nezverejnil ani neschválil. Sociálne siete už dnes bojujú s nevyžiadanými syntetickými podobizňami a s nástrojmi, ktoré sa dajú zneužiť na útoky najmä voči ženám, verejne známym osobám a tvorcom.

Pre Metu je prípad nepríjemný aj preto, že sa odohral hneď pri jednej z prvých verejných ukážok nového superintelligence tímu. Muse Image a súvisiace efekty mali ukázať, že firma vie pretaviť výskum a infraštruktúru do produktov, ktoré sú zábavné a ľahko použiteľné. Namiesto toho sa diskusia rýchlo presunula k otázke, či firma dostatočne rozlišuje medzi kreatívnou editáciou vlastnej fotografie a generovaním obsahu s odkazom na cudziu digitálnu identitu. V spotrebiteľskom produkte s miliardami používateľov je takýto rozdiel prakticky dôležitejší než samotná kvalita modelu.

Z produktového hľadiska nejde len o jednu vypnutú voľbu v Stories. Meta testuje hranicu, ako sa generatívna AI dá prepojiť so sociálnym grafom: s účtami, označeniami, priateľmi, verejnými profilmi a existujúcim obsahom. Práve tento sociálny kontext robí funkcie atraktívnymi, ale zároveň zvyšuje riziko. Keď model upravuje anonymnú ukážkovú fotografiu, problém je najmä v kvalite a autorských právach. Keď model pracuje s reálnym človekom, ktorý má sledovateľov, históriu príspevkov a reputáciu, pribúdajú otázky súhlasu, upozornení, možnosti namietať a rýchleho odstránenia škodlivých výstupov.

Poučenie pre celý trh je širšie než Instagram. Vývojári multimodálnych aplikácií často hovoria o „kontrole používateľa“, no pri AI produktoch nestačí, aby kontrolu mal len ten, kto generuje výstup. Kontrolu potrebuje aj osoba, ktorej obsah alebo identita sa stáva materiálom pre generovanie. Bez jasného oddelenia týchto dvoch rolí vzniká asymetria: tvorca obsahu nesie reputačné a osobné riziko, zatiaľ čo experiment vykonáva niekto iný. Preto budú pri podobných funkciách čoraz dôležitejšie predvolené nastavenia, výslovný súhlas, notifikácie a jednoduché auditovateľné záznamy o použití.

Regulačne sa tento prípad zmestí do širšej debaty o syntetickom obsahu, biometrických podobizniach a ochrane pred deepfake zneužitím. Nie každá úprava fotografie je deepfake v právnom zmysle, ale používateľské očakávanie je podobné: ak systém dokáže vyrobiť obraz, ktorý sa opiera o konkrétneho človeka alebo jeho verejný účet, platforma musí mať jasné pravidlá ešte pred spustením. Dodatočné vypnutie po vlne kritiky je lepšie než zotrvanie pri spornom návrhu, no zároveň ukazuje, že interné hodnotenie rizík zachytilo problém príliš neskoro.

Pre bežných používateľov je praktický dopad dvojitý. Na jednej strane sa konkrétna možnosť @-spomínať verejné účty v Meta AI podľa oficiálnej aktualizácie už nedá používať. Na druhej strane samotné AI efekty v Stories a širšie smerovanie k personalizovaným generatívnym nástrojom pokračujú. Používatelia by preto mali pravidelne kontrolovať nastavenia zdieľania a opätovného použitia obsahu, najmä ak majú verejný profil, a platformy by mali takéto voľby vysvetľovať zrozumiteľnejšie než len ako ďalší prepínač v nastaveniach.

Najdôležitejší signál je, že spätná väzba pri AI produktoch začína fungovať rýchlejšie, ale stále až po uvedení funkcie. Meta dokázala kontroverznú voľbu stiahnuť v priebehu dní, čo znižuje bezprostredné škody. Pre dôveru v multimodálne AI však bude rozhodujúce, či podobné sociálne funkcie budú v budúcnosti navrhnuté opačne: najprv s explicitným súhlasom a bezpečnostnými hranicami, až potom s kreatívnou viralitou. Inak sa aj technicky zaujímavé modely budú vnímať najmä cez konflikty okolo identity, súkromia a nevyžiadaného použitia verejného obsahu.