Od redakcie: AI sa učí pracovať so zdrojmi, ľuďmi aj hranicami dôvery

AI novinky z 19. augusta 2026 spája jedna praktická otázka: ako dostať schopnosti modelov z pôsobivej ukážky do systému, ktorému možno zveriť skutočnú prácu? Odpovede prichádzajú z viacerých strán. Apple skúmal, kedy sa jazykové modely správajú až príliš ľudsky a ako také prejavy ovplyvňuje systémový prompt. Google preniesol generatívne rozhrania, interaktívne kvízy a obrazové vysvetľovanie hlbšie do vyhľadávania. AWS pridalo agentom presnejšiu kontrolu nad webovými zdrojmi a zároveň zverejnilo prípadovú štúdiu produkčného multiagentového zákazníckeho systému.

Nejde pritom o štyri izolované oznámenia. Spoločne ukazujú, že ďalšia fáza AI nebude stáť iba na výkonnejšom modeli. Rozhodovať bude práca so zdrojmi, vhodne navrhnuté používateľské rozhranie, obmedzenie neželaného správania, prevádzková architektúra a schopnosť vysvetliť, odkiaľ odpoveď pochádza. To je dôležité aj pre slovenské firmy, školy a verejné inštitúcie: model sa dá kúpiť alebo prenajať pomerne ľahko, no dôveryhodný systém okolo neho treba navrhnúť.

Apple skúma, kedy model pôsobí až príliš ľudsky

Apple zverejnil výskum zameraný na „ľudské“ správanie veľkých jazykových modelov. Autori analyzovali 21 000 viacťahových konverzácií so štyrmi široko používanými modelmi: GPT-4o, GPT-4.1 mini, Claude Sonnet 4.6 a Gemini 2.5 Flash. Hodnotili prejavy, ako sú rozprávanie o vlastných myšlienkach a emóciách, budovanie vzťahu s používateľom, odmietanie požiadaviek či udržiavanie hraníc. Kombinovali automatizované hodnotenie pomocou LLM s ľudskou evaluáciou.

Výsledok nie je jednoduchým tvrdením, že antropomorfné správanie je vždy dobré alebo vždy zlé. Výskumníci zistili, že je rozšírené, ale jeho intenzita sa líši medzi modelmi, cieľmi rozhovoru aj profilmi používateľov. Ľudskí hodnotitelia považovali sebavzťahové a vzťah budujúce prejavy za menej primerané pri modeli než pri človeku. Naopak, správanie, ktorým si model udržiava hranice, hodnotili pri AI priaznivejšie. Systémové prompty dokázali tieto prejavy ovplyvniť, no zásah mohol mať aj nechcené vedľajšie účinky.

Pre tvorcov produktov je to upozornenie, že tón asistenta nie je iba kozmetická voľba. Model, ktorý tvrdí, že „cíti“, „pamätá si používateľa“ alebo si s ním vytvára osobný vzťah, môže meniť očakávania človeka od systému. Používateľ môže ľahšie prezradiť citlivé údaje, preceňovať porozumenie modelu alebo považovať štatisticky vytvorenú odpoveď za prejav skutočného záujmu. Riziko rastie pri deťoch, osamelých ľuďoch, v zdravotníctve a pri službách, ktoré sa vedome snažia maximalizovať čas strávený v aplikácii.

Slovenské organizácie by preto pri obstarávaní chatbotov nemali hodnotiť iba presnosť odpovedí. Do testov patria aj otázky, či systém správne komunikuje svoje obmedzenia, nepredstiera vedomie, nesľubuje nemožnú dôvernosť a nevytvára zavádzajúci dojem trvalého osobného vzťahu. Pri zákazníckej podpore môže byť priateľský jazyk žiaduci, no používateľ musí vedieť, že komunikuje so softvérom. V školskom alebo zdravotnom prostredí by mali byť hranice ešte zreteľnejšie.

Výskum má zároveň limity. Ide o štyri konkrétne modely a vybraný súbor konverzačných cieľov a používateľských profilov. Hodnotenie primeranosti je čiastočne kultúrne podmienené a automatický rozhodca môže reprodukovať preferencie modelu použitého na evaluáciu. Zistenie, že systémový prompt správanie riadi, tiež neznamená, že jednoduchá veta v konfigurácii problém vyrieši. Každú zmenu treba preveriť na reálnych scenároch, pretože potlačenie jedného prejavu môže zhoršiť empatiu, zrozumiteľnosť alebo schopnosť bezpečne odmietnuť nevhodnú požiadavku.

Google mení vyhľadávanie na interaktívne učebné prostredie

Google predstavil päť spôsobov, ako chce pomocou AI rozšíriť učenie vo Vyhľadávaní. Najviditeľnejšou zmenou sú generované interaktívne vizualizácie a nástroje. Pri otázke o stupnici pH môže používateľ dostať nielen textové vysvetlenie, ale aj interaktívny prvok. V režime AI Mode možno následne požiadať o špecializovanejšiu vizualizáciu prispôsobenú konkrétnej otázke. Generatívne používateľské rozhrania sú podľa Googlu dostupné globálne v angličtine v AI Mode a začali sa objavovať aj v AI Overviews.

Druhou novinkou sú prispôsobené cvičné kvízy pre prírodné vedy, matematiku, humanitné predmety či cudzie jazyky. Google uvádza aj podporu prípravy na vybrané štandardizované skúšky. Kvízy majú obsahovať vysvetlenie odpovedí a odkazy na ďalšie zdroje; v angličtine sú bezplatne dostupné v AI Overviews a AI Mode. Lens má v najbližších týždňoch rozšíriť prácu s fotografiou zadania: systém má upozorniť na chybný krok, vysvetliť postup a umožniť pokračovať doplňujúcimi otázkami.

Takéto rozhranie môže znížiť bariéru pri predmetoch, v ktorých nestačí prečítať statický text. Študent si môže vyžiadať inú formuláciu, vizualizáciu alebo tréningový test bez čakania na ďalšiu hodinu. Pre učiteľov môže byť AI užitočná pri príprave variantov úloh a pri rýchlom odhaľovaní miest, ktorým žiaci nerozumejú. Zároveň sa však vyhľadávač posúva z úlohy katalógu zdrojov do úlohy aktívneho sprostredkovateľa učiva. To zvyšuje jeho vplyv na to, ktoré vysvetlenie študent uvidí a čo bude považovať za správne.

Pre slovenského používateľa sú podstatné dve obmedzenia. Viaceré novinky štartujú globálne, ale iba v angličtine. Funkcia notebookov v AI Mode má byť podľa poznámky Googlu dostupná v podporovaných krajinách Gemini Notebook s výnimkou Európskeho hospodárskeho priestoru. Nemožno teda automaticky predpokladať rovnakú funkčnosť na Slovensku. Dostupnosť sa môže meniť podľa jazyka, účtu, veku a regiónu.

Druhou hranicou je správnosť. Interaktívny prvok môže vyzerať presvedčivejšie než obyčajný text, no stále môže vzniknúť z nepresného výkladu alebo nesprávneho predpokladu. Kvíz vytvorený na mieru nie je automaticky pedagogicky vyvážený. Pri matematike, fyzike či chémii môže zdanlivo malá chyba zmeniť celý výsledok. Školy preto potrebujú pravidlá, ktoré odlíšia AI ako pomôcku pri vysvetľovaní od AI ako nekontrolovaného zdroja hotových odpovedí. Dôležité bude aj to, či žiak dokáže otvoriť pôvodné zdroje a porovnať viac vysvetlení.

Z pohľadu regulácie a ochrany maloletých nestačí označiť funkciu za „bezpečnú už v návrhu“. Prevádzkovateľ školy alebo platformy musí vedieť, aké údaje sa spracúvajú, či sa uchovávajú fotografie zadaní, ako sa riešia vekové obmedzenia a kto nesie zodpovednosť pri nesprávnom odporúčaní. Európske prostredie navyše kladie väčší dôraz na transparentnosť, ochranu osobných údajov a primeranosť automatizovaných systémov. Regionálne odlišnosti preto nie sú iba produktovým oneskorením, ale často výsledkom právnych a prevádzkových rozhodnutí.

AWS dáva agentom presnejšiu kontrolu nad webom

Amazon Web Services oznámilo nové filtre pre Web Search v Amazon Bedrock AgentCore. Vývojári môžu pri každej požiadavke určiť povolené domény a požadovaný interval dátumu publikovania. Filtre sa podľa AWS uplatňujú na strane služby. Web Search sa zároveň rozširuje do regiónov Európa (Írsko) a Ázia a Tichomorie (Tokio).

Na prvý pohľad ide o menšiu funkciu, no pri agentoch je podstatná. Bežný chatbot môže nesprávnu odpoveď odovzdať používateľovi. Agent, ktorý samostatne zhromažďuje podklady, pripravuje rozhodnutie alebo spúšťa ďalší pracovný krok, môže chybu rozšíriť do celého procesu. Ak vyhľadá starý cenník, neaktuálny zákon alebo neoficiálnu kópiu dokumentu, následné kvalitné uvažovanie už chybný vstup nezachráni.

Doménové filtre umožňujú obmedziť vyhľadávanie napríklad na interné portály, oficiálne registre, dôveryhodné médiá alebo dokumentáciu dodávateľa. Dátumový filter pomáha pri úlohách, kde je čerstvosť rozhodujúca. Praktickým príkladom pre slovenskú firmu môže byť agent sledujúci verejné obstarávanie, produktové zmeny dodávateľov alebo nové metodické usmernenia. Namiesto neurčitého pokynu „použi aktuálne zdroje“ dostane technicky vynútiteľné hranice pre konkrétny dotaz.

Ani takéto filtre však neriešia pravdivosť automaticky. Oficiálna stránka môže obsahovať zastaraný dokument, nesprávne nastavený dátum alebo marketingové tvrdenie. Povolenie jednej domény môže znížiť rozmanitosť pohľadov a vylúčiť opravu publikovanú inde. Dátum vydania zase nie je to isté ako dátum účinnosti. Produkčný agent preto potrebuje uchovávať URL, čas načítania a ideálne aj citovanú pasáž. Pri dôležitých rozhodnutiach by mal porovnať viac zdrojov a odovzdať neistotu človeku, nie ju zamaskovať plynulou odpoveďou.

Írsky región je zaujímavý pre európskych zákazníkov pre latenciu a možnosti regionálneho nasadenia, ale samotný výber regiónu nie je úplnou zárukou právneho súladu. Organizácia musí preveriť celý dátový tok, zmluvné podmienky, logovanie, subdodávateľov, dobu uchovania údajov a charakter vyhľadávaného obsahu. To platí najmä pri osobných údajoch, obchodnom tajomstve a dokumentoch podliehajúcich sektorovým pravidlám.

Multiagentový systém sa musí navrhovať podľa prevádzky, nie podľa dema

Druhý príspevok AWS opisuje, ako Fanatics Betting and Gaming vytvoril multiagentový systém zákazníckej podpory. Prostredie športového stávkovania kombinuje pravidlá odlišné podľa jednotlivých jurisdikcií, požiadavky zodpovedného hrania a prudké špičky počas veľkých športových udalostí. Práve takýto príklad ukazuje, prečo jeden univerzálny prompt často nestačí.

Rozdelenie práce medzi viac agentov môže oddeliť smerovanie požiadavky, vyhľadanie pravidiel, prácu s účtom a vytvorenie odpovede. Výhodou je špecializácia a možnosť nastaviť rozdielne oprávnenia. Agent, ktorý vysvetľuje všeobecné pravidlá, nemusí mať prístup k osobným údajom. Komponent pracujúci s účtom zase nemusí voľne prehľadávať web. Menší rozsah oprávnení znižuje následky chybného rozhodnutia alebo škodlivého vstupu.

Viac agentov však automaticky neznamená kvalitnejší systém. Každé odovzdanie úlohy pridáva latenciu, náklady a ďalšie miesto, na ktorom sa môže stratiť kontext. Ak nie je jasné, kto vlastní konečné rozhodnutie, jednotlivé komponenty si môžu protirečiť alebo si navzájom potvrdzovať chybný predpoklad. Hodnotiť preto treba celý pracovný tok: správnosť smerovania, kvalitu zdrojov, dodržanie oprávnení, čas odpovede, cenu úspešne vyriešeného prípadu a podiel situácií odovzdaných človeku.

Pre slovenské banky, poisťovne, telekomunikačné firmy či prevádzkovateľov regulovaných služieb je dôležitá najmä myšlienka situačných pravidiel. Odpoveď sa môže meniť podľa produktu, zmluvy, krajiny, dátumu alebo typu zákazníka. Takéto pravidlá by nemali zostať iba v systémovom prompte. Spoľahlivejšie je uchovávať ich v spravovaných zdrojoch, verziovať ich, obmedziť prístup a zaznamenať, ktorá verzia sa použila. AI potom nie je autoritou, ale vrstvou, ktorá pravidlo nájde, vysvetlí a aplikuje v povolenom rozsahu.

Osobitnú pozornosť si zaslúžia špičky. Agent, ktorý funguje v pokojnom teste, môže počas náporu začať prekračovať časové limity, opakovať volania nástrojov alebo spotrebovať nečakane veľa tokenov. Prevádzkový návrh preto potrebuje limity, cache, sledovanie nákladov, degradovaný režim a jasný prechod na človeka. V regulovaných procesoch je bezpečné odmietnutie alebo oneskorená odpoveď často lepšia než rýchla, ale vymyslená rada.

Spoločný kontext: dôvera sa presúva z modelu na celý systém

Štyri udalosti dňa vytvárajú konzistentný obraz. Apple ukazuje, že dôveru ovplyvňuje aj spôsob, akým model hovorí o sebe a o vzťahu s používateľom. Google ukazuje, že generovaný obsah sa mení na interaktívne rozhranie a vstupuje do učenia, kde môže ovplyvniť pochopenie témy. AWS rieši pôvod a aktuálnosť webových podkladov a zároveň demonštruje, ako agentov rozdeliť pri zložitej prevádzke.

Pre prax z toho vyplýva, že benchmark modelu je iba začiatok. Organizácia potrebuje testovať správanie vo viacťahovej konverzácii, kvalitu a čerstvosť zdrojov, hranice oprávnení, regionálnu dostupnosť, náklady aj zlyhania. Potrebuje tiež používateľovi zrozumiteľne ukázať, kedy komunikuje s AI, odkiaľ pochádza odpoveď a kedy výsledok preveril človek.

Neistota zostáva vo viacerých oblastiach. Appleho výsledky nemožno bez ďalších testov zovšeobecniť na všetky modely a kultúrne prostredia. Novinky Googlu nemajú rovnakú jazykovú a regionálnu dostupnosť a ich reálny pedagogický prínos sa ukáže až pri používaní. AWS filtre zlepšujú kontrolu vyhľadávania, nie samotnú pravdivosť webu. Prípadová štúdia jedného multiagentového nasadenia zas nie je univerzálnym receptom pre každý podnik.

Najdôležitejší posun preto nie je v tom, že AI dostala ďalšie funkcie. Je v tom, že tvorcovia produktov začínajú explicitnejšie riešiť okolnosti ich použitia: kto s modelom komunikuje, aké zdroje môže čítať, ktoré kroky smie vykonať, kde sa spracúvajú údaje a čo sa stane pri neistote. Práve tieto otázky rozhodnú, či sa z AI stane spoľahlivá infraštruktúra, alebo iba presvedčivá vrstva nad nevyriešenými rizikami.

— Redakcia AI Feed