AI agenti, 1. díl: Pomůžou v diagnostice i administrativě, mají ale svá rizika

Chatboti umějí odpovídat na dotazy. AI agenti už ale zvládnou propojit vícekrokové činnosti – třeba vést e-mailovou komunikaci se zákazníkem a na jejím základě sjednat schůzku nebo zadat úkol do projektového systému. S tím, jak jejich schopnosti rostou, se nicméně objevují možnosti zneužití.  

Globální trh s AI agenty zažívá skokový boom. Zatímco v roce 2024 měl hodnotu 5,4 miliardy dolarů, v roce 2025 už dosáhl téměř 8 miliard a predikce pro rok 2034 mluví o 236 miliardách. 

Podle analýzy poradenské společnosti PwC dokážou specializovaní AI agenti ve vývoji softwaru, zákaznických službách nebo zdravotnictví zvýšit produktivitu o více než 50 %. Zvládnou připravit komplexní dokumenty pro podání daní během jediného dne, což by lidským týmům zabralo i dva týdny. A v oblasti financí mění způsob shromažďování i analýzy dat, navíc zvyšují rychlost a kvalitu auditů. 

AI agent nejen reaguje, ale i plánuje a rozhoduje 

Jak AI agenti fungují? Pořád stojí na velkých jazykových modelech, tak jako chatboti typu ChatGPT, už ale neslouží pouze ke generování textu z naučených dat. Díky napojení na softwarové nástroje, externí databáze, CRM, ERP či API dokážou získávat aktuální informace, optimalizovat pracovní postupy a samostatně vytvářet dílčí úkoly, které vedou k dosažení cíle zadaného uživatelem.  

AI agenti s pamětí si navíc mohou pamatovat předchozí interakce, což jim umožňuje zlepšovat rozhodování, plánování, nebo třeba i schopnost personalizace. V praxi to znamená, že takový konkrétní agent nejen reaguje, ale také plánuje a rozhoduje, jaké kroky následně podnikne k dosažení výsledku na základě širšího kontextu z předchozích interakcí. Nejedná se ale o univerzální vlastnost agenta.

AI agenti zvládají jasně zadané a definované úkoly, ale u komplexnějších úloh je člověk stále ještě nenahraditelný. Vidíme ovšem rychlý posun: délka softwarových úloh, které agenti zvládnou samostatně vyřešit, se posledních 6 let každých 7 měsíců zdvojnásobuje.

Petr Hirš
ředitel Dataclair

Zdroj: METR, 2025

Jak fungují AI agenti krok za krokem 

Krok 1: Vnímání

AI agent nejprve získává vstupy z prostředí – může být spuštěn konkrétní událostí (například novým požadavkem, bezpečnostním incidentem nebo změnou v systému), nebo fungovat jako kontinuální monitor. Data čerpá z API, interních databází, CRM systémů, IoT senzorů či bezpečnostních logů. Díky tomu dokáže pracovat s aktuálním kontextem a připravit se na další krok. 

Krok 2: Rozhodování

Agent vyhodnocuje nasbírané informace pomocí velkých jazykových modelů a dalších algoritmů. To, jakým způsobem rozhoduje, závisí na jeho implementaci – tedy na tom, jaké postupy, pravidla a omezení mu nastavili vývojáři či správci. Na základě tohoto nastavení interpretuje situaci a určuje další krok. Míra jeho samostatnosti je tak volitelná. Může třeba jen navrhnout řešení, ale samotné provedení kroků bude stále na člověku. 

Krok 3: Akce

V poslední fázi AI agent jedná. Nejde přitom o pouhé doporučení – je schopný sám vykonat další krok v pracovním postupu, aniž by ho uživatel musel zadat. V ten okamžik se agent stává „digitálním zaměstnancem“, který skutečně zvládne úkol dokončit namísto člověka.  

Zdroj: Tredence, O2 

5 nejzajímavějších využití 

1. Diagnostika a organizace ve zdravotnictví 

Jedním z průkopnických systémů je RadFabric, který využívá AI agenty k propojení radiologie, laboratorních výsledků a anamnézy pacienta. Agenti v něm pomáhají prioritizovat vyšetření, tvořit předběžné zprávy a odhalovat skryté patologie. Ve výzkumné práci RadFabric (nejedná se o prohlášení o klinickém nasazení v praxi) její autoři reportují celkovou diagnostickou přesnost 0.799 a u fraktur přesnost 1.000 ve srovnání s tradičními systémy, kde se přesnost pohybuje na hodnotách 0.229 až 0.527. Kromě toho AI agenti ve zdravotnictví usnadňují organizaci péče – koordinují lékaře, sestry a laboratoře, sledují pacienty po zákroku a automaticky plánují vyšetření i návštěvy specialistů.  

2. Boj proti finančním podvodům 

Případová studie popisuje příklad jedné z největších britských bank, která nasadila AI agenty. Ti v reálném čase monitorují transakce, vyhodnocují podezřelé vzorce a automaticky hlásí rizikové případy. Díky agentnímu přístupu dosáhli 35% redukce počtu hlášených bezpečnostních incidentů a zároveň zrychlili reakční dobu bezpečnostního týmu. 

3. Personalizace v retailu a v e-commerce 

AI agenti dokážou kombinovat historii nákupů, chování uživatelů na webu a externí data, aby připravili personalizovaná doporučení v reálném čase. Walmart nedávno oznámil spuštění takzvaných AI super agentů, mezi nimiž je nákupní asistent Sparky. Ten umí zákazníkovi doporučit vhodné produkty, spravovat objednávky, a dokonce pracovat s vizuálními vstupy, jako jsou fotografie módních stylů. 

4. Výroba a logistika: Prediktivní údržba 

AI agenti napojení na senzory a IoT sledují výkon strojů a umějí odhalit blížící se poruchu. V případě abnormalit mohou stroje automaticky zastavit a předejít výpadku. Podle některých údajů tak firmy snižují náklady na údržbu o 18–25 % a zvyšují dostupnost zařízení o 5–15 %. 

5. Zákaznická podpora 24/7 

Dnešní AI agenti zvládají nejen odpovědi, ale i řešení komplexních požadavků – od resetu účtu po vrácení zboží. Díky integraci s CRM a platebními bránami dokážou samostatně dokončit celý proces. Agenti služby Zendesk zvládají až 80 % všech zákaznických interakcí, přičemž snižují náklady na podporu o 30 % a zároveň výrazně zkracují dobu odpovědi. 

AI může Čechům pomoct s konkurenceschopností

Zobrazit

Kde můžou AI agenti ublížit?  

Autonomie může dát AI agentům obrovskou sílu – ale právě v ní se skrývá i největší riziko. Pokud nemusejí čekat na pokyn člověka a jednají samostatně, mohou během vteřin spustit incident, který je těžké zastavit. 

Důležité je, že míra autonomie AI agenta se dá nastavit podle potřeby. Může pracovat samostatně, ale klidně i v režimu, kdy jen navrhuje další kroky a finální rozhodnutí a provedení stále potvrzuje uživatel.

Petr Hirš
ředitel Dataclair

AI agent funguje jako digitální zaměstnanec, který může mít klíče od firemních systémů. Jenže s těmito klíči se zároveň otevírají dveře zcela novým typům útoků. Agent operuje ve firemních systémech pod vlastní identitou a s přesně definovanými oprávněními. A to, jak jsou práva nastavena a řízena, pak určuje, jaké nové bezpečnostní scénáře musíte zohlednit.

Riziko zesilují tři faktory: 

• Širší útoková plocha: S každým novým agentem roste množství bodů, kudy může útočník proniknout do systému. Propojenou síť agentů tvoří desítky potenciálních slabin – od API koncových bodů po databáze či integrační moduly. Útok tak nemusí mířit na hlavní aplikaci, ale třeba na agenta zákaznické podpory, přes kterého se útočník dostane i do finančních či HR systémů.  
• Rychlost šíření chyb: AI agenti často provádějí rutinní úkoly v procesech – od zpracování transakcí přes práci s databázemi až po komunikaci e-mailem. Zatímco lidská chyba se obvykle projeví v řádu minut či hodin, u agentů může jediný špatně vyhodnocený podnět (například phishingový e-mail) spustit stovky takových akcí během několika sekund. Výsledkem může být nejen nechtěné odeslání dat, ale i jejich replikace do napojených systémů a rychlé rozšíření škodlivého kódu napříč infrastrukturou. 
• Těžší odhalení: AI agenti napodobují lidské chování – komunikují přirozeně, adaptují se na kontext a jejich akce působí běžně. To ztěžuje bezpečnostním týmům rozlišení mezi legitimním úkolem (hromadné zaslání faktur) a škodlivou aktivitou (masové odesílání dat). Výsledkem je delší doba detekce incidentu a větší výhoda pro útočníka. 

Proto je nezbytné uvažovat o AI agentech nejen jako o nástroji, ale i jako o novém vektoru kybernetických hrozeb. A to jak v případě interních agentů, tak u agentů, se kterými vaše firma přijde do styku zvenčí, třeba u vlastních dodavatelů. 

Příklady jejich selhání

Předá falešná data managementu. Pokud je špatně natrénovaný nebo podlehne manipulaci, může poskytnout zkreslené reporty či analýzy vedení. To může vést k chybným rozhodnutím, finančním ztrátám nebo ohrožení strategie celé firmy. 

Dokončí phishingovou platbu bez lidského schválení. V případě, že nemá zavedené kontrolní mechanismy, může podlehnout podvodné žádosti a převést peníze útočníkovi. Riziko je o to vyšší, že agenti umějí jednat rychle a bez konzultace. 

Odešle databázi zákazníků ven z firmy. Chybná konfigurace nebo kompromitace může způsobit, že agent sdílí citlivá data s nepovolanými osobami. To vede nejen k porušení předpisů (například GDPR), ale i k ohrožení reputace a důvěry klientů. 

Zavede škodlivý kód přes kompromitovaný externí nástroj. Při integraci s externími službami hrozí, že agent nepozná kompromitovaný modul nebo knihovnu a nasadí kód, který poškodí systémy, otevře zadní vrátka nebo šíří malware. 

Zahltí systémy stovkami falešných požadavků. Pokud ztratí kontrolu nebo je zneužitý, může spustit lavinu zbytečných úloh, která přetíží infrastrukturu. Následkem mohou být výpadky služeb, zvýšené náklady i nespokojenost zákazníků. 

V příštím díle našeho seriálu se dostaneme k tomu, jak AI agenta správně nastavit a řídit. Má mít vlastní účet? Jaká oprávnění mu svěřit? A kdo ponese odpovědnost, pokud agent udělá chybu nebo způsobí bezpečnostní incident? 

Co si z článku odnést?  

• AI agenti toho umějí mnohem více než chatboti, dokážou propojovat celé řetězce úkolů a samostatně je dokončit. 
• Jejich využívání už dnes mění například diagnostiku ve zdravotnictví nebo zákaznický servis. 
• Agenti nejsou plně autonomní, poradí si se strukturovanými úkoly, které mají jasně definovaný cíl a dostupné nástroje pro ověření správnosti. Naopak selhávat mohou u komplexních nebo otevřených úkolů. 
• Problémy můžou dělat nejen AI agenti uvnitř organizace, ale i agenti, kteří s organizací interagují zvenčí. Služby, které dosud využívali jen lidé, najednou začnou úplně jinak používat agenti. 
• Z hlediska kyberbezpečnosti spočívá riziko AI agentů v rozšířené útokové ploše, kdy místo jednoho statického systému vzniká ekosystém agentů propojených s externími službami.  
• Potíže můžou nastat i kvůli rychlosti eskalace možného problému a také horší detekci podezřelých akcí. 

Kateřina Dobrá
Marketingový specialista pro B2B

Káťa se věnuje tvorbě článků, O2 CyberCastu a newsletterů na téma kyberbezpečnosti a moderních technologií. Srozumitelně překládá složitá témata do lidské řeči, propojuje technický svět s praxí a ráda jde pod povrch věcí. Zaměřuje se na bezpečnost dat, nové technologické trendy a jejich reálný dopad na firmy i jednotlivce.