PRÁCE S DATY SOCIÁLNÍ INŽENÝRSTVÍ AI MALWARE ROZHOVOR

Co očekávat od roku 2025? Odpovídají odborníci z O2

Kateřina Benešová
19. 02. 2025

Rok 2025 přináší nové výzvy a trendy, které zásadně ovlivní technologickou i bezpečnostní sféru. Oslovili jsme šest expertů z různých oblastí společnosti O

Co očekávat od roku 2025? Odpovídají odborníci z O2

₂, aby se s námi podělili o své predikce. Umělá inteligence, kybernetická bezpečnost, cloudová infrastruktura nebo kvantové počítače – to vše jsou témata, která budou hrát podle oslovených odborníků klíčovou roli.

Co můžeme očekávat od roku 2025 z hlediska bezpečnosti a technologií? Podle oslovených odborníků bude letošek rokem technologických zlomů a rychlého vývoje v oblasti umělé inteligence. Jak ukazují predikce odborníků, AI se stane klíčovým nástrojem nejen pro inovace, včetně třeba dotažení samořiditelných aut, ale i pro kyberzločince.

Rostoucí automatizace, nové hardwarové možnosti a příchod sofistikovaných AI agentů zásadně ovlivní to, jak budou firmy i jednotlivci s těmito technologiemi pracovat a jak se budou chránit před novými hrozbami.

Vedle AI se do popředí dostává i bezpečnost cloudových prostředí, která budou stále častějším cílem útoků. Chybná konfigurace cloudových služeb a nedostatečná ochrana otevírají útočníkům dveře k citlivým datům. Souběžně s tímto trendem se na obzoru objevuje výzva v podobě rozvoje kvantových počítačů, které ohrožují tradiční kryptografické algoritmy.

Zároveň poroste počet útoků na dodavatelské řetězce, které bývají opomíjeným slabým místem u řady firem. Tímto směrem míří i nový zákon o kybernetické bezpečnosti, který dotčeným podnikům nařizuje si své dodavatele hlídat. A vůbec přináší zpevnění celého prostředí.

Rok 2025 tak bude obdobím, kdy firmy, státy i jednotlivci budou muset investovat nejen do technologických inovací, ale také do posilování své kybernetické obrany a vzdělávání v těchto klíčových oblastech.

Další rozvoj umělé inteligence

Rok 2025 přinese nejen další rozvoj softwarových nástrojů využívajících umělou inteligenci, ale také významné pokroky v oblasti hardwaru. A to vše dál rozšíří adopci AI v každodenním životě.

Zásadním milníkem pak bude příchod tzv. AI agentů. Jak uvádí Jan Hruška, technický šéf O₂, tito agenti nejen že si budou „povídat“ s uživatelem, ale budou schopni skutečně jednat a samostatně vykonávat komplexní úkoly. To na jednu stranu otevírá nové možnosti pro automatizaci firemních procesů, ale přináší také výzvy spojené s kontrolou a bezpečností těchto řešení.

Roman Bacík, šéf pro mobilní produkty a inovace O₂, předpovídá, že se AI bude více prolínat do firemní sféry i osobního použití. A stane se zásadním nástrojem pro zefektivňování firemních procesů. A také proto bude nutné používání AI ve firmách více kontrolovat. Že si to některé firmy už dnes uvědomují, potvrzuje Vítězslav Hájek, Segment manager B2B – Security & ICT v O₂, který zaznamenává rostoucí zájem klientů o bezpečnost nových nástrojů, jako je například Copilot.

ChatGPT nemusí vědět všechno. Která data rozhodně nesdílet s modely AI?

Zobrazit článek

Jak se umělá inteligence stává nedílnou součástí firemních procesů, roste také potřeba zaměstnance na každodenní práci s AI připravit. Petr Hirš, šéf O₂ kompetenčního centra pro umělou inteligenci Dataclair, zdůrazňuje, že vzdělávání bude v této oblasti naprosto zásadní. „V roce 2025 bude klíčové, aby firmy u svých zaměstnanců budovaly základní AI znalosti. Důležité také bude připravit prostředí tak, aby lidé měli zabezpečený přístup k AI nástrojům, mohli experimentovat a tím se s nástroji tohoto typu postupně sžili natolik, že se stanou součástí jejich nového způsobu práce,“ vysvětluje. Bez dostatečně připravených zaměstnanců by totiž mohlo docházet ke zvyšování rizik spojených s nesprávným využitím AI nebo promeškání možností inovace.

Umělá inteligence tak bude v následujícím roce nejen nástrojem inovace, ale také předmětem důležitých debat o bezpečnosti, etice a odpovědném přístupu. Rok 2025 bude klíčový pro to, jak se společnosti naučí AI efektivně a bezpečně používat.

Umělá inteligence jako zbraň útočníků

Podle mnohých expertů se umělá inteligence stane v roce 2025 klíčovým nástrojem také v rukou hackerů a kyberzločinců. Její schopnosti vytvářet sofistikované kampaně sociálního inženýrství, automatizace procesů a využívání obrovských objemů dat z ní činí mimořádně efektivní prostředek k nabourávání bezpečnostních opatření firem po celém světě.

Jednou z oblastí, kde již dnes AI pomáhá kyberzločincům, je sociální inženýrství. Generativní umělá inteligence umožňuje vytvářet mimořádně přesvědčivé phishingové e-maily, které dokážou zmanipulovat oběť k nejrůznějším činům.

Sociální inženýrství v éře generativní AI: Trendy v roce 2024

Zobrazit článek

Šéf bezpečnosti O₂ Radek Šichtanc upozorňuje, že AI zvyšuje rychlost i přesnost těchto útoků. „AI již dnes umožňuje hackerům automatizovat phishingové kampaně a vytvářet falešné identity za pomoci deepfake technologie,“ varuje Šichtanc. Kombinace sociálního inženýrství a AI podle něj radikálně zvyšuje účinnost těchto útoků.

Deepfake technologie se v rukou kyberpodvodníků stávají dalším nebezpečným nástrojem. Tyto technologie umožňují vytvářet přesvědčivá videa, která mohou být zneužita k nejrůznějším manipulacím – třeba k vylákání finančních prostředků, jak se to například stalo britské stavební firmě v Singapuru, která kvůli jednomu deepfake útoku přišla o miliony dolarů.

Minuty, které stály miliony: skutečný případ deepfake podvodu

Zobrazit podcast

Deepfake videa podle Šichtance můžou sloužit i k ovlivňování veřejného mínění nebo šíření dezinformací.

AI ale v rukou hackerů není jen nástrojem pro sociální inženýrství. Stejně jako AI pomáhá programátorům s tvorbou kódu, dokáže vytvářet i kód škodlivý. Malware poháněný umělou inteligencí má schopnost adaptovat své chování v reálném čase, čímž se vyhýbá tradičním metodám detekce a dokáže s velkou přesností identifikovat a zneužívat zranitelnosti.

V neposlední řadě se AI dá zneužít i k automatizaci nejrůznějších procesů. Automatizované průzkumné nástroje umožňují hackerům shromažďovat detailní informace o systémech, zaměstnancích nebo obranných opatřeních cílů hackerů s nevídanou rychlostí a přesností. Díky tomu se zkracuje doba potřebná k plánování útoku a umožňuje se realizace komplexních operací ve velmi krátkém čase.

Vzniká něco, co můžeme nazvat ‚válkou robotů‘. Hackeři nemají problém investovat do nejlepších IT nástrojů a úspěšně využívají veškeré dostupné technologie včetně AI.

Tomáš Křešťák
ředitel pro fixní služby a inovace O2

Rok 2025 podle Tomáše Křešťáka, šéfa produktu a inovace pevné sítě O₂, také přinese „industrializaci hackerství“. „Vzniká něco, co můžeme nazvat ‚válkou robotů‘. Hackeři nemají problém investovat do nejlepších IT nástrojů a úspěšně využívají veškeré dostupné technologie včetně AI,“ vysvětluje Křešťák.

Tento trend má dokonce už i svoje vlastní označení. Na darkwebu se rozvíjí model Cybercrime-as-a-Service (CaaS), který demokratizuje přístup ke specializovaným hackerským nástrojům. CaaS umožňuje i méně zkušeným kyberzločincům jednoduše si koupit automatizované sady pro realizaci hackerských útoků i podvodů. Ostřílenější útočníci proto zároveň zdokonalují své služby a nabízejí čím dál cílenější a škodlivější ataky. Včetně kombinace digitální a fyzické hrozby.

Radek Šichtanc také upozorňuje na možnost zneužívání legitimních AI nástrojů. Hackeři mohou provádět útoky na AI modely prostřednictvím tzv. datapoisoningu – manipulace nebo ovlivnění tréninkových dat a modelů.

Nově otevřenou frontou je cloud

Další trend, který očekávají oslovení odborníci, se týká cloudu. Radek Šichtanc předpovídá, že se cloudová prostředí budou stávat stále častějším cílem útoků: „Dá se predikovat významný trend zaměření útočníků na cloudové aplikace,“ tvrdí. Rostoucí závislost organizací na cloudu přináší nejen obrovské technologické výhody, ale také nové výzvy v oblasti ochrany dat.

Některé z nejčastějších příčin narušení bezpečnosti dat podle Radka Šichtance souvisejí s chybnou konfigurací cloudových prostředí, mezi které patří chybějící kontroly přístupu nebo neefektivní implementace bezpečnostních zásad. Tyto slabiny často otevírají útočníkům dveře k citlivým informacím a klíčovým systémům.

Data v cloudu přinášejí nízké náklady a vysokou flexibilitu

Zobrazit článek

Podle Vítězslava Hájka je zřejmé, že poptávka po bezpečných cloudových řešeních rychle roste, zejména ve státní správě. „Očekáváme boom poptávek po bezpečném cloudu a ochraně cloudových prostředí před ransomwarem,“ uvádí Hájek.

Rok 2025 tak přinese nejen vyšší nároky na zabezpečení cloudových prostředí, ale i tlak na firmy a organizace, aby investovaly do ochrany svých cloudových služeb.

Nutnost kvantově bezpečných řešení

Další zásadní výzvu v roce 2025 představuje rozvoj kvantových počítačů. Radek Šichtanc předpovídá, že v roce 2025 bude stěžejní implementace kvantově bezpečných sítí s využitím kvantové distribuce klíče a postkvantové kryptografie. Tyto technologie budou nutností pro ochranu dat v prostředí, kde kvantové počítače začnou překonávat limity tradičních kryptografických algoritmů.

Spolu s rozvojem kvantových počítačů je nutné zaměřit se i na vývoj a aplikaci nových, odolných kryptografických protokolů.

Radek Šichtanc
Šéf bezpečnosti O2

„Spolu s rozvojem kvantových počítačů je nutné zaměřit se i na vývoj a aplikaci nových, odolných kryptografických protokolů,“ vysvětluje Šichtanc. Postkvantová kryptografie má zásadní význam, protože stávající šifrovací metody, jako je RSA nebo ECC, mohou být s příchodem výkonných kvantových počítačů prolomeny v řádu minut. Nové protokoly, které jsou navrženy tak, aby odolaly schopnostem kvantových počítačů, se stávají prioritou.

Šichtanc proto doufá, že bude v ČR čím dál častěji docházet k reálnému nasazení kvantově bezpečných sítí. Tyto sítě by měly zajistit bezpečnost citlivých dat prostřednictvím kvantové distribuce klíče, která zajišťuje neprolomitelné šifrování díky základním principům kvantové fyziky.

Co si z článku odnést?

Rok 2025 přinese významné rozšíření umělé inteligence nejen v oblasti inovací, ale i jako nástroje kyberzločinců. AI bude zásadní pro automatizaci firemních procesů i odhalování bezpečnostních anomálií. Zároveň AI zvýší efektivitu phishingových útoků a zneužívání deepfake technologií.
Hackeři budou stále častěji využívat modely jako Cybercrime-as-a-Service (CaaS), které demokratizují přístup k pokročilým hackerským nástrojům.
Cloudová prostředí se stávají častým cílem kyberútoků zejména kvůli chybné konfiguraci a nedostatečným bezpečnostním opatřením.
Vývoj kvantových počítačů ohrožuje tradiční šifrovací algoritmy. Implementace kvantově bezpečných sítí a postkvantové kryptografie se stane nezbytností pro ochranu citlivých dat a dlouhodobou kyberbezpečnost.
Jako pozitivní vidí naši experti přijetí a implementaci nového zákona o kybernetické bezpečnosti. Zároveň se budou dál posouvat nejrůznější technologie. Třeba podle Jana Hrušky bude v Česku pokračovat masivní výstavba optického internetu. A dojde i k dotažení samořiditelných aut.