Právnička Petra Dolejšová: Jak AI Act ovlivní vaši firmu i dodavatele

Evropská unie vstupuje do oblasti regulace umělé inteligence s novým nařízením AI Act. Co to znamená pro firmy, které vyvíjejí nebo využívají nástroje AI? Jaké změny je čekají v oblasti dat, certifikací nebo interních procesů? Odbornice na AI právo Petra Dolejšová přináší srozumitelný pohled na to, jak firmy mohou nařízení využít k vlastnímu rozvoji, a zároveň upozorňuje na chyby, kterým se raději vyhnout.



Na co se vás coby právničky ve firmách nejčastěji ptají, když dojde na AI?

Firmy nejvíce řeší několik základních otázek. Kdo vlastní autorská práva ve chvíli, kdy něco vygeneruju? Co můžu promptovat a co už ne? Jaká data můžu do AI nástrojů vkládat? A když chci vlastní jazykový model, na jakých datech ho můžu cvičit? A když pouštím do firmy nějaký externí nástroj, co by měl splňovat?

Co přináší AI Act?

Toto nařízení bylo přijaté na jaře 2024 a účinnost je rozplánovaná do tří částí – některé věci platí po půl roce, další za rok a poslední nakonec za dva roky. Nařízení v první řadě říká, že budeme mít na evropském trhu čtyři kategorie AI nástrojů.

V první kategorii budou zakázané nástroje, které v Unii nechceme. Takové, které by nás mohly nějak podprahově manipulovat. Nebo by nás mohly skórovat a následně nám zakazovat přístup ke službám a podobně.

Do druhé kategorie AI Act zařazuje nástroje, které budou mít tak zásadní dopad na naše životy, že je třeba je podchytit legislativně, certifikací. Abychom viděli, na jakých datech se cvičily, aby je někdo monitoroval a dohlížel na ně. Sem patří nástroje, které budou řídit letadla, metro, dodávky energií. Nebo budou řešit, na jakou se hodíme školu či pracovní pozici. Případně jestli dostaneme půjčku.

Pak je kategorie, kam spadají nástroje generativní AI jako ChatGPT, Midjourney a další. Těm se jenom říká, že jejich výstupy musí být označené. A nejen vodoznakem, ale přímo nějakým elektronicky čitelným kódem.

No a potom je poslední kategorie a ta nebude regulovaná nijak.

Na příchod AI jsme byli jako Evropa už připravení

AI Act nicméně zatím plně neplatí. Znamená to, že se teď nacházíme v nějaké době Divokého západu, podobně jako v minulosti v případě sdílené ekonomiky nebo kryptoměn? Dost často totiž legislativa za implementací nových technologií silně zaostává.

U AI to neplatí. Je důležité vědět, že nová legislativa primárně koriguje vývoj AI nástrojů a softwaru. Tedy pokud vyloženě něco takového nevyvíjíte, nejste tím nijak spoutaný a uchopený. Drtivá většina firem bude používat externí AI nástroje. A to už máme legislativně uchopené dávno. Což mě samotnou jako právničku šokovalo: že jsme v dnešní rigidní době byli na příchod AI celkem dobře připravení.

Zapracovala i tady Evropská unie?

Jasně, bavíme se třeba o GDPR, autorských zákonech, legislativě, která reguluje reklamu. Tohle všechno už dávno máme. Takže pokud vyloženě nevyvíjíte vlastní software, který by se učil na datech, tak se vás AI Act až tak dramaticky netýká.

Už k AI Act přijali nějaký postoj tvůrci velkých generativních modelů?

Připravují se na něj. Je to trochu jak s tím Divokým západem: až teď velké AI firmy začaly zjišťovat, že po nich Evropa bude chtít zavést nějaké parametry. AI Act třeba bude požadovat, aby nástroje nasadily filtry, díky nimž nebudou moci uživatelé vygenerovat dílo, které kopíruje jiné. Nástroje taky budou muset dávat pozor, aby jejich učící data byla pořízená legálně. Což už se děje teď: když zadáte ChatGPT nebo Copilotovi dotaz, rovnou vám uvede zdroj.

Díky AI Actu se nám bude lépe spát

Jaký je váš osobní názor na AI Act?

Evropskou unii mám ráda jako institut, ale jsem obrovský kritik její legislativy, která s sebou často přináší brutální administrativu. Ale v případě AI Actu si myslím, že Evropa udělala neskutečnou práci, že je to dobrá věc. Uživatelsky pro nás budou AI nástroje méně kolizní a líp se nám budou používat. A taky se nám bude lépe spát.

Kromě toho nebudeme mít v Evropě nástroje, které tu upřímně fakt nechceme. V Číně fungují AI nástroje, které vás monitorují na každém kroku. V Americe chtějí používat modely, které budou predikovat, jestli někoho zabijete, nebo ne, a podle toho se na vás úřady budou zaměřovat. Tomu se v Evropě zaplaťpánbůh vyhneme.

Jak se k problematice AI staví česká legislativa? Padla už nějaká soudní rozhodnutí?

Už jedno máme, ale byl to spíš jakýsi lakmusový papírek, testování soudů, jak se k tomu budou stavět. Šlo o problém ohledně autorských práv k AI generované fotce. A soud řekl, že to, co vygeneruje vyloženě AI, není autorské dílo. Jinými slovy, že to není chráněné.

AI přináší do společnosti nebezpečí

Vidíte ještě nějaká rizika umělé inteligence?

Pojďme si říct, že AI přináší do společnosti ne legislativní, ale faktické nebezpečí. Všechno bude snadnější falšovat. Ale všechno se bude taky u soudu hůř prokazovat. K tomu byl teď zajímavý soudní proces v USA. U líčení se použil kamerový záznam, který se nechal doostřit umělou inteligencí. A soudce ho odmítl uznat jako důkaz s tím, že se nemůže spolehnout na to, že to umělá inteligence doostřila správně. Čekám, že nám AI přinese hodně problémů, které si zatím nedokážeme představit. Samozřejmě vidím dobré věci, které to už dnes dělá, ale mám obavy, kolik to přinese i zla a nebezpečí.

Co může způsobit AI ve špatných rukou?

Z toho mám nejhorší pocit. A legislativa s tím nic moc neudělá, protože ti lidé dělají nelegální věci tak jako tak. Jediná obrana je osvěta a kritické myšlení, ale je to těžké.

Zakázat ve firmě AI je nesmysl

Jaká vnímáte rizika používání AI ve firemním prostředí?

Tam vidím primárně problém v nevědomosti zaměstnanců. Část z nich používání AI nástrojů odmítá a je vůči nim rezistentní. Ti jsou ale pro firmy paradoxně bezpečnější. A potom jsou tu nadšenci, co do veřejných modelů vkládají úplně všechno. Měla jsem teď klienta z velké firmy, jehož zaměstnankyně nahrála do veřejné neplacené verze ChatGPT kompletní podnikovou strategii na příští rok.

Takže buďte opatrní, kam lidi pouštíte, naučte je bezpečně promptovat a šiřte know-how, kdy je lepší generovat a kdy je lepší ten úkol dát člověku.

Některé velké firmy mají na druhou stranu zase příliš opatrný přístup ve smyslu: „Žádné AI u nás nechceme!“ A to je taky nesmysl. Protože to je stejné, jako kdyby zakázali používání internetu. Pokrok se nedá zastavit, a pokud teď firmy budou dva tři roky spát, tak se může stát, že už se nenahodí.

Dokážete ze svojí praxe říct, jak to teď české firmy s AI mají?

Určitě nemám přehled o celém trhu, ale vidím, že firmy začínají chápat, že nějaká implementace AI je nevyhnutelná. Jsou firmy, které se veřejné umělé inteligence obávají, a proto si vyvíjí svoje modely, což je ale nákladné. A potom je druhý přístup, kdy jdou firmy cestou osvěty – posílají svoje lidi na školení. Chtějí po mně třeba i sepsat nějaké politiky nebo směrnice. Na to jim ale říkám, že interní politiky ještě nikdy nikomu nepřinesly nic dobrého. A směrnice si nikdo nikdy nepřečte.

Je v souvislosti s obrovským rozmachem generativní umělé inteligence namístě i revize smluv s dodavateli?

Určitě. Na závěr školení vždycky říkám, že účastníci už vědí spoustu věcí, které předtím nevěděli. Ale jejich dodavatelé, marketéři, klienti mým školením neprošli. A že by bylo skvělé to know-how šířit dál. A pak to podchytit smluvně – jestli budeme AI používat, jaké nástroje, jak budeme komunikovat, že něco dodal AI nástroj, protože to má marketingový dopad. Pokud se používá AI pro práci s daty, pořád platí GDPR legislativa. Takže americké nástroje nesmí dostat evropská data, pokud nesplňují GDPR.

Mohla byste závěrem dát nějaké doporučení firmám?

Nepište směrnice. Pracujte na kritickém myšlení zaměstnanců, to je jediná cesta vpřed. Kupte jim workshop kritického myšlení o fake news. Pochopte, jak se budou AI nástroje chovat z marketingového a bezpečnostního hlediska, a podle toho je implementujte.

Co si z článku odnést

• Evropská unie chce za pomocí AI Actu regulovat rizika spojená s umělou inteligencí. Cílem je bezpečnější a transparentnější využívání AI.
•  AI Act přináší čtyři kategorie AI nástrojů – od zakázaných až po neregulované.
• Většiny českých firem se AI Act přímo nedotkne, regulace cílí hlavně na vývojáře AI softwaru. Firmy používající externí AI nástroje by se měly zaměřit na bezpečnost dat a legální využití umělé inteligence.
• Místo psaní složitých směrnic je efektivnější zaměstnance přímo naučit bezpečně pracovat s AI nástroji, včetně ochrany citlivých dat.

Kateřina Benešová
Marketingový specialista pro B2B