AI Act

AI Act byl navržen Evropskou komisí v dubnu 2021 jako součást širší digitální strategie EU s cílem zajistit, aby byly systémy AI používané v rámci EU bezpečné, transparentní, etické, nestranné a pod lidskou kontrolou. Současně má AI Act podporovat inovace a konkurenceschopnost evropského technologického sektoru. 

Vývoj legislativy o AI  

Svoji první strategii pro umělou inteligenci zveřejnila Evropská komise už v roce 2018. Následovaly Etické směrnice pro důvěryhodnou AI (2019) a Bílá kniha o umělé inteligenci (2020), které položily základy pro budoucí legislativu. Tyto dokumenty reagovaly na rychlý rozvoj technologií umělé inteligence a rostoucí míru jejich využívání v různých sektorech. Současně ale zdůrazňovaly potřebu vyvážit technologický pokrok s ochranou základních práv občanů EU. 

Návrh dokumentu AI Act Evropská komise oficiálně představila 21. dubna 2021. Následovalo jeho více než dvouleté projednávání, během kterého návrh procházel revizemi v Evropském parlamentu a Radě EU. O optimálním nastavení regulace probíhala diskuse v rámci členských států a s podnikatelským sektorem, občanskými iniciativami i odborníky na AI. Zvláštní pozornost byla věnována generativním systémům AI, jako je ChatGPT, které se během legislativního procesu staly významným fenoménem. Jejich rychlý vývoj si vyžádal i dodatečné úpravy původního návrhu. 

V prosinci 2023 dosáhli vyjednavači Evropského parlamentu a členských států EU předběžné politické dohody o konečném znění návrhu AI Act. Formální schválení následovalo v březnu 2024, kdy legislativu přijal Evropský parlament, a v květnu 2024 pak Rada EU. V úředním věstníku EU byl AI Act publikován 1. srpna 2024, čímž vstoupil v platnost a došlo k zahájení dvouletého implementačního období.  

Hlavní principy Zákona o AI 

Zákon o AI kategorizuje systémy AI podle úrovně rizika, jaké pro společnost představují. Na základě těchto kategorií se následně určují regulační požadavky, které se na tyto systémy vztahují: 

• Nepřijatelné riziko: AI systémy považované za jasnou hrozbu pro základní práva osob jsou zakázány. Patří mezi ně systémy využívající podprahové techniky manipulace s chováním, systémy pro sociální skórování používané vládami, biometrické systémy pro kategorizaci lidí na základě citlivých charakteristik a s určitými výjimkami také systémy pro rozpoznávání emocí a biometrickou identifikaci na veřejně přístupných místech. 
• Vysoké riziko: AI systémy, které mohou negativně ovlivnit zdraví, bezpečnost nebo základní práva osob, podléhají přísným regulačním požadavkům. Tyto systémy zahrnují aplikace v kritických infrastrukturách, vzdělávání, zaměstnání, základních službách, vymáhání práva, řízení migrace, soudnictví a demokratických procesech. Poskytovatelé těchto systémů musí provádět hodnocení rizik, zajistit kvalitu dat, dokumentaci, transparentnost, lidský dohled, přesnost a kybernetickou bezpečnost. 
• Omezené riziko: AI systémy s nižším rizikem, jako jsou chatboty a systémy rozpoznávání emocí, podléhají pouze požadavkům na transparentnost, které zajišťují, že lidé vědí, že interagují s AI a mohou se informovaně rozhodnout, zda budou pokračovat. 
• Minimální riziko: Většina AI aplikací, jako jsou systémy pro filtrování spamu nebo videohry využívající AI, není předmětem zvláštních regulačních požadavků, protože představují minimální nebo žádné riziko pro práva nebo bezpečnost občanů. 

Pro AI systémy s všeobecným účelem (GPAI), jako jsou velké jazykové modely typu GPT-4 či Claude, zavádí AI Act specifická pravidla, která zohledňují jejich široké možnosti využití a potenciální systémová rizika. Poskytovatelé modelů GPAI s významným dopadem musí vyhodnocovat a zmírňovat systémová rizika, provádět testování modelů, zajistit kybernetickou bezpečnost a reportovat závažné incidenty. U modelů využívajících značné výpočetní zdroje (tzv. frontier models) jsou tyto požadavky ještě přísnější. 

Legislativa zavádí také požadavky na transparentnost u generativních systémů AI, včetně povinnosti informovat uživatele, že obsah byl vytvořen umělou inteligencí, a zajistit, aby tyto systémy negenerovaly nezákonný obsah. Poskytovatelé musí také zveřejnit, jaká data byla použita pro trénování jejich modelů. 

Instituce pro kontrolu dodržování Zákona o AI 

Pro implementaci a prosazování Zákona o AI zřizuje legislativa Evropský výbor pro umělou inteligenci (AI Board), který bude složen ze zástupců členských států a bude sloužit jako koordinační fórum. Výbor bude poskytovat poradenství a podporu Evropské komisi a národním dozorovým orgánům při implementaci nařízení. 

Na úrovni členských států budou ustanoveny národní dozorové orgány odpovědné za aplikaci a prosazování požadavků legislativy. Tyto orgány budou mít pravomoc provádět vyšetřování, ukládat pokuty (až do výše 35 milionů eur nebo 7 % celosvětového ročního obratu společnosti, podle toho, která hodnota je vyšší) a přijímat nápravná opatření v případě porušení pravidel. 

Dalším důležitým prvkem je Úřad pro umělou inteligenci (AI Office) zřízený v rámci Evropské komise, který bude dohlížet na implementaci požadavků pro frontier models a koordinovat vymáhání pravidel pro tyto modely na úrovni EU.  

Zároveň vzniknou také kontrolovaná, izolovaná prostředí (regulatory sandboxes), která umožní bezpečné testování inovativních AI technologií před jejich uvedením na trh. 

Dopady regulace na různé sektory 

AI Act bude mít zásadní dopad na různé sektory ekonomiky a společnosti. Pro technologické společnosti znamená nové povinnosti týkající se vývoje, testování a nasazování systémů AI, a to s důrazem na transparentnost, vysvětlitelnost a lidský dohled. Pro menší společnosti a start-upy to může představovat dodatečnou regulační zátěž, kterou se EU snaží zmírnit prostřednictvím specifických ustanovení a podpory. 

Zákon o AI ovlivní také používání umělé inteligence ve veřejné správě, vymáhání práva a soudnictví. Orgány veřejné moci budou muset zajistit, že jejich AI systémy, zejména ty s vysokým rizikem, splňují přísné požadavky na transparentnost, přesnost a ochranu základních práv. Obzvláště přísná pravidla se vztahují na využívání biometrické identifikace v reálném čase ve veřejně přístupných prostorách pro účely vymáhání práva, které je povoleno pouze za velmi omezených podmínek. 

Občanům EU by měl AI Act přinést větší ochranu před potenciálně škodlivými dopady umělé inteligence. Regulace by měla zajistit, že systémy AI používané v EU budou respektovat základní práva, nebudou diskriminační a jejich fungování bude transparentní. Nová legislativa by zároveň měla podpořit důvěru veřejnosti v umělou inteligenci, což může podpořit její širší a odpovědnější využívání. 

Implementace Zákona o AI 

AI Act vstoupil v platnost v srpnu 2024, ale jeho implementace bude probíhat postupně během následujících let. V současné době již funguje Úřad pro umělou inteligenci (AI Office) a Evropský výbor pro umělou inteligenci (AI Board) a byla zavedena pravidla pro zakázané praktiky AI. Požadavky na GPAI a povinnosti transparentnosti budou aplikovány od srpna 2025, zatímco plná implementace regulace pro vysoce rizikové AI systémy je plánována na srpen 2026. 

V nadcházejících letech bude Evropská komise ve spolupráci s členskými státy a Evropským výborem pro umělou inteligenci vydávat prováděcí pokyny, které dále upřesní technické aspekty regulace. Paralelně budou členské státy vytvářet nebo určovat národní dozorové orgány a implementovat regulaci do svých právních systémů. 

AI Act není statickým dokumentem, ale bude se vyvíjet s rozvojem technologií AI a získáváním dalších zkušeností. Nařízení zahrnuje ustanovení o pravidelném přezkumu (každé tři roky), který umožní jeho aktualizaci v reakci na technologický pokrok, vývoj na trhu a nově vznikající rizika. Tento flexibilní přístup má zajistit, že regulace zůstane relevantní a účinná i v rychle se měnícím technologickém prostředí.