EU AI Act: Co přináší evropská regulace umělé inteligence

Evropský akt o umělé inteligenci, známý jako EU AI Act, stanovuje jednotná pravidla pro vývoj, uvádění na trh a používání systémů umělé inteligence v Evropské unii. Jeho hlavním principem je přístup založený na riziku: čím větší možné dopady má systém AI na zdraví, bezpečnost nebo základní práva lidí, tím přísnější požadavky musí splňovat.

Jak EU AI Act rozděluje systémy podle rizika

Nařízení rozlišuje několik úrovní rizika. Požadavky se proto liší podle účelu systému, způsobu jeho používání a možných následků pro jednotlivce i společnost.

Zakázané praktiky

Některé způsoby využití umělé inteligence jsou zakázány, protože mohou představovat nepřijatelné riziko. Patří mezi ně například určité formy manipulace lidí, zneužívání jejich zranitelnosti nebo některé způsoby biometrické identifikace. Zákazy se uplatňují od 2. února 2025.

Vysoce rizikové systémy

Vysoce rizikové systémy mohou ovlivňovat například vzdělávání, zaměstnávání, přístup k důležitým službám nebo bezpečnost výrobků. Jejich poskytovatelé musí plnit rozsáhlé povinnosti, které zahrnují řízení rizik, správu dat, technickou dokumentaci, vedení záznamů a lidský dohled. Systémy musí také splňovat požadavky na přesnost, odolnost a kybernetickou bezpečnost.

Systémy s omezeným rizikem a transparentnost

U některých systémů se pozornost zaměřuje především na transparentnost. Lidé mají být například informováni, když komunikují s chatbotem nebo pracují s obsahem vytvořeným či upraveným pomocí AI, pokud to není zřejmé. Díky tomu mohou lépe posoudit původ a povahu obsahu.

Systémy s minimálním rizikem

Většina běžných aplikací AI, například některé nástroje pro doporučování obsahu nebo filtrování spamu, spadá do kategorie minimálního rizika. AI Act pro ně nestanovuje stejně rozsáhlé povinnosti jako pro vysoce rizikové systémy. Organizace však mohou dobrovolně přijímat další pravidla a postupy, které podporují odpovědné používání AI.

Pravidla pro modely umělé inteligence pro obecné účely

Nařízení upravuje také modely AI pro obecné účely, které lze využít k různým úlohám a začlenit do mnoha produktů či služeb. Jejich poskytovatelé mají mimo jiné připravovat technickou dokumentaci a poskytovat informace potřebné pro další uživatele modelu. U modelů, které představují systémové riziko, platí přísnější povinnosti týkající se hodnocení a zmírňování rizik.

Koho se regulace týká

EU AI Act se vztahuje na poskytovatele, dovozce, distributory i uživatele systémů AI. Povinnosti se mohou týkat také organizací mimo Evropskou unii, pokud jejich systém uvádějí na trh EU nebo jeho výstupy používají v Evropské unii. Rozhodující je tedy mimo jiné role organizace a způsob, jakým se systém používá.

Kdy se pravidla začnou uplatňovat

Nařízení vstoupilo v platnost 1. srpna 2024, jeho požadavky se však zavádějí postupně. Zákazy vybraných praktik a povinnost zajistit dostatečnou AI gramotnost se uplatňují od 2. února 2025. Povinnosti pro modely AI pro obecné účely začaly platit 2. srpna 2025. Většina ustanovení se začne uplatňovat 2. srpna 2026 a pro některé vysoce rizikové systémy spojené s regulovanými výrobky platí přechodné období do 2. srpna 2027.

Co regulace znamená pro organizace

Organizace, které vyvíjejí nebo používají AI, by měly zjistit, zda jejich systémy spadají do působnosti nařízení a jaká riziková kategorie se na ně vztahuje. Následně je vhodné určit odpovědné osoby, zmapovat používaná data a procesy, zavést potřebnou dokumentaci a proškolit zaměstnance. Správné posouzení systému pomáhá určit, které povinnosti se na organizaci vztahují a jak se na jejich plnění připravit.

EU AI Act tak vytváří společný regulační rámec pro umělou inteligenci v Evropě. Jeho cílem je podpořit důvěryhodný vývoj a používání AI, omezit nejzávažnější rizika a posílit ochranu zdraví, bezpečnosti a základních práv lidí.