AI Act: První komplexní evropský rámec regulace umělé inteligence

AI Act: první komplexní evropský rámec regulace umělé inteligence

AI Act, tedy evropský akt o umělé inteligenci, vytváří společný regulační rámec pro vývoj, uvádění na trh a používání systémů umělé inteligence v Evropské unii. Jeho cílem je podpořit důvěryhodné využívání AI a současně chránit zdraví, bezpečnost a základní práva lidí. Pravidla se vztahují na poskytovatele i uživatele systémů AI a jejich konkrétní povinnosti se odvíjejí především od míry rizika.

Regulace podle míry rizika

AI Act rozděluje systémy umělé inteligence do kategorií podle toho, jaký dopad mohou mít na jednotlivce a společnost. Čím vyšší je možné riziko, tím přísnější požadavky musí daný systém splnit. Regulace tak uplatňuje odstupňovaný přístup namísto jednotných povinností pro všechny technologie.

Nepřijatelné riziko

Některé způsoby využití umělé inteligence jsou zakázané, protože mohou představovat nepřijatelné ohrožení základních práv nebo bezpečnosti. Jde například o vybrané praktiky, které manipulují s lidmi nebo zneužívají jejich zranitelnost. Zákaz se vztahuje na konkrétní použití vymezená nařízením, nikoli na umělou inteligenci jako celek.

Vysoce rizikové systémy

Vysoce rizikové systémy mohou ovlivňovat například přístup ke vzdělávání, zaměstnání, důležitým službám nebo bezpečnost výrobků. Jejich poskytovatelé musí plnit rozsáhlejší požadavky, mezi které patří řízení rizik, kvalitní správa dat, vedení technické dokumentace a zajištění lidského dohledu. Důraz se klade také na přesnost, bezpečnost a průběžné sledování systému.

Omezené a minimální riziko

U systémů s omezeným rizikem se pravidla soustředí zejména na transparentnost. Uživatelé mají být například informováni, že komunikují s chatbotem, pokud to není zřejmé z okolností. Systémy s minimálním rizikem zpravidla nepodléhají zvláštním povinnostem podle AI Actu, přesto se na ně mohou vztahovat jiné právní předpisy.

Povinnosti poskytovatelů a uživatelů

AI Act rozlišuje různé role v životním cyklu systému, například poskytovatele, který systém vyvíjí nebo uvádí na trh, a uživatele, který jej nasazuje v rámci své činnosti. Rozsah povinností závisí na roli organizace, typu systému a způsobu jeho použití. Organizace proto musí posoudit, zda jejich řešení spadá do působnosti nařízení a jaké požadavky se na ně vztahují.

Samostatná pravidla se týkají také modelů umělé inteligence pro obecné účely. U jejich poskytovatelů se povinnosti odvíjejí mimo jiné od charakteru a možného dopadu modelu. Cílem je zvýšit transparentnost a usnadnit posouzení rizik při dalším využívání těchto technologií.

Postupné zavádění pravidel

AI Act vstoupil v platnost v roce 2024, jeho ustanovení se však uplatňují postupně. Přechodná období umožňují organizacím připravit procesy, dokumentaci i technická řešení na nové požadavky. Firmy a instituce by měly průběžně sledovat časový harmonogram a vyhodnotit, jak se pravidla promítnou do jejich používání umělé inteligence.

Co AI Act znamená pro organizace

Evropský rámec nepředstavuje pouze soubor technických požadavků. Organizace potřebují také jasně určit odpovědnosti, evidovat používané systémy AI a nastavit způsob kontroly jejich fungování. Včasné posouzení rizik pomáhá lépe pochopit regulatorní povinnosti a omezit problémy při zavádění nebo provozu systému.

AI Act tak sjednocuje pravidla pro umělou inteligenci na úrovni Evropské unie a vytváří podmínky pro její bezpečnější a odpovědnější využívání. Současně ponechává prostor pro inovace, pokud jsou technologie vyvíjeny a nasazovány v souladu s požadavky odpovídajícími jejich rizikovosti.