EU AI Act

Zajímavost ze světa 

EU AI Act je první ucelené nařízení o umělé inteligenci na světě. Nařízení EU 2024/1689 rozděluje systémy umělé inteligence podle míry rizika a podle toho jim ukládá různě přísné povinnosti, od zákazu nejrizikovějších praktik po lehčí pravidla pro běžné systémy.[1] 

Co v článku najdete 

• Co je EU AI Act a proč vznikl 
• Jak EU AI Act dělí umělou inteligenci podle rizika 
• Jaké povinnosti EU AI Act firmám ukládá 
• Jaký je harmonogram EU AI Act 
• Jak EU AI Act dopadá na výrobní firmy 
• Jak souvisí EU AI Act s daty a ERP systémem 
• Jak EU AI Act souvisí s dalšími pravidly 
• Jak se firma připraví na EU AI Act 

Co je EU AI Act a proč vznikl 

EU AI Act je nařízení EU 2024/1689, kterým Evropská unie stanovuje harmonizovaná pravidla pro umělou inteligenci. Přijato bylo dne 13. června 2024 a je prvním uceleným právním rámcem pro umělou inteligenci na světě [1]. 

Cílem nařízení je, aby byla umělá inteligence v Evropské unii bezpečná, transparentní a v souladu se základními právy. Současně má dát firmám jasná a jednotná pravidla, podle kterých umělou inteligenci vyvíjejí i používají [1]. 

Nařízení platí přímo ve všech členských státech, na rozdíl od směrnice se tedy nemusí převádět do národního zákona. Pro firmu to znamená jednotná pravidla napříč celou Evropskou unií [1]. 

Nařízení se nedotýká jen velkých technologických firem. Dopadá na každou firmu, která umělou inteligenci vyvíjí, prodává nebo používá ve své činnosti, pokud působí na trhu Evropské unie [1]. Pro běžnou výrobní nebo obchodní firmu je proto rozumné brát nařízení vážně i tehdy, když umělou inteligenci zatím používá jen v menším rozsahu. 

Jak EU AI Act dělí umělou inteligenci podle rizika 

Základem nařízení je přístup podle rizika. Čím větší riziko systém umělé inteligence pro lidi představuje, tím přísnější pravidla se na něj vztahují [1]. 

Kategorie rizika	Obecná charakteristika
Nepřijatelné riziko	Zakázané praktiky umělé inteligence
Vysoké riziko	Přísné povinnosti a posouzení shody
Omezené riziko	Hlavně povinnost transparentnosti vůči uživateli
Minimální riziko	Bez zvláštních povinností podle nařízení

Zdroj: Nařízení EU 2024/1689 o umělé inteligenci (EU AI Act).

Nejpřísněji nařízení dopadá na systémy s vysokým rizikem, které mohou ovlivnit zdraví, bezpečnost nebo práva lidí. U nich vyžaduje řízení rizik, kvalitu dat a lidský dohled [1]. 

Naopak většina běžných použití umělé inteligence spadá do nižších kategorií. Jednoduchý nástroj, který firmě pomáhá třídit e-maily nebo navrhovat text, obvykle nese minimální riziko a nařízení mu zvláštní povinnosti neukládá [1]. Klíčové proto je u každého použití posoudit, kam podle rizika patří, a teprve podle toho řešit povinnosti. Mnoho firem zjistí, že většina jejich nástrojů spadá do lehčích kategorií. 

Jaké povinnosti EU AI Act firmám ukládá 

Povinnosti se liší podle role firmy a podle kategorie rizika systému. Jiné nároky má tvůrce systému umělé inteligence a jiné firma, která ho jen používá [1]. 

Oblast povinnosti	Čeho se týká
Řízení rizik	Posouzení a snižování rizik u rizikových systémů
Kvalita dat	Vhodná a správná data pro trénink a provoz
Transparentnost	Informování uživatelů, že jednají s umělou inteligencí
Lidský dohled	Možnost zásahu člověka do rozhodování systému
Dokumentace	Záznamy o systému a jeho fungování

Zdroj: Nařízení EU 2024/1689 o umělé inteligenci (EU AI Act).

Důležité je, že nařízení zavádí i obecnou povinnost takzvané gramotnosti v oblasti umělé inteligence. Firmy mají dbát na to, aby lidé, kteří umělou inteligenci používají, jí dostatečně rozuměli [1]. 

Jaký je harmonogram EU AI Act 

EU AI Act se uplatňuje postupně. Nařízení vstoupilo v platnost a jednotlivé části se stávají použitelnými v různých termínech, aby měly firmy čas se připravit [1]. Konkrétní zařazení a termíny je vhodné ověřit s odborníkem. 

Termín	Co se uplatňuje
2. února 2025	Zákazy nepřijatelných praktik a gramotnost v oblasti AI
2. srpna 2025	Pravidla pro obecné modely umělé inteligence
2. srpna 2026	Obecná použitelnost většiny pravidel
2. srpna 2027	Pravidla pro vybrané vysoce rizikové systémy

Zdroj: Nařízení EU 2024/1689 o umělé inteligenci (EU AI Act).

Z harmonogramu plyne, že nejde o jednorázovou změnu. Firma by měla sledovat, které povinnosti se jí týkají a od kdy, a přípravu rozložit v čase [1]. 

Jak EU AI Act dopadá na výrobní firmy 

Výrobní firmy umělou inteligenci stále častěji používají, například při kontrole kvality, plánování výroby nebo predikci poruch strojů. I tato použití spadají pod nařízení a firma musí zvážit, do jaké kategorie rizika patří [1]. 

Pokud umělá inteligence ovlivňuje bezpečnost výrobku nebo lidí, může jít o vysoce rizikový systém s přísnějšími povinnostmi [1]. Roli hraje i to, zda firma systém sama tvoří, nebo jen používá hotové řešení od dodavatele. 

Pro výrobu je proto zásadní vědět, kde všude se umělá inteligence v procesech objevuje. Přehled o datech a procesech, který dává ERP systém, pomáhá tato místa odhalit a vyhodnotit jejich rizikovost [1]. 

Jak souvisí EU AI Act s daty a ERP systémem 

Umělá inteligence je jen tak dobrá jako data, ze kterých čerpá. Nařízení proto klade důraz na kvalitu a vhodnost dat u rizikových systémů [1]. Velká část firemních dat přitom vzniká a leží v informačním systému. 

ERP Helios od společnosti Asseco soustřeďuje data o výrobě, skladech a financích na jednom místě. To usnadňuje dohledatelnost a kontrolu dat, která případné nástroje umělé inteligence používají. Příkladem je ERP Helios iNuvio. Konkrétní soulad s nařízením je vhodné řešit s odborníkem. 

Bez přehledu o datech firma jen těžko doloží, že umělá inteligence pracuje se správnými a aktuálními údaji. Jednotný zdroj dat v ERP tak přípravu na nařízení usnadňuje [1]. 

Jak EU AI Act souvisí s dalšími pravidly 

EU AI Act nepůsobí osamoceně. Pokud umělá inteligence zpracovává osobní údaje, platí současně ochrana osobních údajů podle GDPR [2]. U bezpečnosti systémů se uplatní směrnice NIS2, která rozšiřuje okruh firem s povinnostmi v kybernetické bezpečnosti [3]. 

• Ochrana osobních údajů při zpracování dat umělou inteligencí 
• Kybernetická bezpečnost systémů, ve kterých umělá inteligence běží 
• Kvalita a dohledatelnost dat pro rozhodování systému 
• Transparentnost vůči zákazníkům a zaměstnancům 

Firma by proto měla na umělou inteligenci nahlížet v širším rámci pravidel pro data, ne jen pohledem jediného nařízení [2]. 

Jak se firma připraví na EU AI Act 

• Zmapujte, kde firma umělou inteligenci používá nebo plánuje používat 
• Zařaďte jednotlivá použití do kategorií rizika podle nařízení 
• Ověřte s odborníkem, jaké povinnosti se vás týkají a od kdy 
• Zajistěte kvalitu a dohledatelnost dat, ze kterých systémy čerpají 
• Postarejte se o dostatečnou gramotnost lidí, kteří umělou inteligenci používají 

Přípravu se vyplatí zahájit s předstihem a rozložit ji podle harmonogramu nařízení. Soulad s pravidly je snazší, pokud firma má přehled o svých datech a procesech [1]. 

Jak připravit firemní data na pravidla pro umělou inteligenci 

Umělá inteligence pracuje s daty, která firma vede ve svém informačním systému. Společnost NVSP dodává ERP Helios a pomáhá nastavit kvalitu a dohledatelnost dat tak, aby firma měla přehled o tom, s čím její systémy pracují. Prohlédněte si nabídku produktů NVSP a nezávazně proberte, jak na data ve vaší firmě. 

Shrnutí 

EU AI Act je nařízení Evropské unie 2024/1689 o umělé inteligenci, přijaté 13. června 2024. Jde o první ucelený právní rámec pro umělou inteligenci na světě. Systémy dělí podle rizika od nepřijatelného po minimální a podle toho jim ukládá různě přísné povinnosti, jako je řízení rizik, kvalita dat, transparentnost a lidský dohled. Povinnosti se týkají tvůrců i firem, které umělou inteligenci používají, včetně výroby. Nařízení se uplatňuje postupně a prolíná se s ochranou osobních údajů i kybernetickou bezpečností. Heslo má informativní povahu a nenahrazuje právní poradenství. 

Časté otázky 

Co je EU AI Act 

EU AI Act je nařízení Evropské unie 2024/1689 o umělé inteligenci. Jde o první ucelený právní rámec pro umělou inteligenci na světě, který systémy dělí podle rizika a ukládá jim různě přísné povinnosti [1]. 

Týká se EU AI Act i firem, které umělou inteligenci jen používají 

Ano. Povinnosti se netýkají jen tvůrců umělé inteligence, ale i firem, které ji používají [1]. Rozsah povinností závisí na roli firmy a na kategorii rizika systému. 

Spadá umělá inteligence ve výrobě pod nařízení 

Ano. Pokud výrobní firma používá umělou inteligenci například při kontrole kvality nebo plánování, spadá pod nařízení a musí zvážit kategorii rizika daného použití [1]. 

Použité zdroje a literatura 

Legislativa EU 

[1] Nařízení EU 2024/1689 o umělé inteligenci (EU AI Act). Ze dne 13. června 2024, harmonizovaná pravidla pro umělou inteligenci. Ověřeno na eur-lex.europa.eu (CELEX 32024R1689) dne 2026-05-29. 

[2] Nařízení EU 2016/679 (GDPR). O ochraně osobních údajů. 

[3] Směrnice EU 2022/2555 (NIS2). O opatřeních pro vysokou společnou úroveň kybernetické bezpečnosti.