Co se stane, pokud firma AI Act nedodrží
Porušení pravidel se posuzuje velmi přísně. AI Act počítá s významnými sankcemi – u nejzávažnějších porušení může pokuta dosáhnout až 35 milionů eur nebo 7 % ročního obratu firmy.
Kromě finančních dopadů hrozí také poškození reputace a ztráta důvěry klientů, což může být pro značku ještě fatálnější.
Od 2. února 2025 nabyla účinnosti ustanovení o zakázaných AI praktikách. Firmy také musí splnit požadavky na gramotnost v oblasti AI – tedy zajistit, aby zaměstnanci a další osoby pracující s AI nástroji byli řádně proškoleni.
Týká se to společností, které používají například ChatGPT, Microsoft Copilot, Midjourney a další nástroje umělé inteligence.
Školení se zaměřuje na správné používání AI systémů a rizika s jejich využíváním spojená.
Zaměstnanci by po absolvování školení měli chápat fungování AI systémů, umět správně interpretovat jejich výstupy a znát opatření vhodná k minimalizaci chyb AI nástrojů.
Z našich zkušeností vyplývá, že u většiny společností nejsou znalosti ani proškolení dostatečné. Firmy se tak vystavují velkým rizikům a sankcím.
Proč je AI Act pro firmy důležitý
AI se stala běžnou součástí firemních procesů – od automatizace administrativy přes zákaznický servis až po marketing. Zároveň ale nese nová etická i právní rizika. AI Act proto stanovuje jasné hranice, jak mají firmy s umělou inteligencí nakládat, aby byla v souladu se zásadami EU o ochraně soukromí, transparentnosti a bezpečnosti.
Díky tomu získají firmy:
- větší důvěru zákazníků
- nižší právní rizika
- konkurenční výhodu díky odpovědnému přístupu k inovacím
Od 2. srpna 2026 budou pravidla ještě přísnější
Začnou platit zbývající ustanovení legislativy a firmy by měly být připraveny v plném rozsahu. Nabývá účinnosti soubor pravidel pro vysoce rizikové AI systémy a zavádí se regulační sandboxy pro AI. Zajištění lidského dohledu nad AI systémem, jeho transparentnosti, robustnosti a ochrany proti zneužití patří mezi klíčové povinnosti.
Včasnou přípravou můžete získat konkurenční výhodu – být mezi těmi firmami, které mají systém nastaven bezpečně, dokumentovaný a v souladu s regulací, což zvyšuje důvěru zákazníků, partnerů i regulačních orgánů.
Jaká jsou rizika používání AI
Používání AI bez jasných pravidel může vést k:
- neúmyslné diskriminaci uživatelů
- porušování GDPR
- zneužití dat
- chybným rozhodnutím, která ovlivní zákazníky i zaměstnance
AI Act rozděluje systémy podle úrovně rizika – od nízkého až po nepřijatelné – a podle toho stanovuje, jak přísné povinnosti musí firma splnit (např. dokumentace, testování, dohled člověka, transparentnost rozhodnutí AI).
Proč je důležité školit zaměstnance
I sebelepší technologie je jen tak dobrá, jak dobře s ní lidé umí zacházet. Zaměstnanci by měli rozumět nejen tomu, jak AI používat, ale i jak ji používat správně – v souladu legislativou i etickými zásadami.
Díky školení dokážou rozpoznat potenciální rizika, správně nastavovat AI nástroje a předejít problémům, které by mohly vést k porušení směrnice.
Pomůžeme vám být v souladu s AI Act
Naše společnost nabízí praktický kurz „AI ve firmě: bezpečně, efektivně a v souladu s AI Act“, který pomůže vašemu týmu pochopit:
- co AI Act znamená pro vaši firmu a zaměstnance
- jaké povinnosti z něj vyplývají ve vašem oboru
- bezpečnost a firemní politiku
- zefektivnění procesů a využívání AI asistentů v každodenní práci
- jak nastavit interní procesy, aby vaše využívání AI bylo bezpečné a legální
Získejte jistotu, že vaše firma dělá vše správně a z AI těží maximum. Zahoďte obavy z AI Act – my vás perfektně připravíme.
Kontaktujte nás ještě dnes a zajistěte školení pro váš tým dokud je čas.
