Jedná se o novou regulační povinnost vyplývající z evropského nařízení AI Act.

Co je AI gramotnost?

AI gramotnost je v AI Actu definována jako „dovednosti, znalosti a porozumění, které umožňují poskytovatelům, nasazovatelům a dotčeným osobám, s přihlédnutím k jejich právům a povinnostem v kontextu tohoto nařízení, informovaně nasazovat systémy umělé inteligence a získat povědomí o příležitostech, rizicích a možných škodách, které může AI způsobit“.

Nejde tedy o to, aby se všichni zaměstnanci stali experty na AI, ale aby:

• Rozuměli principům fungování AI
• Uměli vyhodnotit rizika konkrétního využití AI
• Dodržovali povinnosti jako transparentnost a ochrana soukromí
• Bezpečně využívali AI technologie

Koho se povinnost týká?

Tato povinnost se vztahuje na:

1. Poskytovatele AI systémů – společnosti, které vyvíjejí AI systém s obecným účelem nebo jej nechají vyvinout a uvedou na trh pod vlastním jménem nebo ochrannou známkou (ať už za úplatu nebo zdarma)
2. Nasazovatele AI systémů – zaměstnavatele, kteří se rozhodnou používat AI systémy vyvinuté třetími stranami na vlastní odpovědnost k podpoře pracovních účelů ve společnosti

Povinnost platí bez ohledu na velikost společnosti – od startupů až po mezinárodní korporace. Týká se všech firem, jejichž zaměstnanci pracují s AI systémy, ať už jde o analýzu dat, automatizaci procesů nebo komunikaci se zákazníky.

Jaké konkrétní povinnosti mají firmy od 2. února 2025?

Od 2. února 2025 musí poskytovatelé a nasazovatelé AI systémů:

1. Zajistit dostatečnou úroveň AI gramotnosti svých zaměstnanců a dalších osob, které se zabývají provozem a používáním AI systémů jejich jménem
2. Přijmout opatření zohledňující:
   • Technické znalosti, zkušenosti, vzdělání a školení těchto osob
   • Kontext, ve kterém budou AI systémy používány
   • Osoby nebo skupiny osob, na které budou AI systémy používány[9]

Koho se týká povinnost AI gramotnosti?

Okruh osob, které musí mít od 2. února 2025 dostatečnou AI gramotnost, je poměrně široký:

• Manažeři odpovědní za dohled nad nasazením AI
• Vývojáři a IT profesionálové, kteří navrhují a udržují AI systémy
• Zaměstnanci pracující v citlivých obchodních oblastech (např. automatizované hodnocení úvěrů)
• Externí poskytovatelé služeb vyvíjející, implementující nebo udržující AI systémy pro společnosti

Jak zajistit AI gramotnost v praxi?

Pro splnění této povinnosti mohou firmy:

1. Zavést interní směrnice a předpisy pro využívání AI
2. Realizovat pravidelná školení pro zaměstnance – živě nebo online
3. Jmenovat AI manažera, který zajistí, že používání AI bude v souladu s regulačními požadavky
4. Zajistit sledovatelnost a vysvětlitelnost rozhodnutí AI
5. Získat certifikát o AI gramotnosti, který doloží splnění této povinnosti

Jaké jsou důsledky neplnění?

Přestože sankce za neplnění AI Actu se nezačnou uplatňovat dříve než v srpnu 2025, nedodržení pravidel pro práci s AI už nyní představuje odpovědnostní riziko – například ve vztahu k porušení GDPR či za nedodržení řádné péče.

Požadavky AI Actu na AI gramotnost představují první krok k zavedení AI Governance. Vzhledem k tomu, že hlavní část AI Actu začne platit až v srpnu 2026, organizace, které se připraví už nyní, mohou získat nejen regulatorní náskok, ale i významnou konkurenční výhodu.

Evropská komise také nedávno zveřejnila repozitář postupů AI gramotnosti, který shromažďuje postupy, které některé společnosti zapojené do AI Paktu přijaly k zajištění dostatečné úrovně AI gramotnosti ve své pracovní síle.