Akt o umělé inteligenci EU. Jak Evropa reguluje používání umělé inteligence | AI v podnikání #68

Co je AI zákon a proč je důležitý pro malé a střední podniky (MSP)?

AI zákon je první regulace svého druhu na světě. První, která komplexně řeší umělou inteligenci z humanistického přístupu k AI. Jeho cílem je zajistit, aby systémy AI používané v Evropě byly bezpečné a podporovaly inovace, přičemž respektují základní práva, se zvláštním zaměřením na:

• zdravotní péči – například respektování soukromí údajů pacientů,
• vzdělávání – dodržování hodnot prosazovaných Evropskou unií a vyhýbání se diskriminaci,
• ochranu hranic – zajištění bezpečnosti bez porušování práv občanů,
• veřejné služby – dodržování osvědčených postupů v ochraně údajů, práva na informace a jasné komunikace.

Pro MSP přinese AI zákon především větší právní jistotu, protože jasně definuje rámec pro inovace: principy navrhování, vývoje a aplikace systémů AI. Usnadní firmám investice do řešení založených na AI, čímž sníží právní rizika. Kromě toho regulace platné v celé Unii zabrání fragmentaci trhu.

Evropské regulace týkající se umělé inteligence byly přijaty Evropským parlamentem a Radou Evropy 9. prosince 2023. Nyní musí být formálně schváleny oběma institucemi, aby vstoupily v platnost.

Klíčové aspekty AI zákona pro podnikání

AI zákon EU zavádí soubor požadavků na systémy AI v závislosti na úrovni rizika. Tyto požadavky zahrnují mimo jiné:

• povinnost transparentnosti a informování uživatelů v případě interakcí s chatboty, biometrickými systémy nebo technologiemi rozpoznávání emocí,
• zákaz používání citlivých atributů pro biometrickou kategorizaci,
• povinné hodnocení shody před vstupem na trh pro systémy s vysokým rizikem,
• povinnou registraci v databázi EU — po vstupu AI zákona v platnost budou muset být registrovány systémy AI používané v klíčových sektorech, jako je vzdělávání, zaměstnanost, zdravotní péče a vymáhání práva.

Výrobci a společnosti používající systémy AI budou také povinni monitorovat rizika po jejich uvedení na trh. To přímo ovlivní společnosti navrhující a implementující systémy AI.

Úrovně rizika systémů AI podle AI zákona EU

AI zákon klasifikuje systémy AI do čtyř kategorií na základě jejich úrovně rizika:

1. Neakceptovatelné riziko
2. Vysoké riziko
3. Omezené riziko
4. Minimální riziko

Pojďme se blíže podívat na to, jak bude každá skupina definována, spolu s příklady systémů a jejich klasifikací.

Neakceptovatelné riziko

Evropská unie uvaluje úplný zákaz používání technologií uvedených v AI zákoně jako systémů s neakceptovatelným rizikem. Tyto systémy jsou především navrženy tak, aby využívaly náchylnost jednotlivců k sugesti pro manipulaci nebo klamání, systémy, které dávají umělé inteligenci schopnost rozhodovat v zásadních záležitostech, a ty, které by mohly vést k zneužití moci. Příklady AI s neakceptovatelným rizikem zahrnují:

• autonomní zbraně fungující bez lidského dohledu,
• systémy hodnocení důvěryhodnosti používané orgány činnými v trestním řízení,
• automatické identifikační systémy jednotlivců na veřejných místech, jako jsou ty založené na záznamech z kamer,
• systémy umělé inteligence, které mohou být škodlivé pro jednotlivce s fyzickým nebo duševním postižením,
• AI používaná pro účely vymáhání práva, s omezenými výjimkami,
• systémy umělé inteligence využívající škodlivé “subliminální” a manipulační techniky.

Pro podniky je poslední kategorie obzvlášť důležitá. Proto bude transparentnost v provozu systémů poskytujících návrhy uživatelům a zákazníkům klíčová pro dodržování nové legislativy Evropské unie.

Vysoké riziko

Umělá inteligence klasifikovaná jako řešení AI s vysokým rizikem bude muset splnit přísné požadavky před vstupem na trh. To zahrnuje hodnocení shody a přísné testování před schválením k použití. Tato kategorie rizika zahrnuje osm oblastí, jako jsou:

• autonomní vozidla,
• lékařské diagnostické systémy,
• prediktivní algoritmy podporující justiční systém,
• řízení migrace a azylu, kontrola hranic, stejně jako
• zaměstnávání a řízení pracovních sil.

Omezené riziko

Legislativci naštěstí věnovali mnohem méně pozornosti systémům s omezeným rizikem, které se nejčastěji používají v podnikání. Tato kategorie zahrnuje:

• AI chatboty – používané pro zákaznický servis nebo odpovídání na často kladené otázky formou volného rozhovoru,
• systémy rozpoznávání emocí – používané například k shromažďování údajů o názorech zákazníků na společnost,
• biometrické kategorizace – jako je hodnocení pohlaví nebo věku zákazníků v kamenném obchodě,
• generování obrazů, zvuku nebo videa – navzdory hrozbě, kterou představují deep fakes, tato oblast bude podléhat omezenému souboru povinností.

Nízké nebo minimální riziko

Řešení AI s nízkým rizikem nepodléhají právním regulacím. AI zákon pouze zmíní, že tvůrci a uživatelé takových řešení by měli dobrovolně stanovit zásady používání. To se týká řešení, jako jsou:

• systémy doporučování obsahu ve streamovacích službách, nebo
• chatboty na webových stránkách odpovídající na typické otázky zákazníků.

Jaké požadavky klade AI zákon na řešení používaná mou společností?

Abychom zjistili, zda umělá inteligence používaná společností splňuje AI zákon, měli byste:

• kategorizovat ji do jedné ze čtyř výše popsaných kategorií rizika,
• pokud jde o AI s vysokým rizikem, provést hodnocení shody,
• dodržovat osvědčené postupy týkající se AI s nízkým rizikem.

Pojďme se podívat na příklady často používaných AI řešení firmami. Jaké požadavky budou muset splnit?

Chatbot pro zákaznický servis, který poskytuje základní informace o produktech nebo odpovídá na typické otázky zákazníků, bude pravděpodobně klasifikován jako systém s minimálním rizikem. Bude muset:

• informovat uživatele, že interagují s AI,
• poskytnout možnost být přesměrován na lidského konzultanta,
• dodržovat obecné požadavky týkající se transparentnosti, nediskriminace atd.

Systém doporučování produktů v e-commerce bude pravděpodobně považován za systém s nízkým rizikem. Bude nutné informovat zákazníky, že dostávají personalizovaná doporučení, a poskytnout možnost je deaktivovat.

Na druhou stranu systém pro automatickou lékařskou diagnostiku bude klasifikován jako systém s vysokým rizikem. Bude muset projít přísným hodnocením před vstupem na trh a být pod dohledem člověka. Kromě toho bude nutné monitorovat jeho provoz a hlásit incidenty.

Systém prevence městské kriminality bude také považován za systém s vysokým rizikem. Bude muset dodržovat regulace týkající se ochrany soukromí a dalších základních práv. Jeho provoz bude muset být pod neustálým lidským dohledem.

Je nejasné, do které kategorie spadnou systémy rozhodování založené na AI. Je pravděpodobné, že systém náboru založený na AI, který sám činí rozhodnutí o zaměstnávání, bude považován za řešení AI s neakceptovatelným rizikem. Na druhou stranu systém podpory náboru, který pomáhá lidem vykonávat jejich práci, by byl považován za řešení s vysokým rizikem.

Ve prospěch blaha uživatelů, stejně jako možných změn v klasifikacích, je velmi důležité přistupovat k výstavbě a používání systémů AI eticky a odpovědně od samého začátku.

Jaké budou důsledky nedodržení AI zákona?

Nedodržení AI zákona by mohlo vést k významným pokutám pro společnosti, které se pohybují od 35 milionů EUR nebo 7 % celosvětového obratu pro velké podniky až po 7,5 milionu EUR nebo 1,5 % pro MSP. Nelegální systémy AI mohou být staženy z trhu a jejich používání může být omezeno.

Jak se připravit na vstup AI zákona v platnost?

Jak tedy připravit společnost, která používá umělou inteligenci, na vstup AI zákona v platnost v roce 2025? Zde je několik tipů, jak se mohou MSP a startupy na tento okamžik připravit:

• sledovat pokrok prací a časový plán implementace regulací,
• vyhodnotit již používané systémy AI a přizpůsobit je novým požadavkům,
• věnovat zvláštní pozornost etickým aspektům při navrhování AI.

Shrnutí

Úvod AI zákona je velkou změnou pro ekosystém AI v Evropě. Nicméně s jasnými a konzistentními pravidly slibuje zajistit bezpečný a etický rozvoj této technologie, což by mělo přinést prospěch zejména MSP a startupům.

AI zákon, který vstoupí v platnost v roce 2025, přinese významné změny v tom, jak mohou malé a střední podniky (MSP) využívat umělou inteligenci. Pro MSP to především znamená nutnost pečlivého zvažování a analýzy AI řešení, která používají, jak z hlediska dodržování regulací, tak z hlediska potenciálního dopadu na zákazníky a komunitu.

Pro majitele a manažery malých podniků je zásadní pochopit, jak jsou jejich systémy AI klasifikovány z hlediska rizika a jaké kroky je třeba podniknout, aby je sladili s nadcházejícími regulacemi. Vezměme si například systémy AI používané v řízení zákazníků nebo marketingu, které byly dříve používány poměrně volně. Nyní budou vyžadovat důkladnou analýzu z hlediska dodržování AI zákona. To by mohlo vytvořit nové příležitosti pro firmy specializující se na právní poradenství v oblasti technologií, které poskytují MSP podporu při přizpůsobování se těmto novým požadavkům.

Pokud se vám náš obsah líbí, připojte se k naší komunitě pilných včel na Facebooku, Twitteru, LinkedInu, Instagramu, YouTube, Pinterestu, TikToku.