Regulace AI. Co potřebujete vědět jako podnikatel? | AI v podnikání #47

Porozumění regulacím AI. Co to je a jak mění podnikání?

Umělá inteligence je soubor technologií a metod, které umožňují strojům napodobovat lidské kognitivní schopnosti. Systémy AI se mohou učit a řešit problémy způsoby, které jsou stále více podobné lidem. Klíčovou roli hraje strojové učení a hluboké učení, které umožňují algoritmům optimalizovat se na základě dat.

Aplikace AI jsou téměř neomezené:

• generování obsahu – textu, jako to dělají ChatGPT a Bard, nebo obrázků v Midjourney a DALL-E-3,
• překlady – velmi užitečné pro mezinárodní podnikání,
• rozpoznávání obrazů a zvuku – používá se například při inspekci pracovního prostředí pomocí kamer nebo záznamů hovorů call center,
• pokročilá analýza dat z různých zdrojů – od sociálních médií po senzory z průmyslových zařízení.

To je skutečná revoluce, která mění tvář mnoha odvětví. AI umožňuje firmám automatizovat procesy, lépe porozumět zákazníkům nebo vyvíjet nové produkty. Technologie však také přináší rizika – a proto je potřeba regulace.

Regulace AI: klíčové pojmy a principy

Při zavádění AI řešení ve vaší společnosti je třeba být si vědom aktuálních regulací souvisejících s používáním umělé inteligence. Mezi nejdůležitější patří:

• autorské právo,
• zákon o ochraně osobních údajů,
• zákony týkající se odpovědnosti za provoz umělé inteligence používané firmami.

Autorské právo vs. umělá inteligence

Autorské právo chrání osobní a majetková práva tvůrců. V mnoha zemích mohou být jeho ochranou pokryta pouze díla vytvořená člověkem. V důsledku toho právníci obvykle interpretují, že díla vytvořená výhradně AI v automatizovaném procesu nejsou chráněna autorským právem, i když umělá inteligence obvykle není schopna vytvářet obsah bez lidské spolupráce.

V obchodním kontextu se regulační obavy týkající se autorství týkají:

• používání děl živých tvůrců k učení umělé inteligence – to se vztahuje na společnosti, které vytvářejí své modely nebo učí existující pomocí veřejně dostupných dat; skutečně, všechna díla – od malby a sochařství po branding a texty publikované na webových stránkách – podléhají autorskému právu,
• ochrana firemních materiálů vytvořených s umělou inteligencí – zde je nutné pečlivě prostudovat pravidla a předpisy jednotlivých AI nástrojů, abyste zjistili, jaké regulace vyvolávají. Obvykle však převádějí práva na dílo vytvořené ve spolupráci s AI na osobu, která zadává pokyny, nebo výzvy pro umělou inteligenci, přičemž si ponechávají právo používat vytvořený obsah pro propagační nebo výzkumné účely.

30. října 2023 došlo k prvnímu rozsudku v proslulém soudním sporu o porušení autorských práv, který podali tři američtí umělci Sarah Anderson, Kelly McKernan a Karla Ortiz proti třem společnostem stojícím za předními generátory obrázků Midjourney, Stable Diffusion a Dream Up.

Umělci ve své žalobě uvedli, že modely umělé inteligence byly vyučovány na jejich dílech bez jejich povolení, a tím mohly generovat díla, která kopírují jejich díla, čímž porušují jejich autorská práva. Soud však jejich nároky zamítl v 28stránkovém rozhodnutí, ve kterém mimo jiné uvedl, že v USA musí být autorská práva registrována, aby bylo možné žalovat za jejich údajné porušení. Umělci nebyli schopni identifikovat, která z jejich děl byla zahrnuta do datového souboru obrázků stažených z internetu a použita k trénování umělé inteligence.

Zákon o ochraně osobních údajů

Zákon o ochraně osobních údajů (RODO) reguluje zpracování osobních údajů, což je klíčové pro mnoho aplikací AI. Systémy AI často shromažďují a zpracovávají obrovské množství dat, což představuje výzvu pro podniky, aby zajistily jejich bezpečnost. Pro podnikatele to znamená nejen zabezpečit získané informace, ale také zajistit jejich transparentní zpracování a odpovědnost po celou dobu procesu. V praxi to vyžaduje zavedení účinných bezpečnostních mechanismů a vhodných postupů správy dat, aby byla zajištěna ochrana soukromí a respektována práva uživatelů.

Odpovědnost AI

Nové regulace se v současnosti vyvíjejí, aby usnadnily nároky na náhradu škody způsobené systémy AI. Klíčovou otázkou zde je otázka občanské odpovědnosti – zda je odpovědný výrobce, uživatel nebo samotný systém za činy AI. Čekající regulace mohou zavést taková řešení jako:

• povinné pojištění pro výrobce AI, nebo
• speciální kompenzační fondy.
• Proto je důležité, aby podnikatelé pečlivě sledovali tyto změny a připravili se na nové požadavky a povinnosti.

Jak mění AI právní prostředí pro malé podniky?

Revoluce AI je příležitostí pro malé společnosti – díky novým technologiím mohou soutěžit s velkými hráči. Implementace pokročilých nástrojů AI však zahrnuje splnění přísných právních standardů. A to vyžaduje finanční výdaje a znalosti, které si malé subjekty nemohou vždy dovolit.

Proto se menší podnikatelé musí předem seznámit s aktuálními a plánovanými regulacemi – to jim umožní minimalizovat právní rizika a implementovat AI odpovědně. Stojí za to využít služeb právníků specializujících se na nové technologie.

Zdroj: DALL-E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Příklady aplikací AI v podnikání a jejich právní regulace AI

Jaké jsou právní dilemata při implementaci AI v praxi? Zde jsou příklady:

• chatboti – použití ChatGPT ve společnosti pod nekomerční licencí zahrnuje přijetí podmínek účasti na “vědeckém experimentu” prováděném OpenAI; vedené konverzace mohou být přezkoumány a použity k vytvoření datových sad pro učení další generace umělé inteligence,
• voiceboti – mohou shromažďovat osobní údaje bez vědomí volajících, což vyvolává obavy o soukromí; neboť data se týkají nejen předmětu konverzace, ale také například záznamu hlasu osoby. Malý vzorek je dostatečný k “klonování”, tj. vytvoření kopie pomocí umělé inteligence, která může vytvářet přirozeně znějící záznamy jakéhokoli obsahu, který bude znít jako výroky této osoby,
• personalizace – algoritmy, které shromažďují a kategorizují data o uživatelích, mohou porušovat princip rovného zacházení; existuje také riziko, že mohou být použity k manipulaci, vytváření informačních bublin na základě přesné personalizace zprávy; proto jedním z základních principů etiky AI, stejně jako budoucích regulací týkajících se používání umělé inteligence, bude transparentnost v používání dat – ale jak to bude v praxi vypadat, není známo,
• autonomní automobily – vyžadují nové regulace týkající se bezpečnosti a odpovědnosti za možné nehody zahrnující automobily bez řidiče.

Jak vidíte, zdánlivě nesouvisející technické otázky implikují dodržování mnoha regulací. A to jsou pouze vybrané příklady nejbližší dnešní podnikatelské realitě.

Klíčové právní výzvy implementace regulace AI v malých podnicích

Co konkrétně může způsobit, že majitelé menších firem implementujících pokročilé systémy AI budou mít bezesné noci? To jsou především:

• komplexní a měnící se regulace – v rychle se měnícím prostředí nástrojů AI je obtížné držet krok s technologickými inovacemi, zatímco právní regulace týkající se jich se pomalu objevují, takže zbývá sledovat regulace používaných nástrojů a konzultovat právníka specializujícího se na právo ovlivněné oblastí činnosti společnosti,
• odpovědnost za chyby AI – to je jedna z primárních otázek pro podnikatele při implementaci nejnovějších vývojů v umělé inteligenci, otázka zní, kdo bude odpovědný za jakékoli škody v případě porušení ochrany osobních údajů zákazníků nebo plagiátorství spáchaného generátorem příspěvků na sociálních médiích,
• práva na díla vytvořená AI – jak chránit duševní vlastnictví, pokud je vytvořeno ve spolupráci s umělou inteligencí, aby byla ochrana účinná v rámci daného právního systému? To je velmi důležitá otázka v nepřítomnosti regulací a praktických způsobů, jak rozlišit mezi obsahem generovaným člověkem a obsahem vytvořeným člověkem,
• neúmyslná diskriminace – jak eliminovat algoritmické předsudky, které mohou vést například k vytváření segmentů “prvních” a “druhých” kategorií zákazníků podle pravidel kategorizace, která rozumí pouze AI.

To jsou základní dilemata, kterým čelí společnosti implementující pokročilá řešení založená na umělé inteligenci.

Průvodce pro podnikatele: Jak zajistit dodržování regulací AI?

Zákony regulující používání umělé inteligence se stále vyvíjejí v mnoha zemích. V důsledku toho bude možné zajistit dodržování regulací AI až po jejich vstupu v platnost. V říjnu 2023 Bílý dům zveřejnil Návrh zákona o právech AI pro Spojené státy, který zahrnuje pět principů na ochranu občanů před škodami způsobenými umělou inteligencí. Principy se zabývají bezpečností a efektivitou systémů, ochranou proti algoritmické diskriminaci, ochranou soukromí dat, informacemi a vysvětlením a alternativními možnostmi. Jeho podrobné znění lze nalézt zde: https://www.whitehouse.gov/ostp/ai-bill-of-rights/

Regulace upravující umělou inteligenci ve Spojených státech stanovuje nové standardy pro bezpečnost a ochranu AI zaměřené na ochranu soukromí Američanů, stejně jako na podporu inovací a konkurence, a na posílení postavení USA jako lídra v mezinárodním vývoji umělé inteligence. Klíčové akce zahrnují:

• stanovení požadavků na testování bezpečnosti a sdílení výsledků firmami vyvíjejícími pokročilé systémy AI,
• vývoj standardů, nástrojů a testů bezpečnosti AI,
• boj proti diskriminaci způsobené algoritmy,
• ochranu spotřebitelů, pacientů, zaměstnanců a studentů,
• zajištění odpovědného používání AI vládou.

Evropská unie naopak pracuje na “Zákoně o AI”, souboru regulací pokrývajících každou aplikaci AI v EU. Je určen k pokrytí všech nástrojů a zájmových skupin – států, podniků a jednotlivců – a k rozdělení systémů AI do kategorií rizik:

1. Systémy, které představují neoprávněná rizika – například na základě subliminálních technik,
2. Vysokorizikové systémy – jako je biometrická identifikace nebo řízení kritické infrastruktury,
3. Omezené rizikové systémy.

Odpovědnost za řádný provoz vysokorizikových systémů leží především na jejich dodavatelích, což může být pro společnosti poskytující taková řešení značnou zátěží. Plné znění “Zákona o umělé inteligenci” lze nalézt zde: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206

Jak tedy minimalizovat právní rizika při implementaci AI ve vaší společnosti? Zde je několik praktických tipů. Za prvé:

• zaměřte se na očekávané dopady implementace systémů AI, abyste včas zachytili potenciální rizika,
• od začátku mějte na paměti mechanismy pro kontrolu a dozor nad provozem algoritmů, například pomocí lidských nebo automatizovaných nástrojů, které monitorují jejich chování,
• zkontrolujte, že používáte důvěryhodné poskytovatele technologií AI, čtěte regulace a aktualizace,
• pečlivě sledujte aktualizace regulací AI a dodržujte je.
• Když máte pochybnosti, vyhledejte radu od právníků specializujících se na nové technologie.

Budoucnost regulace AI. Co mohou podnikatelé očekávat?

Regulace AI je stále v plenkách, ale již je zřejmé, že směřujeme k větší kontrole a dohledu nad technologií. Příkladem je “Zákon o AI” EU, který ukládá přísné standardy pro vysokorizikové systémy.

Na druhou stranu se ozývají hlasy, například z Velké Británie, které prosazují volnější regulace, které nebudou dusit inovace. Možná bude budoucnost zlatým středem?

Bez ohledu na přesná řešení se zdá jisté, že regulace AI budou stále přísnější, takže by podniky měly brát v úvahu při implementaci nových technologií ve svých společnostech.

Shrnutí

Revoluce v umělé inteligenci je obrovskou obchodní příležitostí. Nicméně při zavádění pokročilých AI řešení v malé firmě by si měl být vědom mnoha právních nástrah. Existující a plánované regulace mohou mnoha podnikatelům způsobit bolesti hlavy. Proto je zásadní získat včasné porozumění právním aspektům AI, provést důkladné analýzy rizik a dodržovat všechny požadavky. Pak budou moci jak podniky, tak zákazníci plně využít výhod umělé inteligence.

Pokud se vám náš obsah líbí, připojte se k naší komunitě pilných včel na Facebooku, Twitteru, LinkedInu, Instagramu, YouTube, Pinterestu, TikToku.