Už teď dokáže umělá inteligence (AI) některé úkoly zvládat mnohem efektivněji než lidi. A to jsme teprve na začátku. Otevírají se tak dosud nevídané možnosti jejího využití v byznysu a podnikání. Jenže jako s každou novou technologickou vymožeností, vždycky je tu nějaké ALE. V případě AI je to řada právních otázek, na které byste si měli odpovědět, než si pustíte umělou inteligenci do firmy.

Tlak na využívání či dokonce celofiremní implementaci umělé inteligence roste, a to nejen od strategických poradců, ale prakticky od všech dodavatelů technologií, kancelářských aplikací, vzdělávacích agentur, ale i zaměstnanců – nadšenců do digitalizace a nových technologií.

Právní důsledky užívání AI nástrojů jsou zásadní v otázkách práv duševního vlastnictví, ochrany osobních údajů, důvěrných informací a v dalších oblastech.

České firmy si nicméně na využití umělé inteligence zatím zvykají a zkoušejí, co jim vlastně může přinést. Podle průzkumu společnosti Blindspot Solutions z května 2023, která se na AI ptala top manažerů velkých tuzemských firem, zhruba polovina velkých českých firem zatím generativní AI plošně neřeší. Celkem 21 % firem využívá ChatGPT bez omezení, pětina společností naopak jeho využívání reguluje interními předpisy, 6 % dokonce přísně. Obavy mají nejvíce z nepřesnosti vygenerovaných informací a ztráty či zneužití firemních dat. A i my právníci radíme využít chytře možností rychle se rozvíjejících technologií, zároveň ale myslet i na to, že to má svá právní rizika.

Kdo je autor?

V souvislosti s AI odpovídáme nejčastěji na otázku, kdo je vlastně autorem výstupů, které AI generuje, a kdo k nim má tedy výhradní práva. Ať už jde o texty „z pera“ ChatGPT, obrázky „nakreslené“ Midjourney, videa „sestříhaná“ Pictory nebo hudební skladby od Amper Music. Pro AI zatím neexistuje ucelený regulační rámec (v České republice ani EU), obecně lze ale AI vnímat jako soubor algoritmů, databází a jiných chráněných předmětů, které právně uchopit lze.

Jakým způsobem můžete nakládat s obsahem vytvořeným AI, závisí primárně na podmínkách poskytovatelů daného nástroje. Ti mohou práva k výstupům zásadně omezovat, v krajním případě i zakázat, abyste výstupy používali pro komerční účely. Pokud to ovšem neudělají a uživatel vytváří pomocí AI obsah na základě pouhých „promptů“ (textových zadání uživatele), není už odpověď na otázku kolem autorství a ochrany vytvořeného obsahu tak jednoznačná.

Vodítkem v této souvislosti může být třeba nedávné doporučení amerického Úřadu pro autorská práva, podle kterého člověk u AI nástrojů nemá definitivní tvůrčí kontrolu, protože prompty v zásadě fungují jako „instrukce“ pro umělce. V konečném důsledku je na AI, jak se rozhodne je realizovat. Dle tohoto přístupu takto vygenerovaný výstup tedy není výsledkem lidské tvůrčí činnosti, a proto nemůže být chráněný autorským právem a může ho použít prakticky kdokoli. Jak se k této otázce postaví česká praxe, je však prozatím s otazníkem. Někteří komentátoři totiž zastávají názor, že pokud je obsah generovaný AI nástrojem vytvořen technologií, která pouze doplňuje tvůrčí proces jednotlivce, aniž by zastínila jeho osobní přínos, lze jej připsat lidskému tvůrci. Jasnějšího stanoviska k této otázce se pravděpodobně dočkáme až s příchodem prvních soudních sporů týkajících se této problematiky, které mohou s ohledem na všeobecnou popularitu AI nástrojů přijít relativně brzy.

AI a Ed Sheeran nebo J. K. Rowlingová

Zamyslet byste se měli také nad tím, jestli při generování výstupů nevkládáte do AI nástrojů nějaký chráněný obsah – můžete si například pro firemní video chtít vygenerovat melodii podle nejnovější písničky Eda Sheerana nebo třeba napsat nový scénář podle textu knihy J. K. Rowlingové. Pokud nevyužíváte takové výsledky jen pro osobní potřebu, pak použití děl chráněných výhradními právy, jako jsou obrázky, melodie nebo písně apod., obecně vyžaduje souhlas příslušných nositelů práv.

Pro účely komerčního využití takového obsahu si proto musíte zajistit adekvátní licence, a to jak k originálnímu obsahu, tak i pro případné odvozeniny vytvořené AI nástroji. Ne vždy je tato kombinace samozřejmostí. Nenechte se tak uchlácholit reklamními výroky některých poskytovatelů AI nástrojů, že „všechny vstupy a výstupy patří uživateli.“. Vždy naopak kontrolujte, že práva k vstupům zadaným do AI i vygenerovaným výstupům byla řádně vypořádána. Ideálně odebírejte podkladový obsah z oficiálních fotobank, videobank a jiných ověřených zdrojů, kde je vždy uvedeno, jaké licenční podmínky se na daný obsah vztahují a jakým způsobem je tedy možné jej použít. U poskytovatelů AI nástrojů pak vždy pečlivě pročtěte pravidla pro užití podkladového a vygenerovaného obsahu v příslušných obchodních podmínkách.

Pozor, citlivé

Příchod AI také zcela mění zažitý systém zpracování osobních údajů. Ve firmě určitě řešíte nakládání s daty a máte je pod kontrolou. Velkou neznámou ale je, jak vlastně s daty nakládá AI. Silicon Valley se začalo v souvislosti s AI přezdívat nově Cerebral Valley. I když to nemusíme přímo nazývat uvědomělou inteligencí, i tak je třeba mít na paměti, že miliony lidí z celé zeměkoule při užívání AI nástrojů sdělují svá privátní data technologii, která prozatím není specificky regulována. Nikdo tak není schopný garantovat konkrétní rozsah zpracovávání dat ze strany AI nástrojů a údaje si mohou „žít vlastním životem”.

Prostřednictvím generativních AI nástrojů je tak celkem jednoduché porušit povinnost mlčenlivosti a zachování důvěrnosti dokumentů, obchodního tajemství či jinak chráněných informací. Když váš zaměstnanec vykopíruje citlivá data ze smlouvy do ChatGPT nebo nahraje důvěrný dokument k překladu do bezplatné verze DeepL, mohou se obchodně citlivé informace či dokumenty velice rychle dostat do nežádoucích rukou. A v takovém případě jste za porušení důvěrnosti odpovědní. Poučte proto zaměstnance o tom, že nemají zadávat do AI nástrojů žádné informace o privátních záležitostech firmy, zákazníků nebo zaměstnanců.

I mistr se někdy utne

Nezapomeňte ani na to, že AI trénuje své schopnosti na základě zdrojů, takzvaných datasetů, a i ty mohou obsahovat údaje, jejichž zpracování vyžaduje souhlas třetích osob. Navíc nemáte ani záruku, že zdroje neobsahují fiktivní či zastaralé informace nebo dokonce informace nesprávné nebo nepravdivé. O tom se přesvědčila například dvojice amerických právníků, kteří bez jakékoliv kontroly převzali výstup AI do soudního podání. Jenže se pak ukázalo, že soudní rozhodnutí citovaná AI vůbec neexistují.

Upozorněte tedy zaměstnance, že pokud chtějí využívat výstupy z AI, nesou vždy odpovědnost za to, že takový obsah je fakticky správný a nepřekračuje hranice ochrany osobnosti, nekalé soutěže, ani neporušuje práva duševního vlastnictví. V opačném případě to totiž může samozřejmě mít zásadní právní dopady nejen na poskytovatele, ale i uživatele těchto AI nástrojů, tedy vás i vaše zaměstnance. Doporučujeme proto důslednou kontrolu vstupů i výstupů.

Etika robota

Pamatujte i na etické otázky, AI systém je totiž tak nestranný, jak „nestranná“ jsou data, na kterých trénuje. Opět je tedy třeba vždy ověřit a zkontrolovat, aby se výstupy AI vyhnuly jakékoli diskriminaci a nerovnému přístupu například v kontextu náboru zaměstnanců nebo třeba hodnocení úvěruschopnosti žadatele o úvěr. I to totiž může vyvolávat na straně uživatelů AI nástrojů další právní komplikace.

Pozorujeme dva přístupy k AI nástrojům – nadšený optimismus, typický pro startupy či technologické inovátory, a naopak zdrženlivější postoj větších společností, které jsou si vědomy úskalí zavedení těchto nástrojů.

Kterou cestou?

Aktuálně v praxi pozorujeme dva přístupy k AI nástrojům – nadšený optimismus, typický pro startupy či technologické inovátory, a naopak zdrženlivější postoj větších společností, které jsou si dobře vědomy úskalí, jež zavedení těchto nástrojů do praxe provází (ať už z hlediska technického, compliance procedur anebo právních problémů naznačených výše).

Setkáváme se i s případy, kdy firmy užívání on-line AI nástrojů pro pracovní i osobní užití zcela zakazují, zejména kvůli riziku případných informačních úniků anebo uplatnění nároků za porušení práv duševního vlastnictví.

Nejskeptičtěji přistupují k AI nástrojům typicky banky (např. DeutscheBank, Goldman Sachs, JPMorgan Chase & Co.). Vzhledem k přísné veřejnoprávní regulaci (zejména bankovního tajemství) je jejich zdrženlivost naprosto pochopitelná. Opatrný přístup ale zastávají také někteří technologičtí giganti jako Samsung či Apple, kdy druhý jmenovaný dokonce vydal zákaz užívání on-line AI v týž den, kdy samostatně spustil ChatGPT aplikaci pro vlastní operační systém iOS. Vybrané nástroje AI zakázaly používat na svém území i některé státy, a to nejen nedemokratické režimy typu Čína či Rusko, ale k zákazu ChatGPT se dočasně (z obav z možného zneužití osobních údajů) připojila také Itálie.

AI nástroje sice dokážou zefektivnit řadu interních i externích procesů, a posouvat tak podnikatelské aktivity na zcela novou úroveň, k zavedení těchto nástrojů ale doporučujeme přistupovat opatrně. Zajistěte ideálně, aby implementace i užívání AI nástrojů probíhaly tak, aby byly v souladu s příslušnými smluvními, zákonnými a jinými závazky vaší společnosti.

Zaveďte ve firmě technická opatření a interní směrnice. Zaměstnance řádně proškolte. Zapojte do přípravy vaší firemní AI strategie odborníky a diskutujte o ní i s lidmi ve firmě. Že nejde o „Mission Impossible“ dokazuje například Česká spořitelna, která zavedla pro své zaměstnance interní model ChatGPT a zároveň přijala potřebné pojistky k tomu, aby snížila riziko úniku citlivých dat.

Už je to tady

Legislativa vždy časově zaostává za technologickým pokrokem. Nejrelevantnější právní předpis regulující AI na úrovni EU aktuálně nicméně představuje připravovaný tzv. Akt o umělé inteligenci, který pro poskytovatele a uživatele AI navrhuje celou řadu povinností. O návrhu tohoto právního předpisu po prvotním schválení Evropským parlamentem diskutují unijní instituce a pravděpodobně se na konci roku 2023 stane prvním právním předpisem na světě, který komplexně reguluje AI.

Akt o umělé inteligenci má klasifikovat AI systémy na základě míry jejich rizikovosti od té nejnižší, jako jsou videohry, které budou v zásadě neregulované, až po ty s „nepřijatelným rizikem“, které mají být zcela zakázané (např. systémy přidělování sociálního kreditu či některé biometrické identifikační systémy).

Pro vysoce rizikové AI systémy, např. AI systémy pro správu a provoz kritické infrastruktury (jako jsou silniční doprava či dodávky energií), pak legislativa zavede přísné kontroly rizikovosti i toho, jestli odpovídají všem technickým požadavkům dle příslušných norem. Poskytovatelé generativních AI nástrojů by navíc měli mít povinnost označovat obsah generovaný AI a zveřejňovat tréninková data, na která se vztahují autorská práva.

Pokud nevyvíjíte AI, Akt o umělé inteligenci na vás bude mít spíše marginální dopad. Na druhou stranu, vývojáři rizikovějších AI systémů budou pravděpodobně od roku 2026 muset před uvedením svých řešení na unijní trh postupovat s větší opatrností a zajistit, že jejich technologie projdou komplexními prověrkami a splní příslušné právní normy.

To může vést k výrazné změně dynamiky technologického trhu, kdy by se hlavní hráči na trhu mohli rozhodnout „obejít“ EU a přesunout své technologické huby do právně flexibilnějších jurisdikcí. Proto doufáme, že finální znění Aktu o umělé inteligenci bude představovat vyvážený regulatorní přístup zohledňující jak potřebu technologického pokroku, tak i obezřetnost a potřebnou míru bezpečnosti.

Pečlivě a uvážlivě

V případě využívání nástrojů AI pro podnikatelské potřeby doporučujeme vždy zapojit kompetentní odborníky a pokud možno zvolit obchodní model AI nástroje zaměřený na podniky (využitelnost bezplatných verzí pro podnikatelské účely je zpravidla velice limitovaná).

AI zcela jistě přináší obrovský potenciál pro optimalizaci a zefektivnění firemních procesů. Abyste však mohli tento pokrok co nejlépe využít a zároveň se chránili před možnými právními nástrahami, měli byste postupovat informovaně, proaktivně a s náležitou pečlivostí. Využívání AI nástrojů pro podnikatelské účely rozhodně není třeba vnímat jako tabu, ostatně i my sami AI nástroje často používáme. Vždy tak ale ideálně čiňte s „požehnáním“ právníka.

Desatero právníkových rad

1
Ověřte si v příslušných obchodních podmínkách poskytovatelů AI nástrojů, jakým způsobem je pro jejich AI nástroje upraveno komerční využití výstupů.
2
Ke generování používejte vlastní obsah nebo kontrolujte v licenčních podmínkách fotobank a dalších repozitářích, že práva k vstupům, které z nich využíváte a zadáváte do AI, jsou řádně vypořádána (tj. máte potřebné oprávnění) a že generovaný obsah neporušuje něčí výhradní práva.
3
Nezadávejte do AI nástrojů citlivé informace a údaje. Poučte o tom i všechny zaměstnance.
4
Důsledně kontrolujte, zda jsou AI výstupy fakticky pravdivé. Ověřujte si všechny informace z jiného důvěryhodného zdroje.
5
Ověřujte, zda výstupy generované AI neobsahují prvky diskriminace.
6
Implementujte AI a její užívání ve firmě tak, aby vše bylo v souladu se smluvními, zákonnými a jinými závazky vaší společnosti.
7
Zaveďte ve firmě technická opatření a interní směrnice týkající se využívání AI. Zaměstnance řádně proškolte.
8
Zapojte do přípravy vaší firemní AI strategie odborníky a diskutujte o ní i s lidmi ve firmě.
9
Místo bezplatných verzí AI nástrojů, jejichž užití pro podnikání je omezené, využívejte AI nástroje a obchodní modely určené přímo pro podnikatelské potřeby.
10
Sledujte (například na blogu HAVEL & PARTNERS) vývoj nejnovější legislativy, rozhodnutí soudů a aktuální vývoj v oblasti umělé inteligence.