Akt o o umělé inteligenci či směrnice, která bude AI (Artificial intelligence regulovat). To jsou dvě normy, které by v Evropské unii mohly zasáhnout do zatím poměrně volného právního rámce, ve kterém AI nyní funguje. ČR podle oficiální pozice v obecné rovině směrnici o regulaci podporuje a na fenomén AI nenahlíží jako na riziko, ale jako šanci, která může přinést pozitivní změny. K navrženým změnám ale bude podle ministra spravedlnosti Pavla Blažka přistupovat s maximální obezřetností.
Cílem směrnice je je zvýšení důvěry osob v AI a v konečném důsledku i podpora jejího využívání. O parametrech návrhu již informovalo české zastoupení Evropské komise. Česká justice se fenoménem zabývala v rozboru obsáhlé eseje z časopisu The Economist.
České ministerstvo spravedlnosti oceňuje, že byla zvolena nejmírnější varianta regulace. Vývoj AI je velmi dynamický a ve více čí méně vzdálené budoucnosti se jejich využívání patrně dotkne všech sektorů ekonomiky či oblastí společenského a občanského života. „ČR se k tomuto výhledu staví veskrze pozitivně, a přestože se hlásí k přístupu k AI, v jehož centru je člověk („human centric AI“), nenahlíží na AI primárně jako na zdroj nových rizik a nebezpečí,“ stojí v podkladech stanoviska ČR, které má Česká justice k dispozici. Regulace by tak měla být založena spíše na uzpůsobení stávajících zákonů a je nežádoucí brzdit zákony vývoj v tomto odvětví. Pravidla jsou navíc připravována, aniž by politici věděli, jaké změny v této oblasti nastanou v nejbližší době. Rámcovou pozici již schválil vládní výbor pro EU, ale i poslanecký Výbor pro evropské záležitosti.
Kdo bude odpovídat za chyby robota, jak se budou měnit zákony v souvislosti s vývojem technologií umělé inteligence a jejím širším využitím v praxi či kam až může umělá inteligence zajít – i to jsou otázky, kterými se bude zabývat sympozium Zdravotnického deníku a České justice na téma Právo a digitalizace – umělá inteligence ve zdravotnictví. Akce se bude konat 29. května v eventroomu Truhlárna v pražském Karlíně a přihlásit se na ni můžete na mailu [email protected].
Čtěte také: Jak funguje jazykový model pro AI? Obsahuje všechny knihy, které byly napsány. I ty, které napsány nebyly
Senátní výbor pro záležitosti EU pak konstatoval, souhlasí s názorem, že navrhovaná pravidla musí být harmonizována s již existujícími pravidly a nemají vyvolávat výkladové a aplikační problémy a při současném posílení postavení eventuálně poškozených nemají nepřiměřeně vychylovat rovnováhu práva v neprospěch osob, které vyvíjejí či využívají systémy umělé inteligence.
Návrh se zaměřuje pouze na dvě oblasti. Na postup, který má žalobci umožnit zpřístupnění důkazních prostředků o vysoce rizikových systémech AI a na zmírění důkazního břemene pomocí několika vyvratitelných domněnek.
Toto opatření Komise odůvodňuje tím, že pro žalobce může být obtížné prokázat příčinnou souvislost mezi nedodržením povinnosti řádné péče a výstupem vytvořeným systémem AI nebo tím, že systém AI nevytvořil výstup, který vedl ke vzniku příslušné škody. Vyvratitelná domněnka je přitom podle Komise nejméně zatěžujícím opatřením, které řeší potřebu spravedlivého odškodnění poškozeného.
Příčinná souvislost
Podle směrnice má soud pro účely použití pravidel odpovědnosti předpokládat příčinnou souvislost mezi zaviněním žalovaného a výstupem vytvořeným systémem AI nebo tím, že systém AI takový výstup nevytvořil za splnění podmínek v návrhu uvedených.
Návrh neharmonizuje podmínky odpovědnosti za škodu. Ty by se měly podle ministra spravedlnosti Blažka, který směrnici v lednu představil v Senátu, i nadále řídit národním právem. V některých členských státech také existují více či méně pružná pravidla umožňující soudům zmírnit důkazní břemeno žalobce (v ČR např. nález Ústavního soudu ze dne 9. května 2018, sp. zn. IV. ÚS 14/17).
Návrhem také nemají být dotčena ani národní pravidla, která upravují odpovědnost bez ohledu na zavinění, jako je u nás například odpovědnost provozovatele dopravního prostředku nebo provozovatele závodu. „Směrnice by podle Evropské komise měla zlepšit fungování vnitřního trhu a měla by přispět k budování důvěry v umělou inteligenci a zvyšovat její využívání,“ uvedl Blažek s tím, že ČR sice novelu směrnici podporuje, ale ke změnám chce přistupovat s maximální obezřetností. „Odpovědnost za škodu již nyní upravuje řada pravidel a pokud mají být přijata další na unijní úrovni, je třeba zajistit, aby měla jasnou přidanou hodnotu jak pro poškozené, tak pro potenciálně odpovědné osoby,“ řekl ministr senátorům.
Větší právní jistota
Pro podnikatele, kteří v oblasti AI podnikají, by nová úprava měla podle ministerstva přinést větší právní jistotu při přeshraničním obchodování. Směrnice by také měla podpořit důvěru spotřebitelů v produkty a služby založené na AI.
Návrh směrnice bude třeba implementovat do českého právního řádu. Zásahy budou zřejmě do občanského zákoníku a do občanského soudního řádu. Komise by chtěla dosáhnout finální dohody mezi Radou a Evropským parlamentem ještě za stávajícího mandátu EP, tedy do první poloviny roku 2024.
Dalším zásadním návrhem je Akt o umělé inteligenci. Návrh tento měsíc schválily výbory v rámci Evropského parlamentu. Spočívá v klasifikaci technologií podle způsobu využití a zavedení různých úrovní omezení podle toho, jaké s sebou nesou riziko. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy na rozpoznávání obličejů by zase podléhaly silné regulaci.
V únoru 2020 byla v Bílé knize o umělé inteligenci představena vize EU v oblasti budování důvěry a excelentního výzkumu AI, a v únoru 2020 byla vydána Zpráva o dopadech umělé inteligence, internetu věcí a robotiky na bezpečnost a odpovědnost.
Eva Paseková
