Soudce Roman Fiala: Umělá inteligence je jako džin vypuštěný z lahve

Velká důvěra v právo a nadšení z možností právních řešení složitých situací je naivní. Po více než třicetileté praxi soudce si to myslí někdejší místopředseda Nejvyššího soudu Roman Fiala. Platí to i pro oblast AI, tedy umělé inteligence. Ta je podle Fialy „džinem vypuštěným z lahve“. „Myslím si, že je obtížné právem regulovat věci lidské, natož tuto problematiku, která je zjevně nelidská,“ uvedl na sympoziu České justice a Zdravotnického deníku „Právo a digitalizace – umělá inteligence ve zdravotnictví“.

Evropský parlament ve středu odhlasoval svou pozici pro jednání s členskými státy ohledně regulace umělé inteligence, tedy Akt o umělé inteligenci. Finální verzi regulace dohodne parlament s členskými zeměmi EU.

Návrh Aktu zavádí základní pravidla pro umělou inteligenci, vymezuje zákazy jeho použití a nastavuje podmínky pro vysoce rizikové oblasti. Pozice Evropského parlamentu reaguje i na dynamický vývoj tzv. generativních systémů umělé inteligence. Návrh bude nyní diskutován mezi Evropským parlamentem, Radou EU zastupující členské státy a Evropskou komisí.

Roman Fiala na úvod připomněl, že jeho účast na sympoziu pomáhal sjednat nedávno náhle zesnulý mluvčí Nejvyššího soudu Petr Tomíček. „Velmi jsem si ho vážil a rád bych tady na něj zavzpomínal,“ uvedl.

Mohlo by vás zajímat

Bezpečnější školy může pomoci zajistit i umělá inteligence, zaznělo ve sněmovně

Soudce Roman Fiala, vydavatel České justice a Zdravotnického deníku Ivo Hartmann a prorektor Masarykovy univerzity Radim Polčák

Čtěte také: Ředitel AAVIT Hanzal: Díky AI vzniknou nové profese. Zkušenost je ale nenahraditelná

To, že v oblasti právní regulace AI zřejmě zvítězí procesní řešení nad hmotným je podle něj klasická situace, kdy si politická reprezentace není jistá řešením. Procesní úprava je pak podle Fialy jakési alibi. „Je to procesní postup, který se volí vždycky a všude a který funguje, protože zbavuje ty, kteří to mají řešit, odpovědnosti,“ řekl Fiala na úvod své přednášky. Je to podle něj jako s mezinárodním právem. To platí pro malé, chudé a bezvýznamné a pro velké, bohaté a silné nikoliv.

Náměstek ministra spravedlnosti Antonín Stanislav, ředitel Asociace pro aplikovaný výzkum v IT Jaromír Hanzal, soudce Roman Fiala, vydavatel České justice a Zdravotnického deníku Ivo Hartmann, prorektor Masarykovy univerzity Radim Polčák a Chief Information Officer AK Císař, Češka, Smutný s.r.o Martin Vlasta

Nejen AI, ale i mocenská situace, válka či migrace přináší podle Fialy otázky, které by měly být právním reflektovány, ale neděje se tak. „Normativní systémy, které máme, jsou na tyto situace nepoužitelné. . Takže vytváříme určitou představu o dodržování práv, norem a systémů, které ale v zásadě nefungují.,“ upozornil soudce Nejvyššího soudu. Už dříve se lidé stresovali tím, že nevědí, jak některé věci fungují.

Roman Fiala působil na Nejvyšším soudu i jako místopředseda

Nemáme ponětí o tom, jak věci fungují

Dnes podle Fialy nemáme potuchy o tom, jak funguje většina věcí, které každodenně používáme. Nerozumíme nejen věcem, ale ani společenským souvislostem. „A chceme právo, které by to normovalo a ujistilo nás, že je vše v pořádku. Dříve byl starý člověk nositelem moudrosti a zkušeností, které mohl předávat mladším. Dnes jsou zkušenosti a znalosti starých lidí ve většině oborů, zejména těch technických nebo biologických, pro mladé zcela bezcenné,“ myslí si soudce. On sám umělou inteligenci dříve nebral vážně. Poté ho ale zaujalo, že odborníci vyzvali k tomu, aby se vývoj AI zpomalil. „Kdo to právo bude vytvářet, když právníci tomu také nerozumí? Bude to střet a hledání něčeho, co stěží uchopíme. Je to vlastně džin vypuštěný z lahve. My víme, že ho do ní už nenacpeme zpět a tak jen hledáme tým odborníků který řekne, podle jakých pravidel by se měl chovat,“ glosoval Fiala situaci kolem vývoje umělé inteligence s tím, že z dalšího vývoje má obavy.

Šéfredaktor Zdravotnického deníku Tomáš Cikrt, spoluzakladatel Carebot Matěj Misař, ředitel divize Medical Solutions OR-CZ Michal Mačát, a manažer Aireen Matěj Adam

Obavy z vývoje

Touha zastavit čas aby vše zůstalo takové, jaké to známe, se občas objeví v každém z nás. Když se bavíme o právu a medicíně, tak lékaři i právníci v určitých situacích jednají nejen racionálně, ale i na základě empatie a určitého citu k řešení situace. Je AI schopna jít cestou vytváření vzorců citu, které v sofistikované podobě budou fungovat jako lidské city?“ táže se Roman Fiala.

Ředitel divize Medical Solutions OR-CZ Michal Mačát, a manažer Aireen Matěj Adam

Rizika AI na sympoziu nastínil i prorektor Masarykovy univerzity Radim Polčák. Upozornil například na to, že umělá inteligence si dokáže vymyslet i judikaturu.

Regulací umělé inteligence se nyní na Ministerstvu spravedlnosti zabývá nová pracovní expertní skupina.

Na sympoziu dále vystoupili náměstek ministra spravedlnosti Antonín Stanislav, egyptolog Miroslav Bárta, Chief Information Officer AK Císař, Češka, Smutný Martin Vlasta, ředitel divize Medical Solutions OR-CZ Michal Mačát, ředitel Asociace pro aplikovaný výzkum v IT Jaromír Hanzal, spoluzakladatel Carebot s.r.o. Matěj Misař a manažer Aireen a.s Matěj Adam.