Umělá inteligence je budoucnost a Česko ji musí využít naplno. Zákon, který doplní evropský akt o umělé inteligenci, by proto neměl její využití příliš svazovat a jít nad rámec dohodnutých evropských pravidel. České justici to řekl vrchní ředitel Sekce informačních technologií ministerstva práce a sociálních věcí Karel Trpkoš. Muž s pověstí zachránce digitalizace patří do týmu ministra Mariana Jurečky (KDU-ČSL), kterého přípravou českého AI zákona v prosinci pověřila vláda. V rozhovoru odhaluje i stinné stránky regulace umělé inteligence, například to, že se do ní českým úřadům moc nechtělo. Zákon nakonec předloží resort průmyslu a obchodu.
Jak vnímáte význam umělé inteligence a její regulace pro Českou republiku?
Asi není třeba diskutovat o tom, že umělá inteligence bude mít zásadní dopad na každodenní lidskou činnost. Naším cílem je její potenciál využít naplno a vytěžit z ní maximum. Když se tedy dostanu k regulaci jako takové, tak jsem zastáncem toho, že čím méně regulace bude, tím to bude lepší. Tady bych si dovolil bonmot: Evropa nemá žádnou vlastní umělou inteligenci, ale je první, která ji umí regulovat. Přiznám se, že osobně bych byl raději na straně těch, kteří mají vlastní umělou inteligenci a regulaci dodělají, až ji budou potřebovat.
Může na dobrém způsobu převedení evropského aktu o umělé inteligenci do národního právního rámce Česko vydělat? A co je vlastně v této oblasti „dobré“?
Především je důležité, abychom si do zákona nedali nějaké další vlastní regulatorní požadavky, které budou muset případní zájemci o využití umělé inteligence splnit. Jde o to, aby se umělá inteligence dala dobře využívat. Intenzivně jsme proto také v posledních měsících řešili, kdo bude v této oblasti dozorovým orgánem, protože to ve výsledku fungování regulace hodně ovlivní. Zhruba v polovině února jsme se domluvili s kolegy z ministerstva průmyslu a obchodu na tom, že pokud budou splněny podmínky, které si oni dali proto, aby se o umělou inteligenci mohli starat, tak si ji vezmou do své gesce. Z toho jsem nadšen, protože podle mě gesce musí ležet u někoho, kdo má skutečně zásadní zájem na tom, aby umělá inteligence fungovala, nebyla přehnaně regulovaná a sloužila byznysu.
Mohlo by vás zajímat
To znamená, že ministerstvo průmyslu a obchodu bude i dozorovým orgánem?
Ne, ministerstvo průmyslu a obchodu bude mít regulaci umělé inteligence v gesci. Dozorovým orgánem bude pravděpodobně Český telekomunikační úřad.
Ministerstvo průmyslu a obchodu je zároveň autorem Národní strategie umělé inteligence. Proč se tedy vůbec musela vést diskuse o tom, zda bude mít na starost regulaci umělé inteligence? Logicky by se zdálo, že je to jasná věc.
Je to nová oblast spojená s tím, že na ni potřebujete mít lidi, dobré lidi, musíte na ni získat prostředky a musí být splněny podmínky k tomu, abyste gesci mohli vykonávat. K tomu, aby Česká republika mohla připravit potřebnou legislativu, tak bylo především potřeba vyřešit, kdo tu oblast bude řídit. Náš názor od začátku byl skutečně takový dostat tu agendu ke kolegům z ministerstva průmyslu a obchodu. Ve hře byl také Národní úřad pro kybernetickou a informační bezpečnost, ale ten má jiné priority, než podřídit umělou inteligenci požadavkům národního hospodářství.
Jaké konkrétně podmínky musí být splněny, aby ministerstvo průmyslu a obchodu bylo ochotno se o umělou inteligenci v Česku starat?
Myslím, že požadovali 40 lidí a 40 milionů korun.
Máte už alespoň rámcovou představu, jak by měl dozor nad trhem s umělou inteligencí v českých podmínkách fungovat?
To bude právě předmětem nové právní úpravy. Detaily teď ještě nedokážu specifikovat, bude se to ještě poměrně složitě nastavovat.
Máte už časový harmonogram, ve kterém by měla být regulace připravena? V plánu legislativních prací vlády je psán duben letošního roku. To se ale nezdá být úplně reálné, že?
Ne. Cílem je, aby zákon regulující umělou inteligenci prošel vládou před skončením volebního období. Předpokládám, že hotový po mezirezortním připomínkovém řízení by mohl být předložen vládě v srpnu.
Dobře, ale když vláda schválí zákon v srpnu, je jasné, že ho do voleb nestihne projednat sněmovna a nová vláda ho bude muset předložit znovu. Co když s ním ale nebude souhlasit?
Tohle není typ zákona, který by byl nějakým dramatickým způsobem ovlivňován politickou reprezentací. Zároveň bude samozřejmě ten návrh diskutován se všemi zainteresovanými stranami. Nehrozí tedy, že ho pak někdo bude celý přepisovat.
Úkolem ministerstva práce a sociálních věcí je pečovat o trh práce. A právě od umělé inteligence se očekává, že trh práce významně ovlivní. Budete tedy při přípravě regulace zohledňovat nějakým způsobem právě i ochranu trhu práce před dopady umělé inteligence?
Nepostavíme bariéry kolem našeho trhu práce, tak abychom ho nějakým způsobem konzervovali. Profese vznikají, profese zanikají a já si myslím, že úplně stejně, jako jsme se vypořádali se zánikem některých profesí v minulosti, tak se úplně stejně přizpůsobujeme umělé inteligenci a změně profesí v budoucnosti. To asi není něco, co by vyžadovalo dramatické řešení. Byl bych velmi rád, kdybychom podnikatelskému sektoru do toho nemluvili a nechali ho dělat byznys.
To je překvapivé. Když totiž vláda v prosinci pověřila Mariana Jurečku tím, aby si vzal implementaci AI actu na starost, mluvilo se v odborných kruzích o tom, že důvodem je právě ochrana trhu práce.
Ne. Důvodem bylo, že tuto oblast na vládě nikdo do gesce nechtěl. Logickým řešením bylo, že ji dostal do gesce vládní koordinátor pro digitalizaci, tedy Marian Jurečka.
Chránit občany před umělou inteligencí má podle Evropské unie AI ombudsman. Zřídí Česko tento úřad? A pod koho by mohl spadat?
Podle mě by to měla být funkce dozorového orgánu. Zkusme se vyvarovat toho, abychom vymýšleli další orgán, který se tím bude zabývat. Jak jsem už říkal, námi preferovaná varianta je, co nejmenší regulace tak, abychom umělou inteligenci dokázali využít v co největší míře. Všechny existující modely přece vznikly na nějakých datech a vycvičily se díky tomu, že v té době byla regulace poměrně malá. Ty modely vznikaly tréninkem na v podstatě veškerých dostupných datech. U toho bych se snažil v co největší možné míře zůstat.
AI act dále předpokládá vznik národního regulačního sandboxu a jeho legislativního rámce. V Česku bude zřejmě první v historii. Co od něj můžeme očekávat?
Zřízení regulačního sandboxu je bezpodmínečně nutné. K tomu není alternativa, protože umělou inteligenci potřebujeme testovat ve vymezeném a bezpečném prostředí, aby se nevymkla kontrole. Sandbox vytváří prostředí, ve kterém si firmy budou moci ověřit, že jejich umělá inteligence je v souladu s legislativou. Termín zřízení národního sandboxu je proto už daný. Do srpna 2026 už by měl být k dispozici.
Kdo by měl v Česku sandbox vytvořit?
Sandbox vytvoří některá z organizací ministerstva průmyslu a obchodu, nebo ho vytvoří NÚKIB.
V rámci sandboxu bude stát certifikovat každou umělou inteligenci, která v Česku vznikne?
Neřekl bych, že budeme certifikovat každou. Jsou různé kategorie umělé inteligence definované podle rizik a na základě toho budou nastaveny prováděcí předpisy. Ty stanoví, co je podle konkrétního typu umělé inteligence potřeba udělat. Ale abych pravdu řekl, mě Česko v tomto úplně nezajímá. Je důležité především to, aby se Evropa zamyslela nad tím, jak vlastně chce fungovat. Už v úvodu našeho rozhovoru jsem říkal, že v Evropě nemáme žádnou vlastní masivně využívanou umělou inteligenci. Jen Francouzi vyvinuli nějaký model, ale ten prakticky nikdo nezná.
Je v této situaci vůbec reálné, aby se Česko dostalo mezi světové špičky v oblasti umělé inteligence, jak předpokládá Národní strategie umělé inteligence zpracovaná loni ministerstvem průmyslu a obchodu?
To je politická otázka. Byl bych rád, aby to celé fungovalo jinak než doteď, abychom tady měli takové podnikatelské prostředí, které bude generovat poptávku po využití umělé inteligence a díky tomu se staneme lídry v oblasti umělé inteligence. To znamená potřebovali bychom, takové prostředí, které bude přát startupům. Ale to je už trochu jiné téma.
Takže implementace AI act je důležitá, ale sama o sobě využití umělé inteligence nerozhýbe?
Přesně tak. Podnikatelské prostředí může rozhýbat především změna mentality. My jsme se stali hodně nárokovou ekonomikou. Vytratila se myšlenka z 90. let, že by se měl člověk zkusit vlastním přičiněním rozvíjet, mít se dobře a jít za svým cílem. Ta ale chybí nejen u nás, ale v celé Evropě. Chybí nám podnikatelský duch a bylo by dobré ho nějakým způsobem oživit.
