Zatím pro izolovaný systém na Letišti Václava Havla mají platit nová pravidla vzdálené biometrické identifikace osob v reálním čase. Do referenční databáze osob pro vyhledání umělou inteligencí by měli být vloženi podezřelí nebo ohrožení v pátrání. Platit to bude i pro osoby, které splní podmínky vazby, jsou na útěku z ústavu nebo jde o vyhoštěné cizince. Povolení pro vložení osoby do databáze má schvalovat senát vrchního soudu bez možnosti opravného prostředku.
Vnitro tímto způsobem implementuje nařízení Evropského parlamentu a Rady z letošního roku, jehož součástí je tzv. Akt o umělé inteligenci. Policie ČR provozuje v současnosti izolovaný systém na Letišti Václava Havla a novelou předkládá transpozici podmínek, aby nedošlo k přerušení jeho provozu. Tato identifikace na Letišti Václava Havla už probíhá.
Úplný Akt o umělé inteligenci je zde.
Izolovaný systém je podle navrhované definice „systém umělé inteligence pro vzdálenou biometrickou identifikaci fyzických osob v reálném“, který je prostorově a územně omezen na mezinárodní letiště.
Úplný návrh novely zákona o Policii ČR, jejíž je právní úprava součástí, je zde.
„Vzhledem k tomu, že vláda z důvodů ochrany vnitřní bezpečnosti předpokládá rozšíření kamerového systému na další mezinárodní letiště, umožňuje text návrhu nasazení izolovaného systému na jednom nebo více mezinárodních letištích, ale nikde jinde, jakkoli to nařízení o umělé inteligenci umožňuje,“ uvádí se v důvodové zprávě k návrhu. V České republice je šest mezinárodních letišť.
Případ muže s transparentem z moskevského metra
Tzv. Akt o umělé inteligenci zakazuje vzdálenou biometrickou identifikaci osob v reálném čase ve veřejných prostorách, ledaže je splněna a zákonem stanovena řada podmínek. „Jinými slovy, zpracování biometrických údajů v souvislosti s takovým použitím je tak v nařízení upraveno vyčerpávajícím způsobem,“ uvádí se v důvodové zprávě.
Už k samotnému použití identifikace prostřednictvím umělé inteligence musí mít policie zmocnění a zákonný důvod. Návrh je proto podle důvodové zprávy v souladu s judikaturou Evropského soudu pro lidská práva, uvádí vnitro s odkazem na rozsudek ESLP, který v červenci 2023 odsoudil Rusko za použití předmětného systému v moskevském metru bez konkrétního zákonného zmocnění.
Ruská policie systémem rozeznávání tváří a srovnáním s videem na Telegramu našla občana Nikolaje Glukhina, který v metru vezl transparent se slovy „To si děláš pr.el, jsem Konstantin Kotov. Hrozí mi až pět let za pokojné protesty“. Konstantin Kotov byl před tím odsouzený za to, že neohlásil jednomužnou demonstraci.
Případem Glukhin v. Rusko se Česká justice loni podrobně zabývala.
Referenční databáze a biometrické údaje obyvatel
Jak vyplývá z důvodové zprávy, spuštěním systému pro konkrétní případ se rozumí vložení údajů o osobě do „referenční databáze“ a následné hledání této osoby. Sama tzv. umělá inteligence žádné osoby nezná a je nutné ji vybavit. Pokud referenční databáze neobsahuje podobu všech obyvatel, což je zatím nemyslitelné.
„Tato databáze – již podle definice AI Aktu – obsahuje údaje většího množství osob, ovšem musí jít pouze o údaje nezbytné pro dosažení sledovaného cíle. Referenční databáze proto nemůže obsahovat údaje osob, které nejsou spojeny s plněním cílů, pro které tuto (vzdálenou, v reálném čase, biometrickou, na veřejných prostranstvích) identifikaci nařízení o umělé inteligenci povoluje. Zcela nepřiměřené by nepochybně bylo, pokud by referenční databáze obsahovala biometrické údaje všech nebo velké části obyvatel,“ uvádí k tomu důvodová zpráva.
Umělá inteligence neví, koho nezná, nesmí být jediným důkazem
Umělá inteligence nemůže poznat někoho, koho nezná: „Význam referenční databáze spočívá v tom, že osoby, které do ní nejsou zařazeny, systém z povahy věci nedokáže identifikovat. Není to technicky možné. Vliv na lidská práva a svobody nezařazených osob není nulový, ale je srovnatelný se vlivem kamerových systémů nepoužívajících biometrickou identifikaci. To znamená, že dochází k zachycení a zpracování podoby obličeje, k porovnání takto zpracované podoby s referenční databází, ale z důvodu nenalezení referenční podoby obličeje nedochází k identifikaci osoby, ani ke zvláštnímu upozornění na neidentifikovanou osobu,“ uvádí dále důvodová zpráva.
Protože podle vnitra nelze zcela zabránit případům, kdy dojde k chybné identifikaci osoby, umělá inteligence si někoho vyskytujícího se na místě splete s osobou z referenčního systému, zavádí se pravidlo, že, že „žádné rozhodnutí s nepříznivými důsledky pro osobu nemůže být učiněno jen na základě výstupu takového systému“.
Do referenční databáze za znásilnění, sabotáž i zločinné spolčení
Kdo má být podle návrhu zařazen do referenční databáze? Půjde o podezřelé, obviněné nebo obžalované či odsouzené podle přílohy II. nařízení Evropského parlamentu a Rady, pokud je horní sazba za tyto činy alespoň čtyři roky.
Jde například o tyto činy: terorismus, obchod s lidmi, sexuální vykořisťování a dětská pornografie, obchod s drogami, se zbraněmi, střelivem a výbušninami, jaderným materiálem, vražda a těžké ublížení na zdraví, obchod s orgány a tkáněmi, únos
Podle předmětné přílohy půjde také o činy stíhané Mezinárodním trestním soudem, znásilnění, trestné činy proti životnímu prostředí, sabotáž a účast na zločinném spolčení zapojením do jednoho nebo více výše uvedených trestných činů.
Může jít i o obecné ohrožení, útěk z ústavu nebo o cizince
Půjde ovšem také o podezřelé nebo obviněné z uvedených trestných činů, pod existuje důvodná obava, že by dokonáním činu způsobili ublížení na zdraví nebo smrt. „Jde pouze osoby, které lze vzít do vazby pro důvodnou obavu, že dokonají pokus trestného činu proti životu nebo zdraví, nebo se takového trestného činu, který připravovaly, dopustí. Může jít například o osobu obviněnou z pokusu obecného ohrožení podle § 272 odst. 1 tr. zák., je-li důvodná obava, že se pokusí tento trestný čin dokonat a tím někoho ohrozí na životě,“ uvádí k tomu důvodová zpráva.
Do referenční databáze mohou být podle návrhu rovněž zařazeny osoby v pátrání, pokud je ohrožen jejich život a zdraví.
A naposledy, jde o všechny osoby, u kterých byly splněny zákonné podmínky pro omezení osobní svobody s výjimkou podezřelých, obviněných nebo obžalovaných či odsouzených za trestný čin. „V praxi půjde především o případy útěků ze zabezpečovací detence nebo ústavní výchovy podle § 27 odst. 1 písm. d) zákona o policii, nebo o cizince, kteří mají být podle vykonatelného rozhodnutí vyhoštěni,“ vysvětluje k tomu důvodová zpráva.
Proti zařazení do referenční databáze není odvolání
Zahájení činnosti izolovaného systému má podle novely zákona povolovat předseda senátu vrchního soudu. „Navrhuje se, aby toto povolení vydával senát příslušného vrchního soudu, neboť hlavním důvodem nezávislé kontroly je zásah do lidských práv a svobod, zejména do práva na soukromí a práva na ochranu osobních údajů, který provoz izolovaného systému představuje,“ uvádí k tomu důvodová zpráva.
Soudce musí označit kategorii, do které osoba zařazovaná do systému spadá, území a čas, po který má být do systému zařazena. Povolit zařazení do referenčního systému lze pouze na dvanáct měsíců, avšak opakovaně. Proti rozhodnutí není žádný opravný prostředek.
„Nařízení o umělé inteligenci ovšem v těchto případech nepočítá s vícestupňovým povolovacím systémem nebo dokonce s účastí dalších stran na řízení o povolení. Z těchto důvodů se stanoví, že účastníkem řízení je pouze žadatel, a také se vylučuje opravný prostředek proti rozhodnutí soudu, zejména protože jde o rozhodování zvláštní povahy, které se fakticky týká jen osob, které jsou již předmětem pátrání na základě jiných zákonem předvídaných skutečností nebo (soudních) rozhodnutí,“ uvádí k tomu důvodová zpráva ministerstva vnitra.
Irena Válová
