Český sytém identifikace osob on-line pomocí referenční databáze může být bez soudu použit proti každému. Návrh novely zákona dělí lidi do nejasných kategorií. Zatímco u jedné musí nasazení systému povolovat soud individuálně, u druhé lze systém s povolením soudu použít proti celé skupině. To je v rozporu s evropským aktem o umělé inteligenci. Instituce varují před „rybařením“ lidí bez procesu a zaváděním pravidel jako v Číně. Návrh je podle připomínek gumový, nejasný a nepředvídatelný.
Vyplývá to ze samotného návrhu novely zákona o Policii ČR jeho v. Na jeho vady upozorňují instituce v připomínkovém řízení. Systém identifikace on-line může být použit i proti lidem, kteří spáchají přestupek, namítá například ministerstvo spravedlnosti s tím, že vymezení terčů systému vůbec není jasné, přesné a předvídatelné.
O návrhu Česká justice už dříve informovala zde.
Obavu, že předložený návrh povede k čínskému modelu masivního nasazení kamer a systémů na rozpoznávání tváří a jejich následnému masovému vytěžování, vyjádřila kancelář vedoucího Úřadu vlády shodně s Úřadem pro ochranu osobních údajů. Čínská lidová republika chrání své občany za cenu soukromí a politické a sociální svobody jednotlivců, upozorňují instituce v obecné části připomínek.
Vyhledávání lidí on-line bez procesu povede k rybaření
Podle sdíleného stanoviska Úřadu pro ochranu osobních údajů a kanceláře vedoucí Úřadu vlády povede předkládaný zákon ke zneužívání pokusů hledat zločince i tam, kde nejsou s tím, že se policie jednou trefí. Tak jako se to dělo u domovních prohlídek a zajišťování dat: „Gumová ustanovení předloženého návrhu, navíc bez zabezpečení dostatečné kontroly, praxi umožní hypertrofii používání navržených systémů a velmi tím zvýší riziko nadměrného zásahu do práv podezřelých a i potenciálně podezřelých osob ve smyslu tzv.rybaření,“ uvádějí instituce.
„Tam, kde by bylo nasnadě postupovat cestou trestního procesu, který garantuje ochranu osob, vůči nimž mají být některé represivní prostředky použity, bude možné postupovat fakticky bezprocesně, což eliminuje možnost, aby osoby, vůči nimž mají být tyto prostředky použity, měly garantovány svá ústavní práva. Tato připomínka je zásadní,“ uvádí ÚOOÚ.
Jen Úřad pro ochranu osobních údajů předložil k návrhu ministerstva vnitra padesát zásadních připomínek.
Návrh je v rozporu s nařízením o umělé inteligenci
K dělení lidí do dvou kategorií a dvou podkategorií obsahují § 39a a §39b a §39c, kde se současně stanovuje, jakým způsobem má u které kategorie povolovat nasazení systému soud. Zda bude soudce vrchního soudu rozhodovat individuálně nebo zda mu bude předložen návrh na povolení on-line s pomocí referenční databáze sledovat/vyhledávat celou kategorii osob.
Problém do tříd rozdělených lidí, kde soudy budou jednat jednou individuálně a podruhé rozhodnou o celé kategorii, shrnuje úřad vládní zmocněnkyně pro lidská práva: „Tyto izolované systémy slouží k neodkladné biometrické identifikaci ve dvou případech.
Zaprvé jde o předem určené kategorie osob dle § 39b (někteří podezřelí, obvinění, obžalovaní, osoby, po kterých bylo vyhlášeno pátrání ad.). Dále jde o jiné případy dle § 39c, kdy je použití systému nutné pro naplnění cílů dle § 39a odst. 3 (pátrání, zabránění závažnému ohrožení života, ad.),“ uvádí v připomínce.
„Rozdíl je, že zatímco u jiných případů dle § 39c vydává soudce písemné povolení k použití pro konkrétní fyzickou osobu, u předem určených kategorii osob dle § 39b soudce povoluje pouze zahájení činnosti systému, ne ale už jeho využívání vůči konkrétním osobám,“ uvádí úřad zmocněnkyně s tím, že předně „není zřejmé, na základě čeho se soudce při povolování má rozhodovat, když neví, jak bude systém používán“.
„Zadruhé, tato úprava neodpovídá nařízení o umělé inteligenci. Dle čl. 5 odst. 3 nařízení podléhá předběžnému povolení soudu nebo nezávislého správního orgánu každé využití systému. Oproti tomu navrhovaná úprava počítá s povolením neomezeného počtu využití za podmínek předem určených pouze rámcově,“ upozorňuje úřad na zásadní vadu návrhu.
Před návrhem varují ÚOOÚ, GIBS i ministr pro digitalizaci
Úřad pro ochranu osobních údajů žádá část návrhu, kde soud povoluje zahájení činnosti systému, nikoli jeho nasazení na konkrétní osobu, rovnou zrušit. Také ÚOOÚ upozorňuje, že český návrh je v rozporu s evropským aktem o umělé inteligenci.
„Jedná se o nepřijatelné paušální povolení. Podle článku 5 odst. 3 AIA soud musí povolit každé užití. Neobstojí přitom argument, že jedná pouze o podezřelé ze závažných trestných činů. U nasazení jiných prostředků i tam soudce rozhoduje o konkrétním člověku. I pro osoby podle § 39b odst. 1 ZZOÚ je třeba použít model § 39c odst. 2 ZZOÚ. Soud má posuzovat konkrétní účel nasazení na konkrétního člověka, na konkrétním místě a v konkrétním čase,“ varuje Úřad pro ochranu osobních údajů.
Nad návrhem se podivuje i Generální inspekce policejních sborů (GIBS): „Máme za to, že by měl návrh zákona obsahovat úpravu předchozího povolení vydaného příslušným soudcem pro účely posouzení zařazení každé konkrétní fyzické osoby do referenční databáze izolovaného systému, neboť u všech těchto osob bude při jejich zařazení nutné vycházet z konkrétních okolností případu, nikoli pouze u osob spadajících pod kategorii podle § 39c návrhu zákona, jak se píše v důvodové zprávě,“ uvádí v připomínkách GIBS.
Námitku proti předloženému paušálnímu povolení sledování kategorie osob předložil také ministr pro digitalizaci: „Povolení k používání izolovaného systému pro biometrickou identifikaci je koncipováno tak, že nezávislý orgán (soudce) bude rozhodovat pouze jednou, při spuštění systému. Jeho rozhodnutí pak pokrývá veškerý další provoz systému na 12 měsíců, bez ohledu na počet a totožnost přidaných osob, tyto musejí být pouze v dané kategorii (ale nikdo už neposuzuje, zda do ní spadají),“ varuje v připomínce ministr.
„Takový výklad může možná vyplývat z izolovaného čtení článku 5 odst. 1, nicméně následující ustanovení nařízení mu odporují. Článek 2 totiž používá termín „deployed for (…) specifically targeted individual,“ tedy specifický jednotlivec, nikoliv kategorie osob,“ vysvětluje ministr pro digitalizace rozpor s evropským aktem o umělé inteligenci.
Návrh obsahuje široce definované kategorie nejasných skupin lidí
Nad takto navrženým systémem se pozastavuje ministerstvo spravedlnosti ve vztahu ke kategorii osob v pátrání, u kterých jsou splněny podmínky pro omezení osobní svobody: „Máme jednak za to, že u dané kategorie není zřejmé, k jaké úpravě v rámci nařízení o umělé inteligenci se vztahuje, případně zda se jedná o kategorii zařazenou do návrhu nad rámec nařízení. Především však považujeme za nejasné, jaké všechny skupiny osob mohou v důsledku navrženého znění patřit do dané kategorie,“ uvádí k tomu ministerstvo spravedlnosti s podrobným výkladem.
„Důsledkem navrženého znění by proto mohla být široce definovaná kategorie osob,“ upozorňuje ministerstvo.
Mezi tyto osoby patří podle návrhu i přestupníci, útěkáři nebo neoprávněně pobývající cizinci, výčet osob však neobsahuje. „Máme však pochybnosti, zda skutečně i po těchto osobách lze v praxi vyhlásit pátrání. Případně zda důvod pátrání může souviset i s omezením osobní svobody na základě úpravy ve zvláštních právních předpisech,“ uvádí spravedlnost.
„Po našem soudu absence přesného vymezení skupin osob v této kategorii, na které bude možné vzdálenou biometrickou identifikaci uplatnit, vede k nepředvídatelnosti, resp. nejasnosti právní úpravy,“ uzavírá ministerstvo spravedlnosti svoji zásadní připomínku.
Irena Válová
