Evropský parlament (EP) žádá moratorium na zavádění systémů rozpoznávání obličeje a vyzval k řadě dalších restrikcí v souvislosti s nasazováním umělé inteligence ve službách policejních a justičních orgánů. Čerstvě schválené usnesení se například staví i proti tzv. prediktivnímu policejnímu dohledu, neboli snaze předvídat chování jednotlivců a skupin na základě velkého množství dat.
Rezoluce, o které europoslanci hlasovali v úterý, nakonec prošla navzdory odporu nejsilnější lidovecké frakce. Dnes zveřejněné výsledky hlasování ukazují, že ji podpořilo 377 poslanců, zatímco proti bylo 248 včetně drtivé většiny lidovců. Těm se nepodařilo do návrhu přijatého výborem pro občanské svobody prosadit pozměňovací návrhy, které by podmínky v některých bodech zmírnily.
V textu tak zůstala i výzva k vyhlášení moratoria na zavádění systémů rozpoznávání obličeje. Policie by podle europoslanců neměla mít možnost tento nástroj využívat, „dokud nebude možné považovat technické normy za plně v souladu se základními právy“ a dokud nebudou splněny další podmínky. Obecně EP vyjadřuje názor, že využívání algoritmického rozpoznávání obličejů by z hlediska policejní práce mělo být omezeno na „jasně odůvodněné účely“.
Přijaté usnesení apeluje na ochranu základních práv a varuje před hromadným sledováním občanů za účelem prosazování práva. Zpravodaj výboru pro občanské svobody Petar Vitanov při pondělní prezentaci svého stanoviska vyslovil přání, aby parlament postavil základní práva nad technologický pokrok i nad bezpečnost. „Protože bez svobody nemůže být žádná bezpečnost,“ řekl.
Kromě omezení v otázce rozpoznávání obličejů obsahuje rezoluce EP také výzvu k trvalému zákazu systémů, které by ve veřejných prostorách automaticky analyzovaly jiné lidské projevy, jako jsou chůze nebo hlas. Dále požaduje zákaz používání umělé inteligence pro navrhování soudních rozhodnutí a staví se proti tomu, aby se donucovací orgány pokoušely za pomoci umělé inteligence předvídat chování lidí a identifikovat osoby, které by mohly spáchat trestný čin.
Mohlo by vás zajímat
Uvedené metody aktuálně nejsou na Západě široce rozšířené, média nicméně už zdokumentovala jejich používání různými orgány ve Spojených státech i v Evropské unii. Letos v dubnu Evropská komise přišla se svým prvním návrhem pravidel ohledně využívání umělé inteligence a ohlásila plán zásadně regulovat zejména systémy na rozpoznávání obličejů. Současné stanovisko EP nereaguje přímo na tento návrh a představuje samostatnou iniciativu.
„Nechceme omezovat vývoj umělé inteligence. My chceme stanovit podmínky pro její bezpečné užití,“ řekl český poslanec Marcel Kolaja (Piráti), který se otázce věnoval z pozice zpravodaje výboru pro vnitřní trh a ochranu spotřebitelů. V rozhovoru s ČTK uvedl, že dává smysl, aby umělá inteligence v trestním právu pomáhala s administrativou, vytvářela doporučení nebo například analyzovala scény zločinů s cílem odhadnout způsob úmrtí člověka. „Plošné šmírování“ je ale pro Kolaju nepřijatelné.
Pro českého člena lidovecké frakce Tomáše Zdechovského (KDU-ČSL) by ovšem uvalení moratoria na zavádění systémů rozpoznávání obličeje znamenalo bezpečnostní riziko. „Při výběru mezi rigidním dodržováním zásad soukromí a prevencí závažných zločinů včetně terorismu budu vždy volit to druhé,“ sdělil. Návrh usnesení v úterý nepodpořil, protože podle něj nepřipouští ani využití umělé inteligence pro stíhání zločinu se soudním povolením a lidským dohledem.
Debaty na toto téma budou v nejbližší době pokračovat, a to při posuzování zmíněného návrhu komise. Její stanovisko v pondělí prezentovala komisařka pro vnitřní záležitosti Ylva Johanssonová, podle níž policie musí mít umělou inteligenci a jiné digitální technologie k dispozici. Vyšetřovatelé už se podle ní bez těchto nástrojů neobejdou, protože je čím dál víc využívají i zločinci.
Poslanec Kolaja odhadoval, že parlament by mohl vlastní verzi návrhu schválit během příštího roku „a potom bude následovat vyjednávání s radou“. „Nelze zavírat oči před riziky, která s sebou umělá inteligence nese, a proto je potřeba vytvořit právní rámec,“ uvedl.
