Parlamentní shromáždění a Výbor ministrů Rady Evropy daly zelenou první mezinárodní úmluvě o umělé inteligenci a ochraně lidských práv. Úmluvu v pátek 17. května 2024 formálně přijme Výbor ministrů a následně se otevře k podpisu všem sjednávajícím státům včetně České republiky. Její znění státy zaváže k přijetí právního rámce pro odpovědné užití rizikových AI systémů s ohledem na možné závažné zásahy do lidských práv a demokracie. Informovalo o tom české ministerstvo spravedlnosti.
„Bez systémů umělé inteligence si v současnosti nedokážeme představit náš každodenní život. Používáme chytré telefony, sociální média, virtuální asistenty a chytré domácnosti. Tyto systémy využívají také veřejné orgány při digitalizaci administrativních úkonů nebo vyšetřování trestné činnosti. Rychlé rozšíření systémů umělé inteligence s sebou přináší mnohé příležitosti, ale také nové výzvy pro stávající právní systém,“vysvětluje náměstek ministra spravedlnosti Karel Dvořák.
Znění úmluvy vypracoval expertní výbor Rady Evropy pro umělou inteligenci (CAI). Jedná se o první globální právně závazný nástroj pro vývoj, design a aplikaci systémů umělé inteligence založeného na standardech Rady Evropy v oblasti lidských práv, demokracie a právního státu. Vyjednávání textu v této mezinárodní organizaci se přitom účastnili nejenom zástupci 46 členských států, ale také další státy se zájmem o zodpovědné užití systémů umělé inteligence v kontextu ochrany základních práv jako Kanada, USA, Japonsko či Evropská unie jako celek.
Mezinárodní úmluva se zaměřuje na ochranu lidských práv v případech, kdy systémy umělé inteligence pomáhají či nahrazují lidské rozhodování, nebo plní jiné důležité úkoly výrazně zasahující lidem do života. Státy i další aktéři musí v celém životním cyklu systémů umělé inteligence dbát na dodržování základních zásad, jakými jsou například ochrana soukromí a osobních údajů, nediskriminace, přístup k nezávislému přezkumu nebo funkční záruky proti zneužití. Systémy nesmějí zasahovat do volebních procesů, nezávislosti soudnictví nebo jiných podstatných pilířů demokracie.
„Při použití systémů umělé inteligence je třeba respektovat lidskou důstojnost a individuální svobodu. Pamatovat musíme i na zvláště zranitelné skupiny lidí v technologickém kontextu, jako jsou například děti nebo lidé s nižšími digitálními dovednostmi,“ vysvětluje vedoucí české delegace v expertním výboru Rady Evropy Monika Hanych. „K účinné kontrole úmluva navrhuje zavést systém hodnocení rizik a odpovědnostní mechanismy. Počítá také se vzájemnou spoluprací států, zapojením veřejnosti, občanské společnosti i samotných odborníků.“
Výbor CAI předložil text úmluvy po téměř dvou letech intenzivních jednání a desítkách plenárních i neformálních zasedání. Navázal přitom na tříletou odbornou práci předcházejícího výboru expertů. Ten vypracoval na základě konzultací se stakeholdery i samotnými vývojáři rozsáhlou studii proveditelnosti, z jejíchž prvků vychází i současný text úmluvy.
„Mezinárodní úmluva o umělé inteligenci a lidských právech je průlomový nástroj ochrany. U jednoho stolu ji připravovaly nejenom členské státy Rady Evropy, ale také další významní partneři v oblasti umělé inteligence jako například Argentina, Austrálie, Japonsko, Izrael, Kanada nebo USA. Do procesu se zapojilo více než 70 organizací občanské společnosti, zástupců průmyslu a mezinárodních organizací z oblasti technologií a umělé inteligence,“ doplňuje člen delegace a ředitel mezinárodněprávního odboru Ministerstva zahraničních věcí Emil Ruffer. Úmluvu přijme Výbor ministrů v pátek 17. května. Následně se ve čtvrtek 5. září 2024 otevře k podpisu. Česká republika by přitom jako významné centrum výzkumu a vývoje systémů umělé inteligence měla usilovat, po splnění vnitrostátních požadavků, o podpis a následnou ratifikaci Úmluvy jako jedna z prvních zemí.
(red)
