„Bez systémů umělé inteligence si v současnosti nedokážeme představit náš každodenní život. Používáme chytré telefony, sociální média, virtuální asistenty a chytré domácnosti. Tyto systémy využívají také veřejné orgány při digitalizaci administrativních úkonů nebo vyšetřování trestné činnosti. Rychlé rozšíření systémů umělé inteligence s sebou přináší mnohé příležitosti, ale také nové výzvy pro stávající právní systém,“ vysvětluje náměstek ministra spravedlnosti Karel Dvořák.

Znění úmluvy (ZDE) vypracoval expertní výbor Rady Evropy pro umělou inteligenci (CAI). Jedná se o první globální právně závazný nástroj pro vývoj, design a aplikaci systémů umělé inteligence založeného na standardech Rady Evropy v oblasti lidských práv, demokracie a právního státu. Vyjednávání textu v této mezinárodní organizaci se přitom účastnili nejenom zástupci 46 členských států, ale také další státy se zájmem o zodpovědné užití systémů umělé inteligence v kontextu ochrany základních práv jako Kanada, USA, Japonsko či Evropská unie jako celek.

Mezinárodní úmluva se zaměřuje na ochranu lidských práv v případech, kdy systémy umělé inteligence pomáhají či nahrazují lidské rozhodování, nebo plní jiné důležité úkoly výrazně zasahující lidem do života. Státy i další aktéři musí v celém životním cyklu systémů umělé inteligence dbát na dodržování základních zásad, jakými jsou například ochrana soukromí a osobních údajů, nediskriminace, přístup k nezávislému přezkumu nebo funkční záruky proti zneužití. Systémy nesmějí zasahovat do volebních procesů, nezávislosti soudnictví nebo jiných podstatných pilířů demokracie.

„Při použití systémů umělé inteligence je třeba respektovat lidskou důstojnost a individuální svobodu. Pamatovat musíme i na zvláště zranitelné skupiny lidí v technologickém kontextu, jako jsou například děti nebo lidé s nižšími digitálními dovednostmi,“ vysvětluje vedoucí české delegace v expertním výboru Rady Evropy Monika Hanych. „K účinné kontrole úmluva navrhuje zavést systém hodnocení rizik a odpovědnostní mechanismy. Počítá také se vzájemnou spoluprací států, zapojením veřejnosti, občanské společnosti i samotných odborníků.“

Výbor CAI předložil text úmluvy po téměř dvou letech intenzivních jednání a desítkách plenárních i neformálních zasedání. Navázal přitom na tříletou odbornou práci předcházejícího výboru expertů. Ten vypracoval na základě konzultací se stakeholdery i samotnými vývojáři rozsáhlou studii proveditelnosti, z jejíchž prvků vychází i současný text úmluvy.

„Mezinárodní úmluva o umělé inteligenci a lidských právech je průlomový nástroj ochrany. U jednoho stolu ji připravovaly nejenom členské státy Rady Evropy, ale také další významní partneři v oblasti umělé inteligence jako například Argentina, Austrálie, Japonsko, Izrael, Kanada nebo USA. Do procesu se zapojilo více než 70 organizací občanské společnosti, zástupců průmyslu a mezinárodních organizací z oblasti technologií a umělé inteligence,“ doplňuje člen delegace a ředitel mezinárodněprávního odboru Ministerstva zahraničních věcí Emil Ruffer.

Úmluvu přijal Výbor ministrů v pátek 17. května. Následně se ve čtvrtek 5. září 2024 otevře k podpisu. Česká republika by přitom jako významné centrum výzkumu a vývoje systémů umělé inteligence měla usilovat, po splnění vnitrostátních požadavků, o podpis a následnou ratifikaci Úmluvy jako jedna z prvních zemí.