„Hlasování je klíčovým momentem ve vyjednávání, který nás posouvá o krok blíže k nastavení celoevropských pravidel pro používání systémů umělé inteligence. Finální dohoda nastavuje důležité záruky pro využívání umělé inteligence tak, aby byla dobrým sluhou, ne špatným pánem. Ačkoliv finální dohoda není zcela perfektní, jde po měsících složitého vyjednávání o vyvážený kompromis. Jsem rád, že ČR během našeho předsednictví zásadním způsobem napomohla posunu ve vyjednávání tohoto důležitého návrhu, kdy se nám s mým týmem podařilo dojednat konsensus mezi 27 státy EU. Nyní nás čeká práce na přípravě implementace na národní úrovni tak, aby reálné provádění pravidel nebylo příliš těžkopádné a administrativně náročné,” uvedl vicepremiér pro digitalizaci Ivan Bartoš.
Akt o umělé inteligenci je klíčový z hlediska zvýšení ochrany zdraví, bezpečí a základních práv. Zamezí např. případům, kdy by systémy umělé inteligence mohly být využívány pro tzv. social scoring (tedy hlídání občanů kamerami ve veřejném prostoru na každém kroku a jejich hodnocení podle prohřešků a vyvozování důsledků i v jiných nesouvisejících oblastech). Také díky aktu o umělé inteligenci nebude možné, aby docházelo k biometrické kategorizaci občanů s cílem vyvodit jejich politické názory, rasu nebo např. náboženskou víru či sexuální orientaci.
Zároveň až na zcela výjimečné a úzce definované situace nebude možné využívat vzdálenou biometrickou identifikaci v reálném čase (plošně zjišťovat totožnost lidí pomocí kamer). Dále také nebude možné využívat systémy umělé inteligence na pracovišti nebo ve vzdělávacích institucích pro rozpoznávání emocí (s výjimkou zdravotních nebo bezpečnostních důvodů). U systémů, které sice nejsou zakázané, ale představují vysoké riziko, akt o umělé inteligenci nastavuje celou řadu dalších pravidel proto, aby bylo minimalizováno riziko jejich zneužití.
Vzhledem k výrazně odlišným pozicím Rady a Evropského parlamentu v řadě oblastí návrhu se z pohledu ČR jedná o vyvážený kompromis. Schválení finální dohody členskými státy je dalším milníkem a posunem k tomu, aby EU jako první na světě pokročila v zajištění právní jistoty a nastavení pravidel, která zjednoduší vývoj, provoz a volný pohyb AI služeb a produktů na vnitřním trhu EU. V době rapidního růstu využívání systémů a aplikací založených na umělé inteligenci zároveň sehraje klíčovou roli v zajištění dodržování ochrany základních práv a principů EU.
O finální dohodě budou v průběhu února hlasovat také výbory Evropského parlamentu. Paralelně s tímto procesem budou probíhat finální jazykové a právní úpravy textu před tím, než by měl být finálně schválen na plénu Evropského parlamentu a na ministerské Radě v první polovině tohoto roku. Finální dohoda Aktu o umělé inteligenci počítá s postupným náběhem povinností vyplývajících z jednotlivých částí návrhu – první povinnosti, které jsou svázané s úplným zákazem některých praktik umělé inteligence, by mohly začít platit už koncem tohoto roku.
ČR v rámci vyjednávání nařízení prosazovala zejména proinovační přístup k této přelomové technologii. Finální text nařízení obsahuje nástroje na podporu inovací, jako je např. testování v reálných podmínkách trhu nebo zřízení regulatorních sandboxů. Nicméně ani to není jistou zárukou udržení konkurenceschopnosti českých a evropských společností na světovém trhu.
V této souvislosti ČR oceňuje doplňující iniciativu, tzv. AI inovační balíček (ZDE), který zveřejnila Evropská komise 24. ledna 2024 a který se zaměřuje na způsoby, jak posílit výzkumnou infrastrukturu a kapacity v oblasti vývoje umělé inteligence pro menší a začínající podniky. Důležitá bude také připravovaná revize Národní strategie pro umělou inteligenci, na které pracuje Ministerstvo průmyslu a obchodu a která má přispět k maximálnímu využití potenciálu umělé inteligence pro ekonomiku a společnost v ČR.
