Zamezí třeba tzv. social scoringu, tedy hlídání občanů kamerami ve veřejném prostoru a jejich hodnocení podle prohřešků. Nebude také možné, aby docházelo k biometrické kategorizaci občanů s cílem vyvodit jejich politické názory, rasu nebo např. náboženskou víru či sexuální orientaci. Stejně tak nebude možné až na velmi úzké výjimky využívat systémy umělé inteligence na pracovišti nebo ve vzdělávacích institucích pro rozpoznávání emocí a další. Členské státy Unie dnes podpořily předběžnou politickou dohodu jednohlasně, tu se podařilo uzavřít mezi Radou a Evropským parlamentem začátkem prosince 2023 (více ZDE).

„Hlasování je klíčovým momentem ve vyjednávání, který nás posouvá o krok blíže k nastavení celoevropských pravidel pro používání systémů umělé inteligence. Finální dohoda nastavuje důležité záruky pro využívání umělé inteligence tak, aby byla dobrým sluhou, ne špatným pánem. Ačkoliv finální dohoda není zcela perfektní, jde po měsících složitého vyjednávání o vyvážený kompromis. Jsem rád, že ČR během našeho předsednictví zásadním způsobem napomohla posunu ve vyjednávání tohoto důležitého návrhu, kdy se nám s mým týmem podařilo dojednat konsensus mezi 27 státy EU. Nyní nás čeká práce na přípravě implementace na národní úrovni tak, aby reálné provádění pravidel nebylo příliš těžkopádné a administrativně náročné,” uvedl vicepremiér pro digitalizaci Ivan Bartoš.

Akt o umělé inteligenci je klíčový z hlediska zvýšení ochrany zdraví, bezpečí a základních práv. Zamezí např. případům, kdy by systémy umělé inteligence mohly být využívány pro tzv. social scoring (tedy hlídání občanů kamerami ve veřejném prostoru na každém kroku a jejich hodnocení podle prohřešků a vyvozování důsledků i v jiných nesouvisejících oblastech). Také díky aktu o umělé inteligenci nebude možné, aby docházelo k biometrické kategorizaci občanů s cílem vyvodit jejich politické názory, rasu nebo např. náboženskou víru či sexuální orientaci.

Zároveň až na zcela výjimečné a úzce definované situace nebude možné využívat vzdálenou biometrickou identifikaci v reálném čase (plošně zjišťovat totožnost lidí pomocí kamer). Dále také nebude možné využívat systémy umělé inteligence na pracovišti nebo ve vzdělávacích institucích pro rozpoznávání emocí (s výjimkou zdravotních nebo bezpečnostních důvodů). U systémů, které sice nejsou zakázané, ale představují vysoké riziko, akt o umělé inteligenci nastavuje celou řadu dalších pravidel proto, aby bylo minimalizováno riziko jejich zneužití.