Policejní rozhodování založené na strojovém učení by mohlo vést k diskriminaci. Proto místopředseda Evropského parlamentu Marcel Kolaja prosadil návrh na změnu přístupu, která má za cíl řadu těchto otázek vyřešit. Účelem je poskytnout Evropské komisi vodítko, které jí nasměruje v dalším legislativním procesu.

„Zavedení umělé inteligence do soudnictví a pro potřeby policie je vysoce rizikové. Sama o sobě může sice vyhodnocovat data, odpovědnost za rozhodnutí však musí nést člověk,“ uvedl Kolaja. „Snadno můžeme sklouznout k narušování soukromí, diskriminaci, či nedodržování lidských práv. Proto je nutné, aby takový software mohla zkontrolovat odborná veřejnost,“ dodává.

„Jelikož je rozpoznávání tváří lehce zneužitelné, navrhl a prosadil jsem zvážení zákazu jeho využívání v některých případech.,“ zmínil Kolaja. „Musíme podporovat stabilní právní prostředí pro ty, kteří vyvíjejí nové technologie, stejně tak jako ochranu občanských práv a soukromí. Přesně proto je nutné zajistit společný evropský postup,“ doplnil.

„V minulosti se objevilo mnoho případů, kdy byla umělá inteligence zneužita. Rozpoznávání tváří využívá například Izrael, který díky ní eviduje tváře Palestinců. Izraelské firmy navíc poskytovaly podobné systémy státům, které je zneužívaly pro špehování disidentů, novinářů či členů komunity LGBT,“ zmínil. „Její využití bude bezesporu stoupat, což je v pořádku, pokud to přispěje ke spravedlivějšímu a efektivnějšímu fungování soudů i policie. K tomu můžeme přispět tím, že lidé budou informováni o svých právech, pokud je umělá inteligence využívána,“ uzavřel Kolaja.