Zabíjející roboti neboli autonomní zbraňové systémy patří k tématům, o kterých se doposud příliš nemluvilo. Co to jsou vůbec autonomní zbraně?

Autonomní zbraňové systémy fungují na principu umělé inteligence, přičemž úkon palby probíhá zcela bez přičinění člověka. Můžeme si je zjednodušeně představit jako zbraň, která si sama zmapuje terén, identifikuje cíl, zaměří na něj a vystřelí. Vše pouze na základě zpracování tzv. velkých dat pomocí procesů, které nazýváme umělou inteligencí. 

To ale znamená, že není potřeba do války nasazovat živé vojáky. Není to spíše krok směrem kupředu současnému trendu robotizace a automatizace? 

Z hlediska přesnosti a efektivity je to určitě krok směrem vpřed. Americká DARPA (Agentura ministerstva obrany pro pokročilé výzkumné projekty) v jednom ze svých výzkumných programů na trenažérech porovnává schopnosti živých pilotů a umělé inteligence při řízení bojových letadel. Ukazuje se, že již v těchto fázích vývoje je umělá inteligence efektivnější a přesnější než člověk. Náskok má zejména v rychlosti reakce. A je pravda, že v některých bojových situacích je možné pomocí zbraňových systémů na bázi umělé inteligence minimalizovat zranění či smrt živých vojáků. 

Problém však spočívá ve sběru velkých dat a v jejich následném vyhodnocení, které nemusí být přesné. Modelová situace je například ta, kdy autonomní zbraň bude muset odlišit teroristu od civilisty. Na základě analýzy dat vyhodnotí zaměřený cíl jako teroristu a ihned vystřelí. Pokud by takový pokyn dostal voják a viděl by, že se o teroristu ve skutečnosti nejedná, tak situaci přehodnotí a život civilisty může zachránit. Další problém je etický. Stojíme před otázkou, zdali opravdu chceme, aby měl stroj možnost a právo zabíjet člověka. Zde se bavíme o dehumanizaci, která je jedním ze silných argumentů vědecké komunity stojící za snahou o zákaz autonomních zbraní. 

Jak to funguje:

Elon Musk, šéf automobilky Tesla a zakladatel kosmické společnosti SpaceX, stojí v linii podnikatelů, kteří varují před autonomními zbraněmi. V roce 2018 označil umělou inteligenci za větší hrozbu než jaderné zbraně. Není toto přirovnání přehnané? 

Není, protože autonomní zbraně mají s jadernými zbraněmi hodně společného. Například rozsah možného dopadu a nepředvídatelnost jsou jedním z velkých rizik. Jak u jaderných zbraní, tak u těch autonomních v podstatě pouze modelujeme hypotetické situace, ale reálný dopad při jejich využití ve větším rozsahu je pro nás velkou neznámou. 

Zároveň můžeme pozorovat nový závod ve zbrojení, který umělá inteligence a autonomní zbraně spustily. Všechny vojenské velmoci pracují na vývoji těchto systémů a předbíhají se navzájem. Oproti jaderným zbraním však ty autonomní nesou celou řadu jiných rizik. Například bude mnohem jednodušší je získat. Počáteční velké náklady na výzkum a vývoj se budou snižovat s rostoucí výrobou a k autonomním zbraním se tak bude moci dostat mnohem větší skupina států, než je tomu u jaderných zbraní. Jakmile však proniknou i na černý trh, tak se bohužel snadno dostanou i do rukou nestátních aktérů, například různých teroristických a kriminálních skupin. 

Proč tedy autonomní zbraně nejsou regulovány mezinárodním právem, podobně jako jaderné zbraně? 

Protože si stále myslíme, že se není čeho bát. Široká veřejnost autonomní zbraně stále považuje za sci-fi a něco nereálného, v lepším případě za otázku velmi vzdálené budoucnosti. Státy toho využívají a „potichu“ tyto systémy vyvíjí. Zákaz autonomních zbraní je již pár let prosazován vědeckou komunitou a podporován celou řadou podnikatelů, proto se o něm již jedná na půdě Organizace spojených národů. Problém je však ten, že pro zákaz autonomních zbraní je potřeba konsenzus a toho nelze dosáhnout, jelikož je řada států proti tomu. Argumentují často tím, že je to zatím ještě otázka budoucnosti (Rusko, Turecko) nebo že současná mezinárodní legislativa disponuje dostatečnou regulací (USA, Velká Británie). Na vývoji pracují všechny tři nejsilnější vojenské velmoci, tedy Spojené státy americké, Rusko, i Čína. Kromě toho i celá řada dalších států, které jsou pokročilé ve výzkumu a vývoji nových vojenských technologií, například Izrael, Jižní Korea, Velká Británie nebo Turecko. 

V jakých válkách již byly nasazovány autonomní zbraně a kdo je použil? 

Zde je pro posouzení největším problémem křehká hranice mezi autonomními a semiautonomními systémy. Těch semiautonomních zbraní armády vojensky vyspělých států využívají mnoho. Jsou to zbraňové systémy, které využívají umělou inteligenci, nicméně rozhodnutí o palbě je vždy na živém vojákovi. Typickou ukázkou jsou bezpilotní prostředky neboli drony, které armáda USA využívala v operacích na Blízkém východě. Dron analyzuje terén a sbírá data, která pak zpracovávají řídící systémy. Za rozhodnutím palby z dronu je však vždy živý voják, který je také za tento čin zodpovědný. U autonomních systémů tento poslední krok odpadá a umělá inteligence provede operaci samostatně – bez kontroly či odpovědnosti člověka. Problém je, že celá řada semiautonomních systémů již má nebo může snadno získat funkci plného samořízení. Právě proto je těžké posoudit, kde jsou tyto systémy využity, respektive s jakou mírou autonomie bojovaly. 

K jednomu takovému posouzení došla v březnu 2021 expertní skupina OSN pro Libyi. Jejich zpráva uvádí, že v Libyi byly nasazeny plně autonomní zbraně. Jednalo se o turecký dron STM Kargu-2, který byl údajně použit již na jaře roku 2020 oficiální libyjskou vládou GNA (Vláda národní jednoty) proti jednotkám opozičního vůdce generála Chalífy Haftara. Těžko říct, zda toto bylo první nasazení autonomních zbraní v historii, ale bude se jednat o první, které je veřejnosti známo. Je to důležitý historický milník, který může zahájit novou éru využívání tzv. zabíjejících robotů.