Čapek nás varoval v R.U.R. Zmocní se umělé inteligence padouši?

Mgr. Jiří Kobza

SPD
Hlavní město Praha
poslanec

Jsme připraveni na umělou inteligenci? Pokud my Češi ano, co zbytek světa? Nejde o technickou stránku věci, ale o morální, filozofický a politický kontext. Největší hit dnešní doby je umělá inteligence, kouzelná mantra, kterou neustále slýcháme hlavně od politiků a novinářů, kterým je ale dané téma mnohdy dost vzdálené, technicky i morálně. Budoucnost vidí v totální digitalizaci. Předpokládají, že se objeví autonomní auta, stroje a zařízení propojené přes 5G síť, robotizace řízená roboty, že dojde ke zrušení hotových peněz, zkrátka že se všechno převede do elektronické podoby. To je jedna verze. Není to ale náhodou tak, že propagátoři sice říkají autonomní auta, ale myslí autonomní tanky, říkají digitalizace systému a myslí celosvětové autonomní zbraňové systémy a celosvětovou kontrolu každého z nás? Kdo je ale bude ovládat? Nestane se, že nějaký šílenec zatouží po světovládě? Nevzbouří se stroje a nepřevezmou iniciativu podle nějakých podivných válečných programů? Lze tomu zabránit, když se to až dosud nepodařilo?

Obyčejní lidé se stanou sluhy

Princip digitalizace všech aspektů osobního i společenského života s sebou přináší další riziko. Například projevíte alternativní názor a hned kdosi stiskne klávesu na počítači a vymaže vás ze společnosti. A co elektronická kontrola občanů a jejich životů až do posledních detailů? Hrozí nám absolutní ztráta soukromí a postupné omezování svobody rozhodovat se o svém životě, protože vše bude „delegováno“ na „ústředí“, kde o tom budou rozhodovat stroje? Plíživé omezení demokracie obyvatel bude tedy neoddělitelným jevem vývoje směrem k umělé inteligenci. Nezapomínejme, že již nyní internetové prohlížeče a provozovatelé sociálních sítí sledují naše aktivity na internetu a předávají získaná data marketérům, kteří nás vzápětí začínají zasypávat nabídkami na podobné zboží. Operátoři sítí musí ze zákona ukládat všechny hovory a SMS po dobu pěti let. A to všechno je teprve začátek.

Kde tedy skončí zbytky demokracie? Čeká nás absolutní socialismus? Čeká nás snad „Továrna na absolutno“, o které psal Karel Čapek? Čeká nás zásadní proměna společnosti, výrobních kapacit i řízení společnosti. Jaké tedy budou ekonomické dopady na život obyvatel? Další otázkou je zaměstnanost obyvatel, když práci budou dělat autonomní stroje a zapotřebí bude jen pár údržbářů, programátorů a hlídačů? Co budou dělat všichni ti, kteří nebudou zapojeni do specializovaných profesí kolem umělé inteligence a servisu strojů? Co budou dělat obyčejní lidé, kteří přijdou o práci? Obvyklá floskule je, že se přesunou do oblasti služeb. Stanou se tedy nejspíš sluhy. Podobnou situaci jsme již v historii lidstva zažili během průmyslové revoluce, která měla podobný vliv na zaměstnanost.

Odolali byste absolutnímu pokušení?

Jak se změní vzdělanost, výuka a školství? Zničí nás inflace a nevyhnutelná chudoba? Vrátíme se k prvobytně pospolnému životu? Jedna věc je jasná. Umělá inteligence je o kontrole obyvatel a tudíž o vládě nad nimi. Je o stále větší osobní moci těch, kteří umělou inteligenci budou ovládat. Vše se bude odvíjet od morálky těch, pro něž Země bude jen hračkou. Otázka, zda je naše společnost natolik morálně vyspělá, aby toto pokušení získat absolutní moc ustála a (hlavně) přežila, nabývá děsivých rozměrů. Řekněme si jednu věc, kterou se zatím žádný historik neodvážil zveřejnit, navzdory tomu, jak je zřejmá: morálně se lidstvo téměř nevyvíjí a pokud přece jenom, pak je mnohdy tato „nová“ morálka hodně diskutabilní. Například se mluví o krutých středověkých válkách, ale v čem jsou morálně horší než ty současné, které zabíjejí a ohrožují daleko více lidí? Pravda, lidí je výrazně více než tenkrát, ale to není polehčující okolnost, protože podle statistiky by se počty humanistů a filosofů měly úměrně zvyšovat. Zatím se zdá, že se spíše zvyšují počty všehoschopných generálů, kteří s rukou na červeném tlačítku zkoušejí vydírat svět. A těm chcete dát do ruky možnost ovládat svět prostřednictvím autonomních systémů a G5 sítě? Myslíte si, že pokušení ovládnout svět odolají?

Kdo bude hlídat hlídače?

Další otázkou je technická připravenost lidstva, která mnohdy v rauši dalšího objevu ve výzkumných ústavech kybernetiky zaniká a pro dotyčné vědce je irelevantní. Jenže jinak je připraven (technicky, o morálce nyní nepíši) programátor, jinak stavař, jinak pekař a jinak místní bezdomovec (a to jsme ještě ani neopustili Prahu). Jak bude asi připraven řecký farmář, turecký rybář, primitivní kmeny ze vzdáleného pralesa, které za vrchol civilizace považují mýdlo? Jak tedy chcete zabránit, aby (když vyloučíme nanejvýš pravděpodobný zlý úmysl) nedošlo k lidské chybě jako například v Černobylu? Od klasických autorů sci-fi románů (např. od R.U.R. od Karla Čapka po filmy Terminátor a Demolition Man) dostáváme řadu podnětů k přemýšlení, k nutnosti vyřešit především tuto otázku morálky (pokud si vzpomínám, řešil ji už A. Einstein ohledně atomové bomby) jako první. Stojí za to dát lidstvu další nástroj k sebezničení? Kdo ale posoudí, že je společnost již zralá na samostatné stroje anebo na sebevraždu? Bude to politik, vědec, kněz anebo psychiatr? Podaří se ale zastavit šílené vědce do té doby, než bude vyřešena? Jsme schopni zajistit, aby umělá inteligence měla také rozum? Kdo za to bude před celým světem zodpovídat?

Vy šílenci, uberte plyn!

Nechci působit jako skeptik, ale když vidím vývoj v evropské společnosti v posledních 150 letech, nemohu se ubránit zvolání: „Vy šílenci, uberte s umělou inteligencí plyn, počkejte, až na to společnost (globálně) bude zralá, psychicky, morálně i vědomostně. Protože nyní tomu tak rozhodně není a ani nevidím blízký horizont času, kdy by se toho mohlo podařit dosáhnout.“ Pokud připustíme, aby (jak už kolikrát) technika a věda předběhla morální růst společnosti, budeme mít velký problém.

(autor článku Jiří Kobza je členem Poslanecké sněmovny zvoleným za politické hnutí Svoboda a přímá demokracie - SPD)