Pravěký muž hledí s nedůvěrou na příslušníka cizího kmene, který drží v ruce prazvláštní nástroj. Nemá tušení, že mohutný klacek se nazývá kyj a je to nejmodernější zbraň, kterou dosud nikdo nepoužil. Nedůvěra překvapeného muže v cizí předmět netrvá dlouho, právě vynalezený kyj totiž nemilosrdně drtí jeho lebku.

Strach z neznámého byl vždy součástí lidské historie. Někdy oprávněně, jako v případě historky s kyjem, jindy bezdůvodně. Není proto divu, že se umělé inteligence a toho, co nám v budoucnu přinese, mnozí obávají. Je k tomu ale relevantní důvod? A pokud ano, můžeme případné katastrofě předejít?

Druhy umělé inteligence

Pojem sám se používá v mnoha kontextech. Je však třeba rozlišovat obecnou umělou inteligenci na úrovni lidské a tzv. specializovanou umělou inteligenci. Obecná umělá superinteligence – mnohem vyspělejší než nejlepší lidské mozky prakticky v každé oblasti včetně kreativity a sociálních schopností – je zatím zcela mimo technologické možnosti lidstva. Mnoho odborníků na kybernetiku se sice domnívá, že vědci sestrojí inteligenci srovnatelnou s lidskou do roku 2050, velká část ale tvrdí, že se tak nestane nikdy.

Pokud bychom připustili, že se lidem podaří nějakou umělou superbytost sestrojit, riziko tu určitě bude. „Když to jednou spustíme a nebudeme vědět, jak to usměrnit, tak se může stát, že se stane nějaké neštěstí,“ říká Jiří Wiedermann z Ústavu informatiky AV ČR, expert na umělou inteligenci a ambasador dne Informatika, robotika a umělá inteligence (10. listopadu 2017) při příležitosti letošního Týdne vědy a techniky AV ČR.

Zatímco u potenciálně nebezpečné obecné inteligence nevíme, zda se jí vůbec dočkáme, ta specializovaná nás obklopuje už nyní. Jde o stroje, které se soustřeďují na jednu jedinou oblast, ve které dosahují úrovně lidské inteligence nebo ji dokonce převyšují. Příkladem může být šachový automat – porazí i nejlepšího lidského šachistu, ale tím jeho limity končí – recept na guláš vám samozřejmě nevymyslí. „Navrhnout specializovaný systém, který bude ‚vymýšlet‘ kuchařské recepty, není těžké. Problém je navrhnout systém, který by uměl jak recepty, tak zároveň hrát šachy a ještě daleko více – to, co umí lidé,“ vysvětluje Jiří Wiedermann.

Veškerý vyspělý svět dnes stojí na specializovaných umělých inteligencích. Auta, mobilní telefony, navigace, cestovní plánovače, e-mailový filtr nevyžádaných zpráv (který rozeznává SPAM na základě zkušeností), Google Translate, deskové hry, rezervační systémy, ale i systémy v průmyslu, vojenství a meteorologii – vše ovládá specializovaná umělá inteligence.

Kdo se bojí, nesmí to lesa. Nebo k robotovi

Pokud lidé sestrojí obecnou inteligenci, vyřeší mnoho problémů vědy, politiky, lékařství, průmyslu či soudnictví. „Jenže od toho je jen krok k tomu, aby umělá inteligence dovedla řídit společnost. Tam začíná nebezpečí, jestli se na ni spolehneme příliš – jestli ji necháme řídit stále větší oblasti lidské činnosti, t může se stát, že se nám to vymkne,“ říká Jiří Wiedermann z Ústavu informatiky AV ČR.

Obavy z inteligence vyšší, než je lidská, vyjadřuje mnoho expertů. Jeden z nejznámějších vědců současnosti Stephen Hawking například prohlašuje: „Jakmile si umělá inteligence bude schopna uvědomit sama sebe, začne se rychle měnit a růst. Oproti tomu lidé jako biologický druh jsou omezeni velmi pomalou evolucí. Nebudou schopni s umělou rasou soupeřit.“ Zakladatel Microsoftu Bill Gates to vidí podobně: „Nechápu ty, kteří dělají, že žádné ohrožení neexistuje.“ Stejně tak Elon Musk, mj. zakladatel SpaceX či Tesla Motors, přirovnává snahu o vývoj umělé inteligence k „přivolávání ďábla“.


Obecná umělá inteligence ještě mnoho let, spíše mnoho desítek let vyvinutá nebude. „Možná nebude vyvinutá nikdy. Může to dopadnout jako s kosmickými lety. Po přistání na Měsíci se předpokládalo, že dalším krokem bude brzy přistání lidské posádky na Marsu. A to se nestalo. Vývoj se zkrátka může nakonec ubírat jiným směrem,“ předpokládá Jan Flusser z Ústavu teorie informace a automatizace AV ČR.

Zůstaňme v klidu…

„Představa, že se roboti spiknou proti lidstvu jako ve filmu Terminátor, zůstává stále v říši sci-fi. Jistě, současná autonomní vozidla spolu mohou komunikovat, jedno vozidlo může varovat ostatní, že uvízlo v zácpě nebo že na silnici, kudy jede, právě policie měří rychlost, ale že by se všechna auta domluvila, že když přejedou své pasažéry, nebudou muset nikam jezdit, je naprosto iluzorní,“ vysvětluje Jan Flusser z Ústavu teorie informace a automatizace AV ČR.

Odborně řečeno, jde o vymezení stavového prostoru. Smrt lidí by sice minimalizovala vozidlům čas strávený na cestě, ale tuto variantu stavový prostor neobsahuje, a proto si ji ani auta nemohou vybrat.

Jak zabránit útoku robotů

Pokud obecnou umělou inteligenci někdy vyrobíme a bude „mocná“, předčí nás a pak už bude klidně možné, že zkáze nedokážeme zabránit. Robot by sice mohl do vínku dostat soubor všech právních předpisů, včetně listiny práv a svobod, ale nezaručíme jeho jednání tam, kde se právo liší – choval by se tedy v téže situaci jinak robot z USA a jinak robot ze Severní Koreje? Pravděpodobně ano. Tento problém nemá ideální řešení podobně jako s auty-zabijáky. Obecná umělá inteligence si ale pravidla bude modifikovat sama, stejně jako to dělá člověk. Koneckonců ani všichni lidé přece nedodržují právní předpisy, přestože jsou si plně vědomi toho, že by měli.

Jak tedy zabránit umělé inteligenci, aby se lidem vymkla z rukou? Šlo by o to zabránit systémům činit takové změny svých cílů a chování, kterými by mohly ohrozit lidské zájmy. „To je ale strašně těžké zařídit, protože nikdo nedovede přesně definovat, co jsou to lidské zájmy,“ upozorňuje Jiří Wiedermann.

Rozumnější a bezpečnou cestou by zkrátka bylo nepokoušet se vyvinout obecnou umělou inteligenci, ale vyvíjet špičkové inteligence pouze v rámci daného úkolu, který po nich chceme, aby nemohly vystoupit ze své domény. Jestliže necháme umělou inteligenci rozvíjet se jen v úzce profilované oblasti, nedosáhne kvalit lidského mozku nikdy, nebude umět komplexně uvažovat, neboť zvládne dejme tomu „jen“ špičkové transplantace rohovky, bude neporazitelná v jakékoli deskové hře nebo se stane výkonným, bezchybným zemědělským strojem.


První šachový automat Turek fungoval 84 let. v roce 1854 ale shořel. O tři roky později bylo odhaleno, že šlo o podvod – uvnitř se ukrýval čověk-šachista.

Nicméně věřit tomu, že se lidstvo udrží na uzdě, by nejspíše bylo naivní. Pokud je sestrojení obecné umělé inteligence technicky možné, pak k tomu nejspíše jednou dojde. A obecnou umělou inteligenci žádný soubor etických či právních pravidel neomezí. Bude se chovat tak, jak se naučí. A učit se to bude (přinejmenším zpočátku, než dosáhne takové úrovně, aby dokázala zobecňovat vlastní zkušenosti) jen od lidí.

Nebát se rozjetého vlaku

Přes všechny černé scénáře je smysluplné, aby vývoj v této oblasti pokračoval a rozvíjel se. Vždyť už od dob parních strojů se lidé báli, že přijdou o práci, a nakonec se obavy nepotvrdily.

Je tedy vůbec čeho se bát? „Jistě. Toho, že zavádění umělé inteligence do praxe bude pomalé a bude provázeno spoustou technických a bohužel, jak se už nyní ukazuje, zřejmě i byrokratických problémů. Jinak bychom se měli na příchod opravdové umělé inteligence spíše těšit,“ neskrývá optimismus Jan Flusser.

Stejně jako střet pravěkého muže s kyjem bude případný konflikt lidstva s roboty jen tou samou historií – kyj sám o sobě přece nikoho nezabil, byla to lidská ruka, lidský záměr tak konat. A právě v tom tkví největší – a dost možná jediné – nebezpečí umělé inteligence. V lidech.

Připravil: Viktor Černoch, Divize vnějších vztahů SSČ AV ČR,
Foto: Pavlína Jáchimová, Divize vnějších vztahů SSČ AV ČR, iStock, Wikimedia Commnons