Pravěký muž hledí s nedůvěrou na příslušníka cizího kmene, který drží v ruce prazvláštní nástroj. Nemá tušení, že mohutný klacek se nazývá kyj a je to nejmodernější zbraň, kterou dosud nikdo nepoužil. Nedůvěra překvapeného muže v cizí předmět netrvá dlouho, právě vynalezený kyj totiž nemilosrdně drtí jeho lebku.

Strach z neznámého byl vždy součástí lidské historie. Někdy oprávněně, jako v případě historky s kyjem, jindy bezdůvodně. Není proto divu, že se umělé inteligence a toho, co nám v budoucnu přinese, mnozí obávají. Je k tomu ale relevantní důvod? A pokud ano, můžeme případné katastrofě předejít?

Druhy umělé inteligence

Pojem sám se používá v mnoha kontextech. Je však třeba rozlišovat obecnou umělou inteligenci na úrovni lidské a tzv. specializovanou umělou inteligenci. Obecná umělá superinteligence – mnohem vyspělejší než nejlepší lidské mozky prakticky v každé oblasti včetně kreativity a sociálních schopností – je zatím zcela mimo technologické možnosti lidstva. Mnoho odborníků na kybernetiku se sice domnívá, že vědci sestrojí inteligenci srovnatelnou s lidskou do roku 2050, velká část ale tvrdí, že se tak nestane nikdy.

Pokud bychom připustili, že se lidem podaří nějakou umělou superbytost sestrojit, riziko tu určitě bude. „Když to jednou spustíme a nebudeme vědět, jak to usměrnit, tak se může stát, že se stane nějaké neštěstí,“ říká Jiří Wiedermann z Ústavu informatiky AV ČR, expert na umělou inteligenci a ambasador dne Informatika, robotika a umělá inteligence (10. listopadu 2017) při příležitosti letošního Týdne vědy a techniky AV ČR.

Zatímco u potenciálně nebezpečné obecné inteligence nevíme, zda se jí vůbec dočkáme, ta specializovaná nás obklopuje už nyní. Jde o stroje, které se soustřeďují na jednu jedinou oblast, ve které dosahují úrovně lidské inteligence nebo ji dokonce převyšují. Příkladem může být šachový automat – porazí i nejlepšího lidského šachistu, ale tím jeho limity končí – recept na guláš vám samozřejmě nevymyslí. „Navrhnout specializovaný systém, který bude ‚vymýšlet‘ kuchařské recepty, není těžké. Problém je navrhnout systém, který by uměl jak recepty, tak zároveň hrát šachy a ještě daleko více – to, co umí lidé,“ vysvětluje Jiří Wiedermann.

Veškerý vyspělý svět dnes stojí na specializovaných umělých inteligencích. Auta, mobilní telefony, navigace, cestovní plánovače, e-mailový filtr nevyžádaných zpráv (který rozeznává SPAM na základě zkušeností), Google Translate, deskové hry, rezervační systémy, ale i systémy v průmyslu, vojenství a meteorologii – vše ovládá specializovaná umělá inteligence.

Kdo se bojí, nesmí to lesa. Nebo k robotovi

Pokud lidé sestrojí obecnou inteligenci, vyřeší mnoho problémů vědy, politiky, lékařství, průmyslu či soudnictví. „Jenže od toho je jen krok k tomu, aby umělá inteligence dovedla řídit společnost. Tam začíná nebezpečí, jestli se na ni spolehneme příliš – jestli ji necháme řídit stále větší oblasti lidské činnosti, t může se stát, že se nám to vymkne,“ říká Jiří Wiedermann z Ústavu informatiky AV ČR.

Obavy z inteligence vyšší, než je lidská, vyjadřuje mnoho expertů. Jeden z nejznámějších vědců současnosti Stephen Hawking například prohlašuje: „Jakmile si umělá inteligence bude schopna uvědomit sama sebe, začne se rychle měnit a růst. Oproti tomu lidé jako biologický druh jsou omezeni velmi pomalou evolucí. Nebudou schopni s umělou rasou soupeřit.“ Zakladatel Microsoftu Bill Gates to vidí podobně: „Nechápu ty, kteří dělají, že žádné ohrožení neexistuje.“ Stejně tak Elon Musk, mj. zakladatel SpaceX či Tesla Motors, přirovnává snahu o vývoj umělé inteligence k „přivolávání ďábla“.


Obecná umělá inteligence ještě mnoho let, spíše mnoho desítek let vyvinutá nebude. „Možná nebude vyvinutá nikdy. Může to dopadnout jako s kosmickými lety. Po přistání na Měsíci se předpokládalo, že dalším krokem bude brzy přistání lidské posádky na Marsu. A to se nestalo. Vývoj se zkrátka může nakonec ubírat jiným směrem,“ předpokládá Jan Flusser z Ústavu teorie informace a automatizace AV ČR.