Nechci nikoho poučovat, ani dávat návody. Chci naopak dosáhnout opaku a vyprovokovat svobodnou diskuzi k výše uvedenému tématu.

Evropská unie má v úmyslu realizovat v dohledné budoucnosti několika následujících let devět evropských prostorů pro data. První na řadě má být zdravotnictví a potom mají následovat další obory od energetiky až po zemědělství.

Zpracování velkého množství zdravotních dat algoritmy umělé inteligence umožní zajisté realizaci mnoha pozitivních řešení týkajících se zdraví obyvatel. Například vývoj nových léků a vakcín, a následně snadné průběžné testování a vyhodnocování jejich účinnosti a vedlejších negativních účinků. Bohužel ale také možnou produkci biologických či chemických agens, které mohou být selektivně použity pro ovlivnění osob či lidských populací z jejich pohledu negativním způsobem. A nemusí jít jenom o usmrcení, a také o ovlivnění jejich  mentálních schopností / a to i selektivně/ či jiné ovlivnění zdravotního stavu, které může být vyhodnoceno jako žádoucí pro vládnoucí společenské elity. Dle mého názoru cesty k těmto dvěma diametrálně odlišným využitím jsou velmi podobné a jejich jasné odlišení mimořádně svízelné až nemožné.

Na druhou stranu bezpochyby tento vývoj může přinést i mnoho dobrého a užitečného. O tom je třeba diskutovat a hledat správné cesty řešení už dnes. Což není možné bez svobodné diskuze  oproštěné od desinformačního nálepkování, bez hluboké znalosti problematiky a vysoké míry nápaditosti, kreativity a bohužel i osobní odvahy .

Nejsem v žádném případě odpůrce digitalizace. Jsem založením technooptimista. Ale jsem také odpůrce bezuzdné nekritické digitalizace společnosti a využití prostředků umělé inteligence bez promýšlení možných důsledků, které se nám zjevují již nyní, a z kterých bychom se měli poučit: rostoucí informační a nekontrolovatelná moc digitálních platforem, digitální demence a psychické problémy mládeže, skrytá mediální manipulace, vznik sociálních bublin a rozdělení společnosti, vznik a podpora animozit v lidských společnostech a mimořádná energetická náročnost těchto systémů.

Dovedu si představit velmi racionální využití těchto prostředků a systémů v medicíně, ale nikdy by to nemělo být na úkor intelektuální myšlenkové činnosti mozků zdravotnických pracovníků, ale vždy jenom k podpoře těchto činností. Např. využití dat a umělé inteligence při hledání relevantních dat o pacientovi, zadávání dat pomocí systémů rozeznávání hlasu diktováním, analýza dat ze zdravotnických přístrojů, oznamování dat zásadního charakteru lékaři, kontrola fatálních i jiných rozhodovacích chyb lékaře, analýza obrazové informace aj. V každém případě dojde k fúzi schopností lékaře a umělé inteligence do jednoho celku. Dále lze predikovat, že v čase bude postupně převažovat činnost umělé inteligence a klesat podíl intelektuální práce lékaře, pokud se udrží současné trendy.

Je třeba, aby se lékař perfektně soustředil na pohovor a fyzikální vyšetření pacienta, syntézu závěru a doporučení, kde zatím jakýkoli systém umělé inteligence nemůže nahradit lidský faktor, a to i forenzních důvodů. Pokud i tuto oblast převezme umělá inteligence, potom zajisté dojde k tragické dehumanizaci medicíny, skrze ztrátu osobního kontaktu lékaře nebo zdravotníka a pacienta, který je z mého pohledu nenahraditelný pro proces úspěšné léčby v mnoha medicínských oborech.

Bohužel s tím, jak ubývá lékařů a nadaných mladých lidí podstupovat řeholi tohoto povolání a bude přibývat starých a nemocných obyvatel, lze předpokládat, že primární kontaktní vyšetření s pacientem budou schopni provádět chatboti na bázi umělé inteligence. Tuto možnost bych v blízké budoucnosti nevylučoval jako úplně zavrženíhodnou.

Největší nebezpečí ovšem spatřuji v možnosti vybudování společnosti dohledu, kdy bude množství dat získaných o jednotlivých členech společnosti a fungování těchto společností využito k centrálnímu řízení za účelem dosažení stanovených cílů a udržení mocenské nadvlády těch, kteří tyto cíle prosazují. Jedná se například o tyto cíle: zabránění změny globálního klimatu prostřednictvím restriktivních opatření, kontrola uhlíkové stopy, podpora destrukce předchozích tisíce let fungujících společenských vztahů – rodiny, národa a státu se snahou vytvořit jakýsi globální mix z národů, ras a pohlaví a směřování k centrálně řízené globální společnosti.

Jak to bude uplatňováno, je zřejmé již v současnosti z individualizovaného přístupu digitálních platforem k udržení naší pozornosti na základě naší interakce s nimi. Předpokládám tedy prostřednictvím datové a digitalizované společnosti individualizované manipulace a posléze měkké donucovací techniky k vynucení požadovaných cílů na základě analýzy našeho individuálního zdravotního, psychologického a sociálního profilu. S přitvrzováním, pokud nebudou efektivní. Poměrně ďábelský plán realizovatelný pomocí masivního sběru dat na bázi internetové sítě a jejich zpracování úzkou umělou inteligencí. Už k tomu chybí  jenom efektivní sběr potřebných dat vládnoucími strukturami.

Informačními sítěmi propojená společnost, patřičný hardware s masivními úložišti dat, povinné sdílení velkého množství dat/Big Data/ a zpracování těchto dat algoritmy umělé inteligence tvoří předpoklad  řízení budoucích společností dle stanovených cílů vládnoucích struktur.  Nebezpečí umělé inteligence zatím nevidím ve vzniku všemocné všeobecné inteligence, která se vymkne kontrole lidstva, ale spíše v  efektivním zpracování a vyhodnocování masivního množství dat rychlostmi, které by byly pro minulé i současné lidské populace nepředstavitelné a nemožné.

Nelze pochybovat ani o tom, že v případě úspěchu těchto snah, budou i další lidské společnosti reagovat podobným způsobem, jenom cílem vládnoucích elit mohou být jiné priority fungování jejich společnosti -např. podpora rodiny, národa, státu, pracovitosti a poctivosti či jiných vlastností a vědecko-technického pokroku a další zcela jiné vlastnosti např. pro islámské společnosti.

S velkou pravděpodobností lze tedy uvažovat o tom, že vyspělé systémy sběru dat a jejich zpracování umělou inteligencí umožní efektivnější řízení společností, než dosavadní systém více či méně svobodných a demokratických společností organizovaného chaosu volného trhu, který zdá se v současné podobě vyčerpává své možnosti a nebude v rámci centrálně řízených společností již třeba.

Za největší nebezpečí pro další vývoj lidských společností, považuji centralizaci řízení prostřednictvím algoritmů umělé inteligence, která dříve či později povede ke stagnaci  skrze degeneraci mentálních schopností lidských populací. Proto je třeba hledat alternativu této možnosti a uvažovat o podpoře takového vývoje, který umožní vytvoření kompetitivního, ale spolupracujícího  ekosystému různých co nejvíce svobodných společenských uspořádání, nikoli podporovat vznik jedné centrálně řízené globální společnosti dočasného blahobytu.

Nelze připustit, aby bylo povinné sdílení všech informací v evropských datových prostorech, které budou požadovány po občanech,  a to zejména mimořádně citlivých dat / genetická, genomická, proteonemická, zdravotní, sociální, behaviorální  a jiná data, která se dají jednoznačně zneužít v neprospěch těch, kterých se informace týkají / a to i pokud jsou anonymizována nebo pseudoanonymizována.

Naopak občané, kteří tyto informace dobrovolně poskytnou, musí mít právo  na získání těchto informací, které se budou týkat řízení jejich života / např. péče o zdraví/ při jakýchkoli pochybnostech o zneužití dat v jejich neprospěch

Bohužel lze předpokládat, že se objeví i problémy a situace, které je velmi složité předpovídat, a proto je důležité, aby lidské společnosti byly diverzifikované v přístupech, jak se s těmito problémy vypořádat a zvládnout je.

Nelze ani vyloučit vznik emergentního jevu, kdy emergence znamená spontánní vznik makroskopických vlastností a struktur složitých systémů, jež není snadné odvodit z vlastností jejich složek. Příkladem emergence je třeba vznik sněhové vločky či vznik života a vznik vědomí.

Ze současného vývoje lze dovozovat, že k emergenci může dojít v důsledku interakce jednotlivých prvků lidských společností skrze síťové informační propojení jejich prvků povinným sdílením dat a jejich zpracováním vyspělou umělou inteligencí, které budou progresivně vylepšovat své schopnosti. Toto vše může vést ke vzniku  fenoménu Černé labutě /Nassim Taleb/, tedy neočekávané události s velkými nepředpokládanými pozitivními či negativními důsledky v poměru, který nelze predikovat.

Minimálně, i pokud nedojde k emergentnímu jevu, si vytváříme závislost naší existence na velmi komplexním síťovém systému s úložišti a algoritmy zpracování dat. Kdo bude ovládat tento systém, bude pánem budoucího světa či jeho části. A bude rozhodovat o dalším směřování a vývoji lidských společností. Pokud ovšem bude vše fungovat efektivně podle předpokladů a nepřiletí slibovaná Černá labuť.

Moc se těším na příspěvky dalších autorů na toto téma, které považuji za naprosto zásadní, pokud se udrží současné trendy vědecko-technického a společenského vývoje.