Jejich uspokojivé fungování je proto klíčové pro jednotlivce i pro společnost jako celek. Návrhem vysvětlitelných a transparentních algoritmů umělé inteligence se bude zabývat mezinárodní projekt AutoFair, který získal grant ve výši 3 840 846 eur (necelých 95 milionů korun) v evropském programu Horizon Europe. Z celkového počtu 206 žádostí ve výzvě HUMAN-01 jich uspělo 46.

Tříletý projekt AutoFair byl vybrán k financování jako jediný projekt koordinovaný institucí z České republiky. Jeho hlavním řešitelem je dr. Jakub Mareček z Centra umělé inteligence na Fakultě elektrotechnické Českého vysokého učení technického v Praze (FEL ČVUT). Ta z grantu dosáhne na 15 milionů korun. Zbývajících 80 milionů korun si rozdělí dalších sedm členů konsorcia, mezi kterými jsou vědci z prestižních univerzit včetně Imperial College London, izraelského technologického institutu Technion a Národní a kapodistrijské univerzity v Aténách. Partnerské instituce doplní ještě technologické firmy, které poskytnou potřebná data k modelování a ověří aplikovatelnost výsledků v praxi. Bude se jednat o nadnárodní společnosti i lokální startupy využívající umělou inteligenci.

Cílem projektu AutoFair je zaručit, že AI algoritmy nebudou nikomu stranit. Umělá inteligence fungující jako černá skříňka, do jejíhož rozhodování nemáme vhled, totiž představuje značné riziko. Algoritmus může fungovat pro řadu lidí uspokojivě, ale pro některé může fungovat velmi špatně. Jednou ze strategií, jak s tímto rizikem pracovat, je práce s daty. Výběr dat pro učení systému musí být reprezentativní a nepřenášet nerovnosti ve společnosti do vývoje algoritmů. Opačnou strategií je důsledně vysvětlovat veřejnosti fungování a omezení AI systémů. Tato strategie se tedy týká komunikačních aspektů po samotné implementaci. Projekt AutoFair kombinuje oba tyto extrémní přístupy: chce vylepšit samotné algoritmy a zároveň vzdělávat koncové uživatele. Opírá se proto o poznatky z počítačových a datových věd, teorie řízení, optimalizace a dalších vědních disciplín, včetně etiky a práva.

Otázky, související s etikou umělé inteligence, se běžně prozkoumávají v počítačovém vidění. „Řada lidí k odemčení mobilu používá systém pro rozpoznání obličeje. Ten však poměrně dlouho fungoval spolehlivě jen pro muže bílé pleti a úspěšnost pro etnické menšiny byla ještě donedávna podstatně nižší. Tento problém daný nereprezentativností dat se již podařilo odstranit. Umělá inteligence má však řadu dalších použití, kde podobné etické problémy dodnes přetrvávají,” vysvětluje naléhavost projektu jeho koordinátor dr. Mareček z FEL ČVUT.

Výstupy projektu budou testovány na třech případových studiích průmyslového využití napříč třemi odvětvími. Prvním z nich je automatizace férového hodnocení při náboru zaměstnanců, druhým je odstranění genderové nerovnosti v reklamě a třetím je oblast finančních technologií, konkrétně eliminace diskriminace klientů bank. Vznik tří případových studií doprovodí expertní skupiny složené ze zástupců byznysu, veřejných orgánů, nevládních organizací i politiků. Pohled všech zájmových skupin bude stěžejní pro výzkumný proces a zvýší potenciál pro praktickou aplikaci výsledků projektu. Reálná implementace vědeckých poznatků a etické využití umělé inteligence jsou hlavní devizou projektu AutoFair. “Věřím, že se výstupy projektu podaří promítnout také do plánované regulace umělé inteligence, kterou připravuje Evropská komise,” dodává Mareček.

Samostatná Fakulta elektrotechnická ČVUT vznikla v roce 1950. V dnešní době se skládá ze 17 kateder umístěných ve dvou budovách: v rámci hlavního kampusu ČVUT v Dejvicích a v naší historické budově na Karlově náměstí. Fakulta elektrotechnická poskytuje prvotřídní vzdělání v oblasti elektrotechniky a informatiky, elektroniky, telekomunikací, automatického řízení, kybernetiky a počítačového inženýrství. Fakulta se dlouhodobě řadí mezi prvních pět výzkumných institucí v České republice. Produkuje přibližně 30% výzkumných výsledků celého ČVUT a má navázanou rozsáhlou vědeckou spolupráci se špičkovými světovými univerzitami i výzkumnými ústavy. Od roku 1950 Fakulta elektrotechnická vydala cca 30 000 diplomů, které byly vždy vysoce hodnoceny jako doklad prvotřídního vzdělání. Více informací najdete ZDE.

České vysoké učení technické v Praze patří k největším a nejstarším technickým vysokým školám v Evropě. Podle Metodiky 2017+ je nejlepší českou technikou ve skupině hodnocených technických vysokých škol. V současné době má ČVUT osm fakult (stavební, strojní, elektrotechnická, jaderná a fyzikálně inženýrská, architektury, dopravní, biomedicínského inženýrství, informačních technologií). Studuje na něm přes 17 800 studentů. Pro akademický rok 2021/22 nabízí ČVUT svým studentům 227 akreditovaných studijních programů a z toho 94 v cizím jazyce. ČVUT vychovává odborníky v oblasti techniky, vědce a manažery se znalostí cizích jazyků, kteří jsou dynamičtí, flexibilní a dokáží se rychle přizpůsobovat požadavkům trhu. Podle výsledků Metodiky 2017+ bylo ČVUT hodnoceno ve skupině pěti technických vysokých škol a obdrželo nejvyšší hodnocení stupněm A. ČVUT v Praze je v současné době na následujících pozicích podle žebříčku QS World University Rankings, který hodnotil 1673 univerzit po celém světě. V celosvětovém žebříčku QS World University Rankings je ČVUT na 403. místě a na 12. pozici v regionálním hodnocení „Emerging Europe and Central Asia“. V rámci hodnocení pro „Engineering – Civil and Structural" je ČVUT mezi 151. – 200. místem, v oblasti „Engineering – Mechanical“ na 201. – 250. místě, u „Engineering – Electrical“ na 201. až 250. pozici. V oblasti „Physics and Astronomy“ na 201. až 250. místě, „Natural Sciences“ jsou na 254. příčce. V oblasti „Computer Science and Information Systems" je na 201. – 250. místě, v oblasti „Material Sciences“ na 301. až 350. místě, v oblasti „Mathematics“ na 351. až 400. místě a v oblasti „Engineering and Technology“ je ČVUT na 221. místě. Více informací najdete ZDE.