Jejich uspokojivé fungování je proto klíčové pro jednotlivce i pro společnost jako celek. Návrhem vysvětlitelných a transparentních algoritmů umělé inteligence se bude zabývat mezinárodní projekt AutoFair, který získal grant ve výši 3 840 846 eur (necelých 95 milionů korun) v evropském programu Horizon Europe. Z celkového počtu 206 žádostí ve výzvě HUMAN-01 jich uspělo 46.

Tříletý projekt AutoFair byl vybrán k financování jako jediný projekt koordinovaný institucí z České republiky. Jeho hlavním řešitelem je dr. Jakub Mareček z Centra umělé inteligence na Fakultě elektrotechnické Českého vysokého učení technického v Praze (FEL ČVUT). Ta z grantu dosáhne na 15 milionů korun. Zbývajících 80 milionů korun si rozdělí dalších sedm členů konsorcia, mezi kterými jsou vědci z prestižních univerzit včetně Imperial College London, izraelského technologického institutu Technion a Národní a kapodistrijské univerzity v Aténách. Partnerské instituce doplní ještě technologické firmy, které poskytnou potřebná data k modelování a ověří aplikovatelnost výsledků v praxi. Bude se jednat o nadnárodní společnosti i lokální startupy využívající umělou inteligenci.

Cílem projektu AutoFair je zaručit, že AI algoritmy nebudou nikomu stranit. Umělá inteligence fungující jako černá skříňka, do jejíhož rozhodování nemáme vhled, totiž představuje značné riziko. Algoritmus může fungovat pro řadu lidí uspokojivě, ale pro některé může fungovat velmi špatně. Jednou ze strategií, jak s tímto rizikem pracovat, je práce s daty. Výběr dat pro učení systému musí být reprezentativní a nepřenášet nerovnosti ve společnosti do vývoje algoritmů. Opačnou strategií je důsledně vysvětlovat veřejnosti fungování a omezení AI systémů. Tato strategie se tedy týká komunikačních aspektů po samotné implementaci. Projekt AutoFair kombinuje oba tyto extrémní přístupy: chce vylepšit samotné algoritmy a zároveň vzdělávat koncové uživatele. Opírá se proto o poznatky z počítačových a datových věd, teorie řízení, optimalizace a dalších vědních disciplín, včetně etiky a práva.