Ukazuje se, že umělá inteligence je v řešení složitých problémů ve všech oblastech, od podnikání až po biomedicínu, čím dál zdatnější. Tudíž myšlenka využít ji k tomu, aby pomohla navrhnout řešení sociálních problémů, může být lákavá. Je to však složité, protože zodpovězení těchto otázek vyžaduje zapojení vysoce subjektivních hodnot, jako je spravedlnost, čestnost a odpovědnost.
Aby řešení umělé inteligence fungovalo, musí být v souladu s hodnotami společnosti, pro kterou pracuje. Nicméně rozmanitost politických ideologií, která dnes existuje, naznačuje, že tyto hodnoty nejsou zdaleka jednotné. To pochopitelně stěžuje navržení optimálního řešení a přináší to i nebezpečí, že hodnoty vývojářů budou ovlivňovat výsledek procesu.
Dosud nejlepším způsobem, který lidská společnost vyvinula pro řešení nevyhnutelných neshod v těchto i dalších oblastech, je demokracie. Výzkumníci ze společnosti Deepmind proto nyní vyvinuli nový přístup, který kombinuje umělou inteligenci s lidským demokratickým uvažováním, aby mohli přijít s lepšími řešeními společenských dilemat.
K otestování svého přístupu provedli výzkumníci ověřovací studii s využitím jednoduché hry, ve které uživatelé rozhodují o tom, jak sdílet své zdroje pro vzájemný prospěch. Experiment je navržen tak, aby fungoval jako mikrokosmos lidských společností, v nichž lidé s různou úrovní bohatství musí spolupracovat, aby vytvořili spravedlivou a prosperující společnost.
Hra zahrnuje čtyři hráče, z nichž každý obdrží rozdílnou sumu peněz a musí se rozhodnout, zda si je ponechá pro sebe, nebo je odvede do veřejného fondu, který generuje výnos z investice. Způsob, jakým je tato návratnost investice přerozdělována, však může být upraven tak, aby někteří hráči byli zvýhodněni oproti jiným.
Mezi možné mechanismy patří přísně rovnostářský, kdy se výnosy z veřejných prostředků rozdělují rovným dílem bez ohledu na výši příspěvku, dále libertariánský, kdy jsou výplaty úměrné výši příspěvků, a liberálně rovnostářský, kdy je výplata každého hráče úměrná podílu jeho soukromých prostředků, které vložil.
Ve výzkumu publikovaném v časopise Nature Human Behavior vědci popisují, jak přiměli skupiny lidí hrát mnoho kol této hry při různých úrovních nerovnosti a s použitím různých mechanismů přerozdělování. Poté byli požádáni, aby hlasovali o tom, kterému způsobu rozdělení zisku dávají přednost.
Tyto údaje byly použity k vyškolení umělé inteligence, která napodobuje lidské chování ve hře, včetně způsobu hlasování hráčů. Výzkumníci postavili tyto hráče s umělou inteligencí proti sobě v tisících her, zatímco jiný systém umělé inteligence upravoval mechanismus přerozdělování na základě způsobu hlasování hráčů.
Na konci tohoto procesu se umělá inteligence ustálila na mechanismu přerozdělování, který byl podobný liberálnímu rovnostářství, ale nevracel hráčům téměř nic, pokud nepřispěli zhruba polovinou svého soukromého majetku. Když lidé hráli hry, v nichž se tento přístup utkal se třemi hlavními zavedenými mechanismy, ten navržený umělou inteligencí v hlasování neustále vítězil. Vedl si také lépe než hry, v nichž o způsobu rozdělení výnosů rozhodovali lidští rozhodčí.
Výzkumníci tvrdí, že mechanismus navržený umělou inteligencí si pravděpodobně vedl dobře, protože založení výplat na relativních, nikoli absolutních příspěvcích pomáhá vyrovnat počáteční nerovnováhu bohatství. Nicméně vynucení minimálního příspěvku brání méně bohatým hráčům, aby se jednoduše přiživovali na příspěvcích těch bohatších.
Převedení tohoto přístupu z jednoduché hry pro čtyři hráče na rozsáhlé ekonomické systémy by bylo zjevně nesmírně náročné a pochopitelně není jasné, zda jeho úspěch v takto teoretickém problému může předpovědět i úspěch v reálném světě.
Výzkumníci sami identifikovali několik potenciálních problémů. Jedním z nich může být "tyranie většiny", která může způsobit přetrvávání stávajících vzorců diskriminace nebo nespravedlnosti vůči menšinám. Rovněž nastolili otázku vysvětlitelnosti a důvěryhodnosti, která by byla klíčová, pokud by se řešení navržená umělou inteligencí měla někdy uplatnit při řešení dilemat v reálném světě.
Tým navrhl svůj model umělé inteligence tak, aby jeho výstupem byly mechanismy, které lze vysvětlit. To by však mohlo být stále náročnější, pokud by se tento přístup aplikoval na složitější problémy. Hráči také nebyli informováni o tom, kdy přerozdělování řídí umělá inteligence, a výzkumníci připouštějí, že tato znalost může ovlivnit způsob jejich hlasování.
Přestože k tomu, aby stroje pomáhaly určovat veřejnou politiku, máme tedy ještě daleko, zdá se, že umělá inteligence nám jednoho dne může pomoci najít nová řešení, která přesáhnou rámec zavedených ideologií.
