Martin Kysilka, 22. LISTOPADU 2018
V roce 2016 výzkumníci z MIT Media Lab spustili projekt Moral Machine, simulátor etických problémů spjatých s autonomní dopravou. V této „hře“ rozhodujete, jak by se měl zachovat samořídící vůz v rizikových situacích. Měl by strhnout řízení, aby zachránit chodce, ale obětoval pasažéry? Tato životně důležitá rozhodnotí jsou pro budoucí rozvoj autonomní dopravy zcela zásadní. Zvlášť když ona rozhodnutí budou vykonávat stroje.
V rámci globálního experimentu shromáždil Massachusettský technologický institut 40 milionů rozhodnutí v deseti různých jazycích od 2,3 milionu lidí z 233 zemí. Moral Machine vám vždy ukáže 13 náhodně vygenerovaných scénářů, ve kterých rozhodnete, jak se má vůz zachovat.
Co výzkumníci zjistili
Většina lidí preferuje:
- záchránu lidského života před zvířecím
- záchránu více životů než méně
- záchranu mladších lidí
- aby auto radši přejelo kriminálníka než psa (nikoliv kočku)
Lidé nejčasteji preferovali záchranu těhotných žen, dětí a nemluvňat.
MIT také ze získaných dat zjistilo, že lidé napříč všemi zeměmi si velmi cení lékařů, které ve většině případech upřednostnili před sportovci a byznysmeny.
Porovnání jednotlivých zemí podle toho, zdali by radši ušetřili život mladých lidí nebo seniorů. Pokud je sloupec blíž 1, respondenti vykázali větší ochotu zachránit mladé, pokud je sloupec blíž -1, respondenti by raději zachránili seniory. Zdroj: technologyreview.com
Rozdíly v regionech
Odpovědi se velmi často liší podle regionu. Zatímco renspondenti z Francie, UK a USA většinou preferovali zachránu mladších lidí, dotazovaní z Číny a Taiwanu by radši ušetřili lidi staršího věku. Respondenti z Japonska by zase – narozdíl od Číny – zachránili chodce na úkor pasažérů. Ukazuje se tak rozdíl mezi individualistickými a kolektivistickými společnostmi. Především v západní individualistické společnosti lidé preferují záchranu pokud možno co nejvíce životů, kdežto v kolektivistických zemích, jako je Čína, přikládají větší váhu autoritám – v tomto případě seniorům. Právě ony kulturní rozdíly představují nějvětší problém v nastolení celoprošných pravidel. Bezpečnostní preference Západu pravděpodobně nebude možné aplikovat v rozvojových zemích. Přesto existuje několik scénářů, na kterých se shodne většina světové populace. Jedním z nich je například bezpečí těchotných žen a dětí.
Pokud je sloupec blíž 1, respondenti vykázali větší ochotu zachránit chodce, pokud je sloupec blíž -1, respondenti by raději zachránili pasažéry. Zdroj: technologyreview.com
Protože 420 tisíc respondentů v kvízu poskytlo také údaje o vlastní osobě, MIT získalo i data, podle kterých mohlo zjistit preference dle pohlaví a věku. Například přežití žen upřednostňovaly především zástupkyně onoho pohlaví. Muži obecně také preferovali záchranu opačného pohlaví, ženy však více.
Dopad: MIT doufá, že získaná data povedou k novým studiím a zvýší zájem o veřejou diskuzi ohledně etických otázek spjatých s autonomní dopravou. Ačkoliv se preference napříč kulturami liší, je tu několik pravidel, na kterých se shoduje většina populace a na těch by se mohlo začít stavět.
Otázkou však zůstává, zdali odpovědi z dotazníků opravdu reflektují to, co by dotyčný preferoval v dané situaci, kdyby byl v sázce jeho vlastní život. Kdo by si sedl do auta, které by upřednostnilo život chodce před tím vaším?
Jak důležitá byla ona získaná data, ukáže až čas. Nicméně platformy jako Moral Machine představují zcela novou metodu pro vytváření zákonů a pravidel nejen pro umělou inteligenci. V zásadě se jedná o formu crowdsourcingu, prostřednictvím kterého se mohou lidé angažovat při formování nových zákonů a regulací. Jde o velmi důležitý krok vpřed ve vývoji umělé inteligence a etických pravidel, které budou kontrolovat její rozmach a působení v rámci naší společnosti.
Celou zprávu od MIT si můžete přecíst zde.
