Z obrazovek se vynořují děsivé postavy vytvořené umělou inteligencí
Technologie
Foto: Shutterstock

Z obrazovek se vynořují děsivé postavy vytvořené umělou inteligencí

Některé umělé inteligence dokážou vygenerovat realistické obrázky pouze na základě textové výzvy. Tyto nástroje mohou být použity například k ilustracím obálek časopisů. Mohou ale vytvářet i něco velmi podivného. Objevují se totiž i děsivé obrázky podivných tvorů – někdy známých jako digitální kryptoidi. Pojmenovaní jsou podle zvířat, o nichž se kryptozoologové, nikoliv ovšem běžní vědci, domnívají, že někde mohou existovat. Tento fenomén se dostal na titulní stránky novin a vyvolal rozruch na sociálních sítích.

24.09.22

Jeden uživatel Twitteru požádal model umělé inteligence nazvaný DALL-E mini, od té doby přejmenovaný na Craiyon, aby generoval obrázky slova „crungus“. Konzistentní téma následných výstupů bylo překvapivé: obrázek za obrázkem chrčícího, chlupatého muže podobného koze.

Následovaly obrázky Loab – ženy s tmavými vlasy, červenými tvářemi a nepřítomnýma nebo znetvořenýma očima. V sérii obrazů vytvořených jedním umělcem se Loab vyvíjela a objevovala se ve stále znepokojivějších scenériích. Zůstávala ale rozpoznatelná.

Někteří lidé na sociálních sítích žertem naznačují, že umělá inteligence jednoduše odhaluje existenci Crunguse a Loab, a že konzistence obrázků je důkazem, že jde o skutečné bytosti. Mhairi Aitkenová z Institutu Alana Turinga v Londýně ale upozorňuje, že nic nemůže být dále od pravdy. „Spíše než něco strašidelného to ve skutečnosti ukazuje některá omezení modelů generátorů obrazů umělé inteligence,“ říká.

Dodává, že teorie o strašidelných démonech se pravděpodobně budou prostřednictvím sociálních sítí nadále šířit a podněcovat představy veřejnosti o budoucnosti umělé inteligence. „Zatímco skutečná vysvětlení mohou být poněkud nudnější,“ podotýká. Původ těchto obrazů totiž spočívá v obrovském množství textů, fotografií a dalších dat vytvořených lidmi, které umělá inteligence při svém tréninku nasává, vysvětluje Aitken.

Kde se vzal Crungus?

Komik Guy Kelly, který vytvořil původní obrázky Crunguse, řekl časopisu New Scientist, že se zkrátka snažil najít vymyšlená slova, z nichž by umělá inteligence mohla sestavit jasný obraz. „Viděl jsem, jak lidé zkoušejí v botech existující věci – 'tři psi jedoucí na racku' a tak dále – ale nevím, že bych viděl někoho, kdo by používal věrohodně znějící bláboly,“ říká.

„Napadlo mě, že by bylo zábavné zapojit do bota s umělou inteligencí nesmyslné slovo, abych zjistil, zda něco, co v mé hlavě zní jako konkrétní věc, dává konzistentní výsledky. Neměl jsem představu, jak by Crungus měl vypadat, jen jsem věděl, že to zní trochu 'goblinsky',“ popisuje.

Přestože vlivů umělé inteligence na vytvoření Crunguse budou stovky nebo tisíce, existuje několik věcí, které můžeme označit za pravděpodobné viníky. Existuje řada her, v nichž vystupuje postava jménem Crungus. Zmínky o tomto slově ve slovníku Urban Dictionary z roku 2018 se zároveň týkají příšery, která dělá „nechutné“ věci. Slovo je také podobné Krampusovi – bytosti, která prý o Vánocích v některých částech Evropy trestá zlobivé děti. Podobný je i vzhled obou tvorů.

Mark Lee z Birminghamské univerzity ve Velké Británii tvrdí, že Crungus je pouze složeninou údajů, které Craiyon viděl. „Myslím, že bychom mohli říci, že vytváří věci, které jsou originální,“ podotýká. „Jsou však založeny na předchozích příkladech. Může to být jen smíšený obraz, který pochází z více zdrojů. A vypadá to velmi děsivě, že?“ dodává.

Loab jako nepředvídatelný výsledek

Loab se trochu liší, ale stejně jako v případě Crunguse jde o smyšlenou příšeru. Umělec Supercomposite, který ji vytvořil a který si přál zůstat v anonymitě, řekl časopisu New Scientist, že Loab je výsledkem času stráveného hledáním bizarních výsledků ve výstupech nejmenované umělé inteligence.

„Vypovídá to hodně o tom, jaké nehody se odehrávají uvnitř těchto neuronových sítí, které jsou jakousi černou skříňkou,“ tvrdí. „Vše je založeno na obrázcích, které vytvořili lidé, a na tom, jak se rozhodli shromažďovat a kurýrovat tréninkový soubor dat. Ačkoliv to může vypadat jako duch ve stroji, ve skutečnosti to jen odráží náš kolektivní kulturní výstup,“ vysvětluje.

Loab byla vytvořena pomocí „negativně váženého podnětu“, což je na rozdíl od běžného podnětu pokyn pro umělou inteligenci, aby vytvořila obrázek, který je koncepčně co nejvíce vzdálen zadání. Výsledek těchto negativních vstupů může být nepředvídatelný. Supercomposite požádal umělou inteligenci, aby vytvořila opak „Brando“, čímž vzniklo logo s textem „DIGITA PNTICS“. Poté požádal o jeho opak a dostal sérii obrázků Loab.

„Textové výzvy obvykle vedou k velmi širokému souboru výstupů a větší flexibilitě,“ vysvětluje Aitken. „Může se stát, že při použití negativní výzvy jsou výsledné obrázky omezenější. Jednou z teorií tedy je, že negativní podněty by mohly s větší pravděpodobností opakovat určité obrazy nebo jejich aspekty, a to by mohlo vysvětlovat, proč se Loab objevuje tak vytrvale,“ dodává.

Programy dělají jen to, k čemu jsou naprogramovány

Přestože se na umělou inteligenci denně spoléháme – ať už jde o odemykání telefonu obličejem nebo o komunikaci s hlasovým asistentem, či dokonce o ochranu našich bankovních účtů před podvody – ani výzkumníci, kteří ji vyvíjejí, skutečně nerozumějí tomu, jak umělá inteligence funguje. Je to proto, že umělé inteligence se učí, jak dělat věci, aniž bychom věděli, jak je dělají. Vidíme jen vstup a výstup, zbytek je skrytý. To může vést k nedorozuměním, popisuje Aitken.

„O umělé inteligenci se mluví, jako by byla nějakým způsobem magická nebo tajemná,“ říká. „To je pravděpodobně první z mnoha příkladů, které mohou dát vzniknout konspiračním teoriím nebo mýtům o postavách žijících v kyberprostoru. Je opravdu důležité, abychom se zabývali těmito nedorozuměními a mylnými představami o umělé inteligenci, aby lidé pochopili, že jde zkrátka o počítačové programy, které dělají jen to, k čemu jsou naprogramovány, a že to, co vytvářejí, je výsledkem lidské vynalézavosti a představivosti,“ dodává.

„Strašidelné je podle mě opravdu to, že se tyto městské legendy rodí,“ říká Lee. „A pak je děti a další lidé berou vážně. Jako vědci musíme být velmi opatrní a říkat: Podívejte, tohle všechno se skutečně děje a není to nadpřirozené,“ upozorňuje.

 

ZDROJ

Související

Blíží se doba, kdy banky naše potřeby budou znát dříve než my sami? Ptali jsme se Jaroslava Bělky

6Dhub.cz · CZECHárna Petra Beneše #26 - Jaroslav Bělka Pokud si chcete přidat Czechárnu Petra Beneše na Spotify, můžete tak učinit ZDE . Jsi Data Executive Director v ČSOB. Co si pod tím můžeme představit? Zní to honosně, ale znamená to, že společně se svými kolegy odpovídám za všechno, co se týká...


Jakou hudbu umí vytvořit algoritmy umělé inteligence?

Skladba originálně vygenerovaná umělou inteligencí využívající GPT-2 algoritmy pro tvorbu hudebních skladeb zazněla nejprve v podání jazzového bandu studentů Konzervatoře a VOŠ Jaroslava Ježka. Následně mohli posluchači slyšet její reprodukci v čistě elektronickém podání. Myšlenkou bylo ukázat...


Google tvrdí, že se blíží k vytvoření umělé inteligence na úrovni člověka

V reakci na pesimistický článek publikovaný Tristanem Greenem v TheNextWeb prohlásil vedoucí výzkumný pracovník společnosti Google DeepMind Dr. Nando de Freitas, že "hra skončila" a že s tím, jak budeme zdokonalovat umělou inteligenci, se budeme postupně blížit i k AGI. Greene ve svém sloupku...