Jan Handl, 30. 08. 20
Nejpoužívanější sociální síť světa má stále problémy s umělou inteligencí, která by měla v obsahu nahrávaným uživateli objevit zmanipulovaná videa.
Deepfakes jsou falešná videa, která zobrazují lidi při činnostech, které nikdy nedělali. Systémy umělé inteligence umějí vygenerovat na první a možná i druhý pohled video, které vypadá jako pravé. Nástroje pro výrobu deepfakes jsou nyní široce dostupné a relativně snadno použitelné. Odborník i laik se obává jejich zneužití; představte si třeba politika, který na uměle vygenerovaném někomu sprostě nadává nebo účinkuje v pornofilmu – to by mu asi preference nezvýšilo, že?
Lidské oko prozatím většinou pozná, že jde o podvrh. Jen je třeba si připustit, že to, na co se díváme, se nemuselo odehrát. Podle komplexního výzkumu společnosti DeepTrace Labs z října 2019 do té doby nebyla falešná videa použita v žádné velké dezinformační kampani. Výsledky šetření ale zároveň ukazují, že počet zveřejňovaných deepfake videí roste, objevovaly se jich tisíce. Konkrétně autoři zprávy hovoří o patnácti tisících za sedm měsíců. Nyní jsou počty ještě vyšší a je otázkou času, kdy bude internet těmito více či méně profesionálními podvrhy doslova zaplaven.
Strach před nástupem deepfake videí ve velkém mají hlavně provozovatelé sociálních sítí, kteří mají problém s jejich automatickou detekcí a odstraňováním. Facebook chce použít v boji proti umělé inteligenci chrlící zmanipulovaná videa zbraň protivníka a uvolnil největší datový soubor deepfakes. Ten obsahuje více než 100 000 klipů vyrobených díky 3 436 hercům a řadě existujících technik výměny obličejů v záběrech.
Facebook dále oznámil vítěze soutěže Deepfake Detection Challenge, ve které 2 114 účastníků předložilo kolem 35 000 modelů vyškolených na datech od Facebooku s cílem odhalovat falešná videa. Vyhrál Selim Seferbekov, který dokázal při testování na sadě 10 000 dosud neviděných videoklipů při odhalování deepfakes dosáhnout úspěšnosti 65 %.
Aby to detektory neměly tak jednoduché, jsou na videích nápisy přes obličeje lidí a součástí sad jsou i tutoriály, na kterých se herci líčí. Umělou inteligenci odhalující podvrhy je možné zmást i změnami rozlišení nebo orientace videa či jeho zpomalením. Nejúspěšnější účastníci soutěže využívali nový typ konvoluční neuronové sítě (CNN) vyvinuté Googlem, nazvaný EfficientNets. V CNN se běžně používají k analýze obrázků a při automatickém rozpoznávání objektů nebo obličejů.
Facebook zatím neplánuje používat žádný z vítězných modelů. 65% přesnost je stále dost nízká a i když některé modely dosahovaly až 80 %, jejich úspěšnost rázem klesla, když narazily na nový druh deepfakes.
