Nový automatizovaný systém Tinderu se učí detekovat „škodlivý jazyk“ ze zpráv nahlášených uživateli. Podle sociální sítě sloužící k seznamování lidí, kteří se sobě navzájem líbí, už teď došlo ke snížení obtěžování o desetinu. Pokud uživatel napíše něco podle umělé inteligence nevhodného, bude dotázán, zda si je tím skutečně jistý.
Instagram a Twitter, další sociální sítě, které nejsou primárně určené k seznamování, již používají podobné systémy k detekci nevhodných komentářů a tweetů. Instagram se ptá uživatelů, zda si jsou opravdu jisti, zda to chtějí odeslat, pokud si jeho systémy všimnou šikany nebo obtěžování v komentářích k fotkám.
Twitter už začátkem května uvedl, že začne žádat lidi, aby před zveřejněním zkontrolovali své tweety, pokud obsahují „škodlivé nebo urážlivé“ výrazy. Tinder se také ptá lidí, kteří dostávají zprávy, ve kterých zjistil urážlivou frázi, zda je to obtěžuje. Nový systém ale navíc požádá pisatele, aby před odesláním zprávy znovu zvážil, co napsal.
Seznamovací aplikace Tinder uvedla, že členové, kteří varování viděli, byli v následujícím měsíci méně často nahlašováni za obtěžování. Zdá se tedy, že toto systémové a automatické varování má pozitivní účinek.
Seznamovací aplikace se vyznačují daleko větší hrubostí a toxicitou prostředí, než ostatní sociální sítě. Sociální média jsou plná lidí, kteří sdílejí některé obtěžující a sexuálně explicitní zprávy, které dostali na Tinderu od úplně cizích lidí. Mnohé z nich jsou velmi podobné a zdá se, že se šíří řetězově s jediným účelem – protějšek prostě poškodit.
Nový kontrolní systém Tinderu zatím ve fázi experimentu prokázal, že požadavek na lidi, aby přemýšleli a zvážili to, co píší, snížil množství obtěžujících zpráv o 10 %. To ale znamená, že 90 % z obtěžujících zpráv sítí proklouzlo.
Jak to, že seznamovací aplikace tuto toxicitu podněcují? Podle Chrise Foxe, reportéra BBC, jde možná o součást problému stavění lidí proti sobě v „atraktivních Hunger Games“ na základě jejich fotografií. Pro Tinder je to ovšem nesmírně lukrativní hra. Za neomezenou verzi si totiž ročně nechá od uživatelů platit asi 3500 Kč.
Zdroj: www.bbc.com
