Jak YouTube vybudoval stroj na radikalizaci pro krajní pravici

Tech


Jak YouTube vybudoval stroj na radikalizaci pro krajní pravici

Pro Davida Sherratta, stejně jako pro mnoho teenagerů, začala krajní pravicová radikalizace výukovým programem videoher na YouTube. Bylo mu 15 let a byl volně liberální, většinou se zajímal o klipy „Call of Duty“. Pak ho doporučení YouTube zavedla jinam.

'Jak jsem to sledoval, začal jsem vidět věci, jako je online ateistická komunita,' řekl Sherratt, 'která se pak stala vstupní branou do občanské války ateistické komunity proti feminismu.' Vzhledem k velké subkultuře YouTube ateistů, kteří se stavěli proti feminismu, „Myslím, že jsem spadl do králičí nory mnohem rychleji,“ řekl.


Během tohoto čtyřletého výletu do králičí nory se teenager dostal na titulky pro jeho zapojení do hnutí za práva mužů, okrajové ideologie, která věří, že muži jsou utlačováni ženami, a kterou už nepodporuje. Natáčel videa s prominentním youtuberem, který dnes miluje krajní pravice.

Zúčastnil se promítání dokumentu o hnutí za „mužská práva“ a poté se setkal s dalšími youtubery, kde potkal mladého muže, který vypadal „trochu mimo“, řekl Sherratt. Přesto o tom moc nepřemýšlel a nakonec zapózoval pro skupinovou fotku s mužem a dalšími youtubery. Někteří z Sherrattových přátel se s mužem později dokonce spojili online, což přimělo Sherratta, aby se podíval na jeho kanál YouTube.

To, co našel, zkazilo jeho pohled na promítání dokumentu. Kanál mladého muže byl plný obsahu popírání holocaustu.

'Potkal jsem neonacistu a ani jsem o tom nevěděl,' řekl Sherratt


Setkání bylo součástí jeho rozčarování z krajně pravicového politického světa, do kterého pomalu vstupoval na konci svého dětství.

„Myslím, že jednou ze skutečných věcí, kvůli kterým bylo tak těžké dostat se ven a uvědomit si, jak jsem se v určitých oblastech zradikalizoval, byla skutečnost, že v mnoha ohledech se krajně pravicoví lidé tváří méně krajně pravicově; umírněnější nebo levicovější,“ řekl Sherratt.

Sherratt nebyl sám. YouTube se v posledních letech stal tichou elektrárnou politické radikalizace, poháněný algoritmem, který podle bývalého zaměstnance naznačuje stále okrajovější obsah. A krajně pravicoví youtubeři se naučili tento algoritmus využívat a umístili svá videa vysoko v doporučeních pro méně extrémní videa. The Daily Beast hovořil se třemi muži, jejichž návyky na YouTube je posunuly na krajně pravicovou cestu a kteří se od té doby odhlásili z nenávisti.

Třásně podle designu

YouTube má obrovskou sledovanost s téměř 2 miliardami uživatelů denně, z nichž mnozí jsou mladí. Tato stránka je mezi teenagery populárnější než Facebook a Twitter. Studie Pew z roku 2018 zjistili, že 85 procent amerických teenagerů používá YouTube, což z něj dělá zdaleka nejoblíbenější online platformu pro skupinu do 20 let. (Facebook a Twitter, které čelily regulačnímu hněvu kvůli extremistickému obsahu, jsou oblíbené mezi 51 a 32 procenty dospívajících.)


YouTube, který byl spuštěn v roce 2005, byl rychle získán společností Google. Technologický gigant se rozhodl maximalizovat zisky tím, že uživatelům umožní sledovat videa. Společnost najala inženýry, aby vytvořili algoritmus, který by doporučoval nová videa, než uživatel dokončí sledování aktuálního videa.

Bývalý inženýr YouTube Guillaume Chaslot byl najat do týmu, který navrhl algoritmus v roce 2010.

„Lidé si myslí, že to navrhuje to nejrelevantnější, tuhle věc, která je pro vás velmi specializovaná. Není tomu tak,“ řekl Chaslot deníku The Daily Beast a dodal, že algoritmus „optimalizuje pro dobu sledování“, nikoli kvůli relevanci.

'Cílem algoritmu je skutečně udržet vás v linii co nejdéle,' řekl.


„Cílem algoritmu je skutečně udržet vás v linii co nejdéle.“ – bývalý inženýr YouTube Guillaume Chaslot

Tato fixace na dobu sledování může být banální nebo nebezpečná, řekla Becca Lewisová, výzkumnice z neziskové organizace Data & Society pro výzkum technologií. „Pokud jde o obchodní model YouTube a pokusy udržet uživatele zapojené do jejich obsahu, dává smysl, co vidíme, jak algoritmy dělají,“ řekl Lewis. „Toto algoritmické chování je skvělé, pokud hledáte vizážistky a sledujete obsah jedné osoby a chcete spoustu rad ostatních, jak si udělat oční stíny. Ale stává se to mnohem problematičtějším, když mluvíte o politickém a extremistickém obsahu.“

Chaslot řekl, že mu bylo jasné, že algoritmus může pomoci posílit okrajová přesvědčení.

„Opravdu rychle jsem si uvědomil, že doporučení YouTube umisťuje lidi do filtračních bublin,“ řekl Chaslot. 'Nebylo cesty ven.' Pokud se někdo zabýval konspiracemi Ploché Země, bylo pro dobu sledování špatné doporučovat videa proti Ploché Zemi, takže je ani nedoporučí.“

Lewis a další výzkumníci poznamenali, že doporučená videa často tíhnou k okrajům. Psaní pro The New York Times Socioložka Zeynep Tufekci poznamenala, že videa Donalda Trumpa doporučují videa, „která obsahovala žvásty bílé rasy, popírání holocaustu a další znepokojivý obsah“.

Matt, bývalý pravičák, který požádal o utajení svého jména, byl osobně uvězněn v takové filtrační bublině.

Například popsal sledování videa Billa Mahera a Bena Afflecka, jak diskutují o islámu, a viděl doporučené extrémnější video o islámu zaměstnancem Infowars a konspiračním teoretikem Paulem Josephem Watsonem. Toto video vedlo k dalšímu videu a dalšímu.

'Ponořte se do [Watsonova] kanálu a začněte hledat jeho antiimigrační věci, které často vedou lidi k tomu, aby se stali sympatičtějšími k etno-nacionalistické politice,' řekl Matt.

'Tento druh mě nepřímo poslal na cestu, abych se politicky posunul více doprava, protože mě to vedlo k objevování dalších lidí s podobnými krajně pravicovými názory.'

Nyní, 20, Matt od té doby opustil ideologii a vybudoval anonymní internetovou prezentaci, kde se hádá se svými bývalými bratry na pravici.

„Myslím, že YouTube určitě sehrál roli v mém posunu doprava, protože díky doporučením, které jsem dostal,“ řekl, „m jsem objevil další obsah, který byl velmi napravo od středu, a to se postupem času jen postupně zhoršovalo. což mě vede k objevování zlověstnějšího obsahu.“

Tato opozice vůči feminismu a hnutím za rasovou rovnost je součástí hnutí YouTube, které se popisuje jako „antisociální spravedlnost“.

'Myslím, že anti-SJW věci oslovují mladé bělochy, kteří mají pocit, že ztrácejí svůj status kvůli nedostatku lepšího termínu.' - Andrew, bývalý běloch

Andrew, který také požádal o utajení svého příjmení, je bývalý běloch, který se od té doby vzdal hnutí. V těchto dnech bloguje o tématech, která krajní pravice považuje za anathemu: rasovou spravedlnost, rovnost pohlaví a, jedna z jeho osobních vášní, chlupatou komunitu. Ale zájem o videohry a online kulturu byl v posledních deseti letech jeho ideologického vývoje konstantní. Když bylo Andrewovi 20, řekl, že začal sympatizovat s bílým nacionalismem poté, co přijal body, o kterých se hnutí hovořilo na nesouvisejícím fóru.

Herní kultura na YouTube ho posunula dál na krajně pravicovou cestu. V roce 2014 spustila koalice trollů a pravičáků Gamergate, obtěžovací kampaň proti lidem, které považovali za pokusy prosazovat feministické nebo „sociální spravedlnost“ ve videohrách. Hnutí mělo velkou přítomnost na YouTube, kde přesvědčilo některé hráče (zejména mladé muže), že jejich videohry byly napadeny.

'Vytvořilo to hrozbu pro něco, čemu lidé přikládají nezměrnou hodnotu,' řekl Andrew. „‚SJW‘ [bojovníci za sociální spravedlnost] nikdy nebyli hrozbou pro videohry. Ale pokud by lidé mohli uvěřit, že ano,“ pak byli náchylní k dalším, divočejším tvrzením o těchto nových nepřátelích na levici.

Matt popsal pocity ztráty na YouTube jako prostředek k radikalizaci mladých mužů.

'Myslím, že anti-SJW věci apelují na mladé bílé kluky, kteří mají pocit, že ztrácejí svůj status kvůli nedostatku lepšího termínu,' řekl. 'Vidí, že menšiny obhajují svá vlastní práva, a to je činí nepohodlnými, takže se snaží proti tomu bojovat.'

Když byl Andrew v krajně pravicové komunitě, viděl, že antifeministický obsah funguje jako brána k extrémnějším videím.

'Falešná představa, že příčiny sociální spravedlnosti mají nějaký hanebný postranní motiv, že nějak překrucují pravdu,' může pomoci otevřít diváky extrémnějším příčinám, řekl. 'Jakmile tomu někoho uvěříte, můžete se ve skutečnosti dostat až k bílé nadvládě poměrně rychle.'

Lewis identifikoval komunitu jako jednu z několika radikalizačních cest, „které mohou začít z mainstreamové konzervativní perspektivy: nejsou otevřeně rasistické nebo sexistické, ale soustředí se na kritiku feminismu se zaměřením na kritiku Black Lives Matter. Odtud je opravdu snadný přístup k obsahu, který je zjevně rasistický a zjevně sexistický.“

Chaslot, bývalý inženýr YouTube, řekl, že navrhl, aby společnost uživatelům umožnila odhlásit se z algoritmu doporučení, ale tvrdí, že Google neměl zájem.

Generální ředitel společnosti Google, Sundar Pichai, minulý týden na slyšení v Kongresu tento problém namluvil. Když byl generální ředitel dotazován na obzvláště škodlivou konspirační teorii o Hillary Clintonové, která se objevuje často ve vyhledávání nesouvisejících videí, neslíbil, že bude jednat.

'Je to oblast, u které uznáváme, že je potřeba udělat ještě hodně práce, a rozhodně v tom budeme pokračovat,' řekl Pichai. 'Ale chci uznat, že je potřeba udělat ještě hodně práce.' S naším růstem přichází více zodpovědnosti. A jsme odhodláni dělat to lépe, protože do této oblasti investujeme více.“

Ale zatímco YouTube zvažuje řešení, lidé jsou zraněni.

Ostrá doprava

4. prosince 2016 Edgar Welch střílel z pušky AR-15 v oblíbené pizzerii ve Washingtonu, D.C. Welch věřil, že demokraté provádějí sexuální obchodování s dětmi v suterénu pizzerie, což je konspirační teorie nazvaná „Pizzagate“.

Stejně jako mnoho moderních konspiračních teorií se Pizzagate množila na YouTube a zdálo se, že tato videa ovlivnila Welche, který je poslal ostatním. Tři dny před střelbou Welch napsal příteli SMS o spiknutí. Podívejte se na 'PIZZAGATE: Větší obrázek' na YouTube,“ napsal .

Další konspirační teorie šířené na YouTube podobně vyústily ve výhrůžky násilím zbraní. Muž, který se intenzivně angažoval v komunitách konspiračních teorií na YouTube údajně vyhrožoval masakrem v sídle YouTube letos v létě poté, co uvěřil jiné konspirační teorii o cenzuře videa. Další muž, který věřil teorii QAnon poháněné YouTube, vedl an ozbrojený záskok u Hoover Dam v červnu. Minulý týden zatčen neonacista se zásobou zbraní provozoval kanál YouTube kde mluvil o zabíjení Židů.

„Mladí lidé jsou náchylnější k formování jejich politických ideálů. To je čas ve vašem životě, kdy zjišťujete, kdo jste a jaká je vaše politika.“ – technologická výzkumnice Becca Lewis

Náboženští extremisté našli domov také na YouTube. Od března do června 2018 lidé nahráli na platformu 1 348 videí ISIS, podle studie Projekt proti extremismu . YouTube smazal 76 procent těchto videí do dvou hodin od jejich nahrání, ale většina účtů stále zůstala online. The radikální muslimsko-americký duchovní Anwar al-Awlaki radikalizoval mnoho potenciálních teroristů a jeho kázání byla na YouTube populární.

Méně násilní aktéři mohou také radikalizovat diváky tím, že využívají algoritmus YouTube.

„YouTubeři jsou extrémně důvtipní v neformálním SEO [optimalizace pro vyhledávače],“ řekl Lewis z Data & Society. 'Označí svůj obsah určitými klíčovými slovy, o kterých mají podezření, že je lidé mohou hledat.'

Chaslot popsal populární formát titulů na YouTube, který si dobře hraje s algoritmem i emocemi diváků. „Klíčová slova jako ‚A ničí B‘ nebo ‚A ponižuje B‘“ mohou „zneužít algoritmus a lidská zranitelnost.“ Konzervativní videa, jako jsou videa s pravicovou osobností Benem Shapirem nebo zakladatelem Proud Boys Gavinem McInnesem, často využívají tento formát.

Někteří okrajoví uživatelé se snaží rozšířit své názory tím, že se objeví ve výsledcích vyhledávání pro méně extrémní videa.

'Umírněný uživatel bude mít určité body k hovoru,' řekl Sherratt. „Ale ti radikální, protože se vždy snaží infiltrovat a odhánět předplatitele a diváky z těch umírněnějších pozic, dají všechny úplně stejné značky, ale s několika dalšími. Takže to nebude jen ‚migrační krize‘ a ‚islám‘, bude to ‚migrační krize‘, ‚islám‘ a ‚smrt Západu‘.

„Mohli byste se dívat na umírněnější videa a extrémní videa budou v tomto rámečku [doporučení], protože v oblasti antisociální spravedlnosti neexistuje žádný koncept, který by krajní pravice nebyla ochotna použít jako nástroj ke spolupráci. - zvolte tu kouli.'

Zranitelná sledovanost

Mladí lidé, zejména ti, kteří nemají plně formované politické přesvědčení, mohou být snadno ovlivněni extrémními videi, která se objevují v jejich doporučeních. 'YouTube oslovuje tak mladou demografickou skupinu,' řekl Lewis. „Mladí lidé jsou náchylnější k formování jejich politických ideálů. To je čas ve vašem životě, kdy zjišťujete, kdo jste a jaká je vaše politika.“

YouTube však nezískal stejnou pozornost jako Facebook a Twitter, které jsou populárnější u dospělých. Během Pichaiova úterního kongresového svědectví si členové kongresu našli čas zeptat se generálního ředitele Google na iPhony (produkt, který Google nevyrábí), ale položil pár otázek ohledně extremistického obsahu.

Přišlo Pichaiovo svědectví dva dny po PewDiePie , nejoblíbenější uživatel YouTube, doporučil kanál, který zveřejňuje bílá nacionalistická a antisemitská videa. PewDiePie (vlastním jménem Felix Kjellberg) má více než 75 milionů odběratelů, z nichž mnozí jsou mladí lidé. Kjellberg byl již dříve obviněn z fanatismu poté, co zveřejnil nejméně devět videí obsahujících antisemitské nebo nacistické snímky. V lednu 2017 najal lidi, aby na kameru drželi nápis „smrt všem Židům“.

Někteří populární youtubeři v méně extrémní komunitě proti sociální spravedlnosti se koncem roku 2016 a začátkem roku 2017 stali otevřeněji sexistickými a rasistickými, což je trend, který si někteří diváci nemusí všimnout.

'Rétorika se začala posouvat dále doprava a Overton Window se pohyboval,' řekl Sherratt. „Jednu minutu to bylo ‚jsme liberálové a jen si myslíme, že tyto typy sociální spravedlnosti jsou příliš extrémní nebo zacházejí příliš daleko ve své taktice‘ a o šest měsíců později se to změnilo v ‚progresivismus je zlá ideologie‘.“

Jeden z Mattových oblíbených kanálů na YouTube „začal jako technický kanál, který neměl rád feministky, a nyní točí videa, kde je pro něj téměř všechno marxistické spiknutí,“ řekl.

'Můžete zakazovat znovu a znovu, ale změní diskurz.' - Chaslot, bývalý inženýr YouTube

V některých případech mohou videa na YouTube nahradit předchozí zdroje informací. Konspirační youtubeři často odrazují diváky od sledování nebo čtení jiných zpravodajských zdrojů, Chaslot již dříve poznamenal . Tento trend je dobrý pro zastánce konspiračních teorií a pro konečný výsledek YouTube; diváci jsou více přesvědčeni o konspiračních teoriích a konzumují více reklam na YouTube.

Problém se rozšiřuje na mladé diváky YouTube, kteří možná sledují svůj oblíbený kanál nábožensky, ale nečtou konvenčnější zpravodajství.

'Je to místo, kde lidé získávají informace o světě a politice,' řekl Lewis. „Někdy místo toho, aby chodili na tradiční zpravodajské zdroje, lidé jen sledují obsah influencera, který se jim líbí a který má náhodou určité politické názory. Děti mohou mít z YouTube úplně jiný zážitek, než očekávají jejich rodiče, ať už je to extremistické nebo ne. Myslím, že YouTube má moc utvářet ideologii lidí víc, než za co mu lidé připisují uznání.“

Někteří aktivisté vyzvali YouTube, aby zakázal extrémní videa. Společnost často namítá, že je obtížné promítnout hlášených 300 hodin videa nahraného každou minutu. Dokonce i Chaslot řekl, že je skeptický k účinnosti zákazů.

'Můžete zakazovat znovu a znovu, ale oni změní diskurz.' Jsou velmi dobří v tom, aby zůstali pod hranicí přijatelnosti,“ řekl. Poukázal na videa, která vyzývají demokratického dárce George Sorose a další prominentní demokraty, aby byli „‚první svrženi do pekla‘.“ „Video vysvětlilo, proč si nezaslouží žít, a výslovně neříká, že je třeba je zabít, “, takže obchází pravidla proti násilnému obsahu.

Zároveň „vede k jakési teroristické mentalitě“ a projevuje se v doporučeních.

'Kamkoli postavíte čáru, lidé si najdou způsob, jak být na druhé straně,' řekl Chaslot.

'Není to problém s moderováním obsahu, je to problém s algoritmem.'