Mladí Filipínci kontrolují obsah sociálních sítí. 'Mnozí mají deprese,' říká režisér dokumentu Čističi
Internetové společnosti jako Facebook nebo Google čelí sílícímu tlaku, aby rychleji zasahovaly proti dezinformacím. Evropská komise například chce, aby byly schopné odstraňovat obsah související s terorismem do hodiny po oznámení. To ale znamená větší nápor na lidi, kteří problematická videa a fotky cenzurují. Jejich utajenou práci na Filipínách odhaluje nový dokumentární film Čističi, uvedený na festivalu Jeden svět.
Žijí na Filipínách, je jim kolem dvaceti, sedí u počítače a na základě několikadenního tréninku rozhodují o tom, jestli smí video nebo fotka ze Sýrie, Česka, Spojených států nebo třeba Chile zůstat přístupné pro uživatele sociálních sítí.
Cenzurují záběry zachycujících sexuální násilí, vraždy ale třeba i neškodné karikatury nebo umělecké akty.
Někteří z nich berou tuto práci jako oběť a nelehké poslání, ale najdou se i tací, kteří ji neunesou. Německý režisér Moritz Riesewieck těmto lidem ve svém filmu říká Čističi.
„Jejich prací je nás všechny chránit před strašlivými záběry, které zachycují stínání hlav, teroristickou propagandu, zneužívání dětí nebo různé druhy sexuálního násilí, ale také podle daných pokynů odstraňují kontroverzní politický obsah. Mají jen několik vteřin na to, aby rozhodli, jestli jde o příliš nelidský nebo třeba pornografický či umělecký obsah,“ popisuje v rozhovoru pro Radiožurnál Riesewieck.
„Editorům v konvenčních médiích taková rozhodnutí trvají hodiny, někdy i dny. Čistič hodnotí snímky nahlášené uživateli, ale také obsah, který vybírají algoritmy. Programy neumí vyhodnotit kontext nebo poznat ironii a rozeznat ji od propagandy, ale dokážou třeba vyfiltrovat snímky, na kterých je krev a ty pak musejí posoudit lidé.“
Kolik takových čističů pro firmy jako jsou Facebook, Google nebo Twitter pracuje?
Těžko říct, ale podle odhadů analytiků jich je zhruba deset tisíc. Jde o skryté odvětví. Nepracují přímo pro největší tři firmy, které provozují sociální média, ale pro externí společnosti najaté Facebookem, Twiterem a YouTube. A většina z nich sídlí na Filipínách.
Aktualizujte systém. Festival Jeden svět prozkoumá dezinformace a ultranacionalismus
Číst článek
Proč právě na Filipínách?
Na jednu stranu je to kvůli tomu, že tam je levná pracovní síla. Platí jim zhruba dva nebo tři dolary za hodinu. Ale v porovnání třeba s Pákistánem nebo s Indií je tu také další důvod. Tamní firmy zdůrazňují v reklamách, že Filipíny byly dlouhou kolonizovány Španělskem a posléze Spojenými státy. Filipínci tak prý dobře rozumí západním hodnotám a normám a proto lépe chápou náš kontinent než třeba lidé z Indie nebo Pákistánu.
Přijde mi to docela šílené, že stovky let kolonizace se využívá jako argument pro outsourcování naší špinavé práce do těchto zemí. Absurdní na tom je, že na Filipíny se po desítky let vyváželi ze západu odpadky. Teď dostávají i náš digitální odpad, který působí tamním lidem nový typ příkoří.
Film zachycuje obtíže, které prožívají. Mohl byste některé popsat?
Některým to naprosto změnilo představu o povaze lidí. Narazili jsme na případy, kdy lidé kvůli této práci už nemůžou chodit mezi lidi, protože se obávají násilí. Další mají deprese nebo například ztratili zájem o sex. Když v práci sledujete osm nebo 10 hodin denně videa zachycující sexuální zneužívání, tak to změní váš přístup k sexu.
Všichni museli najít svou cestu, jak se s touhle prací vypořádat. Jsou tací, kterým se to daří lépe. Mnozí to vnímají skrze křesťanství jako určitou oběť a poslání a věří, že na sebe berou hříchy světa. Ale některé také tahle práce dohnala až k sebevraždě.
'Zákon' mlčení
Předpokládám, že jste zmíněné nadnárodní firmy provozující sociální sítě s tímhle problémem oslovili...
Ani jedna nám neodpověděla. V Silicon Valley platí v souvislosti s tímhle tématem „zákon“ mlčení. Firmy provozující sociální média nechtějí, aby uživatelé víc přemítali nad tím, jak vypadá zákulisí sociálních sítí. Hrozí, že by si pak mohli uvědomit, že ve skutečnosti jde o značně rozleptané prostředí, které není digitální kopií veřejnosti, nýbrž privatizovanou veřejnou sférou.
Tohle zjištění by mohlo vést hodně lidí k tomu, aby tyto sociální sítě přestali používat. Lidé, se kterými jsme mluvili na Filipínách, dokonce ani nemohli říct, že kontrolují obsah třeba pro Facebook. Museli používat kódová označení.
Potřebujeme veřejnoprávní facebook, pryč od trhu, efektů a emocí, říká průzkumník fake news
Číst článek
Ale ta situace se začíná pozvolna měnit. Skupina lidí kolem bývalého zaměstnance Google Tristana Harrise například otevřeně mluví o tom, že jsme vytvořili něco jako Frankensteinovo monstrum, které dokáže ohrozit demokracii, rozdělovat společnost, sloužit k označování lidí za teroristy na základě požadavků vznesených vládami některých zemí jako například v Turecku nebo k šíření nenávisti proti menšinám, jako to vidíme v Barmě.
Máte vy sám nějaké návrhy jak stávající situaci změnit?
Můžeme udělat nějaké jednoduché kroky, jak alespoň zlepšit situaci kontrolorů. Zaprvé jim zajistit péči nezávislých psychologů a také jim zvýšit plat. Zároveň je třeba tuto práci rozdělit mezi větší počet lidí. Ale to jsou všechno jednoduchá a částečná řešení.
V dlouhodobém horizontu potřebujeme zpochybnit stávající fungování a business model platforem jako je Facebook, Twitter nebo YouTube. Všechny totiž stojí na upoutávání pozornosti na co nejextrémnější obsah, protože ten může být nejlépe využit pro účely reklamy. Získává nejvíce příspěvků i lajků a je nejsdílenější. Pokud nezpochybníme celou architekturu stávajících sociální sítí, tak se v tomto ohledu nic podstatného nezmění.
