Na boji proti dezinformacím spolupracuje s NATO, zjištění jeho týmu získala takový ohlas, že od vlád Velké Británie a USA dostal na boj s fake news grant 250 tisíc dolarů. Datovému analytikovi Františku Vrábelovi se podařilo vyvrátit tvrzení, že ruská propaganda neexistuje. Zásadní pro její šíření je podle něj Facebook, který rozděluje a radikalizuje společnost. Z veřejně známých osobností je u nás podle Vrábela klíčový prezident Miloš Zeman.

Praha 0:01 13. března 2019 Tento článek je více než rok starý Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít

Vrábelův tým grant, jenž v přepočtu činí bezmála 5,7 milionu korun, získal minulý týden na konferenci The Tech Challenge v Bristolu, zaměřené na boj proti dezinformacím. Zvítězil díky prezentaci systému varování proti ruské propagandě a fake news. Server iROZHLAS.cz s analytikem hovořil den před odletem do Velké Británie.    

Vaše firma sleduje 90 procent celosvětového zpravodajského obsahu. Kolik zpráv denně to je a jak to funguje?
Denně je to něco přes milion článků z více než 600 tisíc zdrojů. Pracujeme v deseti největších jazycích světa. Co se týče zdrojů, jsme třikrát až desetkrát větší než Google News.

Sprostá lež, žvásty, horší než Sputnik, reaguje hradní mluvčí Ovčáček na rozhovor o dezinformacích

Číst článek

Vyvinuli jste tedy systém, který to obrovské množství článků analyzuje na základě klíčových slov?
Ta technologie je daleko složitější. Je to sofistikovaný informační systém, který vyhledává nové zdroje informací na internetu. Dlužno poznamenat, že my se soustředíme na články, ne na posty na sociálních sítích. Zdroje článků jsou zpravodajské portály, ale také blogy, to je velmi cenný zdroj informací.

Proč?
Často se zaměřují na nějaké odvětví, znalostní doménu, region a rozšiřují záběr zpravodajských portálů, které mají tendenci jít po povrchu. Blogy jdou hlouběji do témat. Pak také sledujeme weby akademických institucí, think-tanků, vládních organizací.

Jak nové zdroje vyhledáváte?
To dělá neustále náš systém, pozná i ty zaniklé. Zdroj automaticky po nějakou dobu sleduje, a když usoudí, že je pro nás zajímavý, začneme ho stahovat. Pravidelně se vracíme, a jakmile si k sobě článek stáhneme, snažíme se pochopit, o čem je. Na to jsou klíčová slova krátká. Náš systém se snaží pracovat jako lidský mozek: s jazykem, jeho morfologií, významem a kontextem. Té disciplíně se obecně říká sémantická analýza, v tom jsme skvělí. Když pracujeme s takovým množstvím dat, klasická sémantická analýza je málo, protože kvůli množství dat je v nich spousta šumu, který musíme odsunout a z těch velkých dat vytáhnout signál. Jestli se o nějaké firmě dostatečně píše, nebo jestli je zmínka o ní jen náhoda. To děláme v další fázi, které říkáme sémantika velkých dat. V ní jsme průkopníky. Myslím, že to nikdo neumí tak dobře jako my.

K čemu pak výsledky vaší práce slouží?
Nás živí detekce rizik pro firmy v reálném čase. Naše služba je pro velké nadnárodní společnosti, a protože žádná z nich nesídlí u nás, nemáme žádného českého zákazníka. Ty firmy mají desítky až statisíce dodavatelů a tam už lidský přístup nestačí, není v možnostech lidského mozku udělat si reprezentaci sta tisíc firem. Tam nastupujeme my, tam je naše přidaná hodnota.

Výraz odpovědnosti

Proč jste se zaměřili na oblast fake news a dezinformací?
Byl to výraz naší společenské odpovědnosti, záběr našeho systému je „vše pokrývající“, on „ví“ o všem, co se ve světě děje, a jde pouze o to z něj ty informace dostat. Nás tahle práce neživí, ale já mám background v oblasti obranné bezpečnosti, proto mě to zajímá. Občas jsem se do našeho systému díval, protože jsem byl zvědavý, co v této oblasti uvidím.

A co jste spatřil?
Zajímalo mě, co se tam dělo poté, co Rusové anektovali Krym. Viděl jsem graf, který ukázal, že se snažili změnit pozitivní sentiment svého obyvatelstva vůči Ukrajině už dva roky před anexí. To byl důkaz, že akci dlouhodobě plánovali.

Jak taková snaha o změnu sentimentu v praxi vypadala?
Začalo vycházet stále více negativních článků o Ukrajině v ruštině. Byl vidět velmi výrazný rozdíl mezi referováním o Ukrajině v Rusku a ve zbytku světa.

Změnilo se informování v době anexe a po ní?
Měnilo se různě, třeba tak, že jak se začalo mluvit o novém Rusku, Novorossiji, Rusové drželi tuto linku dlouho po anexi Krymu, v globálním tisku to ustalo. Pak třeba dění v okupovaných oblastech Ukrajiny stále v ruských médiích rezonuje, zatímco z pohledu světa je to věc uzavřená. To Rusové velmi dobře vědí. Rozvazuje jim to ruce v tom ohledu, že si tam mohou dělat, co chtějí. Když jsem viděl tento výstup, řekl jsem si, že bychom mohli přispět do mezinárodní diskuse. To se psal rok 2016 a spousta lidí nevěřila, že něco jako ruská propaganda a dezinformace existuje. My jsme udělali několik studií na toto téma a řekli jsme si, že zkusíme dokázat, že ruská nepřátelská a dezinformační kampaň existuje.

Úspěšná studie

Jak jste to dokázali?
Udělali jsme velkou studii, která alespoň v technologickém světě získala ohlas, publikoval ji odborný časopis MIT Technology Review jako důkaz ruské nepřátelské propagandy a dezinformací. Srovnali jsme sestřelení letu MH–17 (let společnosti Malaysia Airlines nad východní Ukrajinou v červenci 2014 zasáhla raketa Buk, vyšetřovací komise došla k závěru, že za útokem stojí Rusko, pozn. red.) s teroristickým útokem na ruský Metrojet (let ruské letecké společnosti Metrojet se v roce 2015 po startu z mezinárodního letiště v Šarm aš-Šajchu zřítil kvůli výbuchu bomby na Sinaji, pozn. red.). Obě události byly tragické, týkaly se letectví, byly nečekané. My jsme ale viděli úplně jiný obrázek, jak ruská média o těchto dvou věcech referovala.

Jak se tedy reportování lišilo?
V případě Metrojetu, kde vybuchla bomba na palubě a všichni zemřeli, byla v referování ruských médií a zbytku světa shoda v proporci a patternu referování. Patternem myslím, že když se k případu objeví nová informace, třeba že v útoku měl prsty zaměstnanec letiště, všichni o tom začnou psát a v tom časovém průběhu jsou takové výstřely. Mezi ruskými médii a zbytkem světa byla v tomto případě shoda. U MH-17 se ukázal naprosto jiný obrázek.

V čem?
Rusové informování o tragédii úplně maximálně tlumili, takže ruského obsahu bylo třeba dvacetkrát méně než celosvětového. A shoda v patternu tam nebyla vůbec.

Znamená to zároveň důkaz, že ruská média nepracují svobodně, nechovají se přirozeně?
Podle mého názoru je to jasný důkaz. Míra toho sevření médií v Rusku je až zarážející. Když vezmete v potaz, že jsme nevyhodnocovali jen nějaká mainstreamová média – deset, dvacet. My jsme analyzovali více než 24 tisíc ruských médií. A nenašli jsme žádný odlišný hlas.  

Všímáte si nyní, stejně jako dříve v případě Ukrajiny, že se informování Ruska o nějaké zemi mění?
Před dvěma lety jsem byl pozván na konferenci do Litvy a všechny jsem tam uklidnil, že u Pobaltí změny nejsou. Oni to kvitovali s povděkem.

‚Dezinformace narůstají‘

Co se tedy mění, pokud něco?
Vidíme nárůst dezinformačního a propagandistického obsahu směrem k Česku a zemím jako Německo, Francie, Anglie, Spojené státy.

Jak jsou změny velké?
Nejsou to obrovské nárůsty, ale trend je jednoznačný.

Když sledujete kolem milionu zpráv denně, kolik z nich tvoří dezinformace?
Ono jich není až tak mnoho, třeba v Česku denně analyzujeme obsah více než čtyř tisíc webů, z toho dvě třetiny dezinformací jsou publikovány asi na 22 webech. Je to velmi koncentrováno, obsah z dezinformačních webů se na celkovém obsahu v Česku podílí sedmi procenty.

Nová zbraň informační války. ‚Deep fakes mohou napáchat obrovské škody,‘ varuje odbornice

Číst článek

Jak to, že u nás mají dezinformace takový zásah, znásobují ho sociální sítě?
Ano, dezinformační obsah nafukují sociální sítě, nejsmutnější roli hraje Facebook. Naši nepřátelé, kteří se snaží z Ruska nabourat naše demokratické zřízení, to dobře vědí a Facebook ve velkém využívají.

Umíte ale v případě dezinformačních serverů jako AC24, Sputnik, Aeronet prokázat jejich napojení na Rusko?
Lze to prokázat nepřímo, přímé důkazy mají možná zpravodajské služby, ne my. Nepřímé důkazy spočívají v tom, že tyto weby zastávají stejné pozice a narativy jako Rusko, je tam časová shoda. Když se přihodí něco v neprospěch Ruska, jako třeba vyšetřovací zpráva k otravě Litviněnka (bývalý důstojník ruských tajných služeb Alexandr Litviněnko, pozn. red.), kdy Britové ukázali na Rusy, a dokonce na Vladimira Putina, dezinformační severy vůbec tento aspekt nezmiňovaly. Přitom z novinářského hlediska je to velmi vděčné. To je příklad nepřímého důkazu ukazující napojení na ruskou propagandistickou mašinérii.

Čili z Ruska k nám podle vás vede cesta dezinformací na několik serverů, a odtamtud potom na sociální sítě. Co se děje dál? Šíří dezinformace lidé dobrovolně, nebo je to organizováno?
Je to mix. Je několik desítek lidí placených ruskou stranou.

V Česku probíhá informační válka, jsme testovací laboratoří Ruska, přiznává brigádní generál Řehka

Číst článek

Rusové i užiteční idioti

To víte, nebo si to jen myslíte?
O tom se v bezpečnostní komunitě tak nějak ví. Část jsou Rusové, část Češi. Další část jsou takzvaní užiteční idioti, těch je několik desítek a v rozšiřování těch zpráv hrají stěžejní roli. Potom je několik stovek lidí, kteří to ochotně dál přebírají a distribuují mezi svoje kruhy. Tito lidé často vůbec netuší, co dělají, zatímco ta první vrstva to samozřejmě ví.

Jaké mají dobrovolní rozšiřovatelé motivace?
Jsou to nespokojení lidé, lidé frustrovaní životem nebo nemají co dělat. Důležitou roli v tom hrají důchodci, kteří v tom vidí nějaké svoje uplatnění a ta činnost se jim líbí.

Můžete vyčíslit, jak moc sociální sítě dezinformační obsah těch 22 webů násobí?
Pohybuje se to v desítkách procent, takže ho výrazně nafukují. Má se za to, že se hardcore dezinformační obsah, například, že se na východně Ukrajině křižovaly děti, dostane ke čtvrtině populace, tedy ke dvěma a půl až třem milionům lidí.

Facebook podle odborníků rozděluje společnost, jak?
On potřebuje společnost rozdrobit na co nejmenší kousky, aby vznikly co nejmenší homogenní skupiny lidí. Čím víc se mu to daří, tím lépe je osvětluje cílenou reklamou a za ní inkasuje více peněz. A nebavíme se o desítkách procent, ale o řádově vyšších příjmech. Toto mu ale nestačí, on potřebuje, aby uživatel na reklamu klikl, takže svoje uživatele omotává v malých skupinách.

‚Facebook zneužívá neurovědy‘

To dělá jak?
Vytváří takzvané Echo Chambers, lidi uzavírá do co nejmenších skupin za pomoci zneužití poznatků neurověd. Chce, aby vznikla závislost na používání Facebooku. Na tom je postaven systém „lajků“, lidé dostávají odměnu s každou návštěvou. Mozek nerozlišuje mezi malou a velkou odměnou, takže je snazší jít si na Facebook pro „lajk“ než třeba vystudovat vysokou školu, když to přeženu. Odměna pro mozek je ale stejná. Normálně byste dostal třeba jednu odměnu denně, ale na Facebooku jich dostanete desítky, někdo stovky, tisíce. Mozek je z toho úplně vedle.

Rozumím tomu správně, že proti sociální síti Facebook nejsme imunní?
Většina ne, to ukazuje jeho úspěch, kolik lidí do sebe nasál. Využívá i toho, že lidé ocení spíše chválu než kritiku, dodává jim „vyhovující“ zprávy. Pokud bychom my dva zastávali rozdílné politické názory, dodával by vám úplně jiné zprávy, svět by vám vykresloval jinak než mě. To má dalekosáhlé důsledky: přestáváme si rozumět. Navzájem si o sobě myslíme, že jsme úplně mimo. Já přece vidím, co se píše, vůbec vás nechápu. Proto roste rozdělení společnosti, ale také se názory radikalizují. Tím ale dostávají větší prostor, protože jsou algoritmy Facebooku více tlačeny.

Co s tím?
Podle mého hlubokého názoru je potřeba proti tomu bojovat regulací, zajistit, aby tyto algoritmy vytvořené pro prodej zboží nebylo možné využívat k politickému boji.

Podle vás tedy za vysoké zisky firmy Facebook platíme rozdělenou společností a dezinformačními útoky?
Jednoznačně rozdělenou společností, dezinformace jsou jen side effect (vedlejší efekt), colateral damage (vedlejší škody). To nebyl primární záměr Facebooku. Myslím si, že Mark Zuckerberg, který firmu řídí, si musí být vědom, co jeho systém se společností dělá.

‚Facebook obchoduje s identitami‘

Facebook je soukromá firma, přece ho nemůžeme k regulacím nutit.
O tom se hodně diskutuje, jsem rád, že čím dál více veřejně. Já si myslím, že regulovat se musí a nic na to nemění, že je soukromý, právě naopak. Společnost se už regulací proti negativním aspektům podnikání brání, reguluje třeba banky, aby nepodváděly. Reguluje hospodářskou soutěž a z tohoto antimonopolního pohledu by se proti Facebooku mělo postupovat, protože v jisté oblasti, jistém typu služeb má téměř monopol. V jiném druhu podnikání by to bylo absolutně nepřijatelné. Facebook primárně nevydělává na sociální síti, peníze mu přináší produkt, příjem má z prodeje identit lidí. Jeho produktem jsou extrémně přesné identity lidí, často přesnější, než co o sobě sami ti lidé vědí. O tomto směru regulace se dosud téměř nediskutovalo.

Proč ne? O tom, jak tato sociální síť funguje, přece víme dlouho.
Je to dáno obrovskou mediální a lobbistickou silou Facebooku, který se snaží, aby se neukázalo, co vlastně dělá. Jakmile by se lidé dozvěděli, že obchoduje s jejich identitami, mohlo by to pro něj znamenat konec. Nebo by neměl hodnotu 400 miliard dolarů, ale třeba jen setinu.

Víte ale, jaký proti vašemu návrhu na regulaci zazní argument? Omezování svobody, cenzura, normalizace.
V žádném případě nejde o cenzuru obsahu. Cesta cenzurování obsahu je samozřejmě špatná, do demokratické společnosti nepatří. Facebook se snaží o to, aby vznikl dojem, že stahuje nenávistné posty. To ale není ta správná cesta. Já nevolám po regulaci obsahu, ale o nastavení algoritmů tak, aby nevytvářel miliardy informačních bublin, ale třeba maximálně jejich setinu. Dál už bych ho nepustil. Nebo bych mu zakázal využívání algoritmů destruktivních pro společnost, třeba vytvářejících závislost. Závislých kuřáků je třeba třetina, mladá generace je na Facebooku závislá skoro ze 100 procent. To společnost ničí.

Jsme krůček od vytvoření simulované demokracie, prohráváme dezinformační válku s Ruskem, varuje expertka

Číst článek

Další úskalí Facebooku, které si společnost neuvědomuje, souvisí s takzvanou attention economy (ekonomie pozornosti). Každý máme určité množství pozornosti, kterou můžeme věnovat. Čím je člověk chytřejší, tím více ho má. Ti méně schopní mají pozornosti méně. Facebook svými algoritmy na pozornost uživatelů útočí a snaží se ji ukrást, přivlastnit si ji co nejvíc. U lidí, kteří mu plně propadnou a nejsou tak mentálně schopní, a těch je většina, Facebook úplně ovládne jejich mysl. Oni nedělají nic jiného než sledování Facebooku, který netvoří žádné hodnoty. V tom je největší nebezpečí Facebooku a jeho případných nástupců. Tomu se společnost musí bránit. A znovu opakuji: nemá to nic společného s obsahem.        

Odborníci říkají, že největší nárůst dezinformací se u nás objevil při loňské volbě prezidenta. Potvrzují to vaše pozorování?
Souhlasím, z pohledu Ruska to byla nejdůležitější událost u nás.

Výsledek byl těsný, rozhodly podle vás o výsledku volby dezinformace?
O tom nepochybuji, měly na to veliký vliv a dezinformační kampaně rozhodly o vítězi.

Platí, že dezinformace útočily především na Jiřího Drahoše?
V podstatě šly pouze proti němu. Při ovlivňování veřejného mínění ale hrají roli nejen dezinformace, váhu má i to, nakolik se o kandidátovi mluví. Odrazí se to v povědomí veřejnosti o něm. Nikoho asi nepřekvapí, že o prezidentu Zemanovi se před volbou mluvilo více než o jeho protikandidátech. Ale ten nepoměr v jeho prospěch byl naprosto propastný. Zeman a jeho okolí to samozřejmě vědí, proto se mimo jiné hrála hra s vládou a média ho byla plná. (Miloš Zeman po parlamentních volbách v roce 2017 čelil kritice kvůli možnému ohýbání Ústavy, když pronesl, že nechá kabinet Andreje Babiše vládnout bez důvěry, pozn. red.)

‚Zeman měl největší prostor‘

To ale přece patří ke schopnostem dobrého politika. 
Ale když šla volba do finále, mezi prvním a druhým kolem, nebyl důvod, aby měl Zeman větší podíl na zpravodajském koláči. V Americe by to nebylo přípustné. Oba kandidáti tam dostávají v médiích stejný prostor, v Česku byla situace výrazně jiná. V online médiích to bylo výrazně vychýleno ve prospěch Zemana, rozdíl byl deset procent v jeho prospěch. U televizí byl rozdíl daleko větší. Na periferii, nejen zeměpisné, ale i znalostní, mají největší vliv právě ony. Hlavní roli tam hraje TV Nova, tam jsme viděli dramatický rozdíl: dvě třetiny prostoru pro Zemana, jen zbytek se týkal Drahoše. Nebyla to ale jen doména soukromých televizí, nepřípustný nepoměr byl i u České televize.

Nelze to ale skutečně přičíst umění Miloše Zemana strhnout na sebe pozornost?
Ano, ale na druhou stranu by bylo dobře, aby média o ostatních kandidátech jakýchkoliv voleb dávala všem co nejrovnější příležitost. Novináři by měli vědět, že čím více o někom informují, tím více mu pomáhají. Naše velká data to jednoznačně ukazují. Podívejte se na Donalda Trumpa, velká média v USA nedělají nic jiného, než že se do něj trefují. Když se o někom tolik mluví, dostává se to do lidského podvědomí, a to neumí myslet v záporu. Je podstatné procento nerozhodnutých voličů, jímž z podvědomí vyplave nejsilnější jméno, a tomu to prostě hodí. Vzhledem k malým rozdílům to rozhoduje. I negativní reklama je reklama.

Přece ale nemůžete chtít, aby novináři o někom nepsali jen proto, že mu tím mohou pomoct.
Měli by ale vědět, jaké má jejich počínání efekty. Když chce dnes někdo vyhrát volby, musí se v médiích sakra snažit. Nějaká kontaktní kampaň má podle mě mizivý efekt. O politicích se musí mluvit, musí se vědět o jejich názorech, ne že si je nechají až na kampaň.

Think-tank Evropské hodnoty označil Miloše Zemana za trojského koně Ruska. Odpovídá to vašim pozorováním?
My to sledujeme z pohledu takzvaných narativů, hlavních směrů ruské propagandy a dezinformačních kampaní, třeba že na Ukrajině jsou fašisté nebo že Krym byl odjakživa ruský. A tyto narativy jsou prezidentem plně přejímány. Někdo tak může říct, že je trojským koněm Kremlu, někdo to může formulovat diplomatičtěji, že přejímá ruskou propagandu.

Je Zeman pro dezinformační scénu u nás důležitý?
Podle mě je naprosto klíčový. Češi na vládce Hradu pohlíží s respektem, takže když zastává názory v rozporu se zájmy Česka, má to nepochybně velký dopad. Část Zemanovy aktivity samozřejmě nevychází z jeho úst, ale od lidí z jeho okolí: mluvčího a kancléře.

Je podle vás jejich činnost nějak koordinovaná?
Já si to myslím.

Jak si to mám představit? Někdo Miloše Zemana instruuje, co a jak má vypouštět?
Když chcete někoho ovlivnit, můžete to dělat různě. Buď mu to nařizujete, což podle mě není případ pana prezidenta. Můžete ho instruovat, doporučovat, to vzhledem k jeho egocentrismu a narcistní povaze také není pravděpodobná varianta. Spíše platí, že když si někdo jako on myslí, že je nejchytřejší na světě, manipuluje se s ním nejsnáze. Prostě se mu říká, co chce sám slyšet, a navádí se nějakým směrem. A on to vzhledem ke své povaze nevidí.

Sedí podle vás na Hradě nějaký ruský emisar, který to dělá?
Já tam s nimi nesedím a netroufám si to odhadovat. Je ale jisté, že prezidentovo okolí má na něj velký vliv a pan Nejedlý (neoficiální poradce Martin Nejedlý, pozn. red.) byl v Rusku několik let a odmítá říct, co tam dělal. Také víme, kdo je prezidentovým poradcem z Číny, z korupce obviněný šéf čínské CEFC (Zemanův poradce, šéf společnosti CEFC China Energy Jie Ťien-ming figuruje v rozsáhlém korupčním procesu, pozn. red.). Tato společnost stála za obrovskými korupčními skandály ve světě. Normálně by nebylo možné, aby se někdo takový kolem prezidenta pohyboval.

Disident Západu

S jakým sentimentem, jak vy říkáte, v Rusku prezentují našeho prezidenta?
Jako disidenta Západu, silného člověka, který se nebojí říkat pravdu, jak je politika Západu vůči Rusku špatná. V ruské propagandě směrem k vlastním obyvatelům hraje zásadní roli. V tamních médiích dostává větší prostor než řada důležitějších státníků.

Kdo další u nás je podle vašich zjištění ještě pro dezinformační scénu důležitý?
Tady se dostáváme trochu na tenký led, ale pochopení pro ruskou a čínskou politiku mají zástupci KSČM. Nepřímou funkci v rozdělování společnosti hraje SPD, ale té bych přisuzoval spíše roli užitečného idiota než roli aktivních hráčů.

Vy se v poslední době v oblasti fake news hodně angažujete, nebojíte se tlaků na vás a vaši společnost?
Já jsem podstatnou část života prožil v komunismu a řekl bych, že to bylo horší.

Ondřej Golis Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít