V Evropské komisi je druhým nejvýše postaveným Slovákem. Jako generální ředitel vede Vladimír Šucha Společné výzkumné středisko. Jeden z týmů vědců se věnuje také monitoringu dezinformací a využívá k tomu i umělou inteligenci. Jak říká v rozhovoru pro iROZHLAS.cz, „krmí“ ji informacemi od členských států a ona se postupně učí dezinformace rozpoznávat. Technologii je podle něj středisko připraveno poskytnout kterékoliv členské zemi.

Brusel 6:10 6. srpna 2019 Tento článek je více než rok starý Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít

Řídíte evropské vědce, kolik jich pod sebou máte?
V našem centru máme okolo 3000 pracovníků, většina z nich jsou vědci. Hlavní sídlo je v Bruselu, ale nejvíc lidí pak máme v kampusech, které se nachází v Itálii, Nizozemsku, Španělsku, Německu nebo Belgii.

Co je hlavním úkolem střediska?
Naší úlohou je dělat vědeckou činnost, ale i přenášet poznatky do podkladů pro rozhodování Evropské komise a tvorbu evropské legislativy.

Součástí centra je i tým zkoumající dezinformace. Jak velký je a kdy vznikl?
Relativně velký, okolo 60 lidí. Ale ono to nevzniklo tak, že bychom vytvořili tým na dezinformace či na boj proti nim. Je to oddělení, které má na starost text-mining a data-mining. To jsou nové disciplíny, kde se snažíme vyhledávat ze všech otevřených zdrojů datové nebo textové údaje a ty pak zpracovávat podle potřeby.

Novinářka popsala, jak funguje ruská továrna na fake news. ‚Smrtí mi pak vyhrožovali i přátelé,‘ vzpomíná

Číst článek

Tým má relativně dlouhou, více než dvacetiletou tradici. S nástupem internetu jsme začínali dělat první velmi jednoduché věci, které byly potřebné pro Evropskou komisi, a to byla otázka, jak média informují o různých evropských politikách.

Takže to začínalo jako nástroj vyhledávání údajů podle klíčových slov a postupem času se z toho stal textový vyhledávací nástroj, který patří určitě mezi nejlepší na světě. V podstatě monitorujeme několik stovek tisíc elektronických zdrojů – tedy webových stránek – 24 hodin, sedm dní v týdnu.

To má využití například v medicíně, v mapování přírodních katastrof a samozřejmě v posledních letech se díváme i na dezinformace a na dezinformační narativy.

Umělá inteligence

Dezinformace jsou většinou vnímány jako politický problém, zatímco váš úřad dělá vědeckou práci. Setkáváte se s kritikou, že dezinformace nelze zkoumat neutrálně vědecky?
Dezinformace zdaleka nejsou pouze politické téma. Je to důležité téma, které se může týkat každodenního života lidí. Když vás někdo mylně informuje o vakcínách nebo škodlivosti některých produktů či léčebných metod, může se to týkat i vás. A dokonce vás to může zabít.

Takže využití je velmi široké a čím dál víc vidíme, že dezinformace jsou součástí takového většího obrázku, který nazýváme souhrnně hybridní hrozby. To znamená, že jsou někteří státní a někteří nestátní aktéři, kteří se snaží destabilizovat jednotlivé země. Tady pak už mluvíme o bezpečnostních rizicích a bezpečnosti občanů a států.

Je to samozřejmě velmi vědecký a technologický problém, protože s rozvojem technologií získali všichni ti podvodníci neuvěřitelné možnosti, jak svoje bludy šířit. Samozřejmě, že předtím byli podvodníci také zastoupeni ve společnosti, jen neměli takové možnosti. Dnes je to díky sociálním médiím levné, respektive úplně zadarmo.

Pracuje váš program monitorující dezinformace i s umělou inteligencí?
Je to ve stadiu vývoje. Nepoužíváme umělou inteligenci rutinně, ale vidíme, že při tom obrovském množství informací je potřeba naučit umělou inteligenci, aby nám mohla v budoucnu pomáhat.

Jaký je poměr mezi lidskou prací a použitím umělé inteligence?
My sami nevyhodnocujeme, zda je informace pravdivá, nebo ne. Tyto informace získáváme z různých zdrojů. V členských zemích existují verifikační týmy tzv. fact-checkerů vytvořené buď vládním, nebo nevládním sektorem. Ti sbírají nepravdivé, polopravdivé nebo i pravdivé informace zasazené do nepravdivého kontextu.

Dokázal, že Rusko na nás útočí dezinformacemi. ‚Klíčovou roli hrají Zeman a Facebook,‘ říká analytik

Číst článek

V rámci evropských institucí pak spolupracujeme s naším servisem pro zahraničí vztahy, kde je specializované oddělení (tzv. East Stratcom, pozn. red.), jež má na starosti sledování škodlivé propagandy. Zaměřují se hlavně na Rusko, odkud se šíří velké množství propagandy a nepravdivých informací o EU.

Takže oni informace sbírají, my jim je pomáháme vyhledávat pomocí našich technologických zařízení a zpětně potom učíme umělou inteligenci, že něco bylo identifikováno jako nepravdivá informace. Ona se to naučí a s dalším krokem se kvalita výstupů zlepšuje.

Takže to, čím umělou inteligenci „krmíte“, jsou informace, které vám poskytují členské státy?
Ano, informaci nám poskytnou členské státy s tím, že ji již ověřily a není pravdivá. Umělá inteligence se postupně učí, aby mohla takovéto informace a narativy sama rozpoznávat.

Lidský faktor, který to posoudí, tam musí být vždy, protože zdroje nejsou v dané chvíli na takovéto úrovni, aby uměly rozlišit v nuanci lži, polopravdy nebo zavádějící narativy. Jsou tu odborníci, kteří v té oblasti pracují a fakta ověřují.

Co tedy už umí umělá inteligence rozpoznávat?
Jedna z takových lží je, že Majdan na Ukrajině byl iniciován a řízen NATO. To je samozřejmě lež, která je relativně stará, ale používá se neustále a v různých cyklech. Umělá inteligence už to ví a umí rozpoznat a my už nemusíme nijak zasahovat.

Nová zbraň informační války. ‚Deep fakes mohou napáchat obrovské škody,‘ varuje odbornice

Číst článek

Vidíme velmi hezky na denní, hodinové, minutové bázi, jak se postupně mění, a kdy začíná období dalšího kola této propagandy. Samozřejmě takovýchto narativů je velmi hodně a postupně se je snažíme sbírat a tu umělou inteligenci je naučit, aby tyto informace mohla vyhodnocovat automaticky.

‚Jsme k dispozici všem'

Spolupracujete v rámci členských zemí spíš s vládními institucemi nebo občanskou společností?
To závisí od toho, v jaké zemi. Někde jsou to novinářská sdružení, která vytváří takovéto skupiny kontrolující pravdivost informací - například ve Franci. V Lotyšsku je to státní instituce a v evropských institucích je to East Stratcom, oddělení strategické komunikace s Východem, kde sledují hlavně rozšiřování ruské propagandy (přečtěte si rozhovor s jeho bývalým pracovníkem).

Teď jsme přesně v tom stadiu, kdy se snažíme vyhledávat jednotlivé skupiny v členských zemích, se kterými bychom mohli spolupracovat. Např. jsme se dohodli na spolupráci se slovenským ministerstvem zahraničí. Naše snaha je mít co nejvíc zdrojů, abychom se mohli co nejdřív dostat na tu automatickou úroveň vyhodnocování.

Spolupráce se slovenským ministerstvem zahraničí vznikla z vaší nebo slovenské iniciativy?
Bylo to vzájemné. Když jsme mluvili o dezinformacích, došli jsme k tomu, že máme k dispozici tuto technologii, takže teď jsme v procesu instalování aplikace pro potřeby slovenského ministerstva zahraničí.

V Česku probíhá informační válka, jsme testovací laboratoří Ruska, přiznává brigádní generál Řehka

Číst článek

Naše technologie je samozřejmě k dispozici všem členským zemím a jsme ochotni a schopni ji poskytnut jakékoliv instituci.

Registrujete nějakou takovou žádost z české strany?
Zatím ne.

Jak vypadá spolupráce s Českou republikou?
Máme velmi dobrou spolupráci s univerzitami a českou Akademií věd, je dokonce naplánovaná cesta předsedkyně Akademie věd k nám. V oblasti dezinformací ale zatím nemáme žádnou spolupráci s Českou republikou, je to oblast, kde teprve postupně začínáme naši sít rozšiřovat.

‚Rusofobní média'

Jak náročné bylo pro váš dezinformační tým období kolem evropských voleb?
Samozřejmě velmi náročné. Úzce jsme spolupracovali s komunikačním odborem v Evropské komisi, ale i Evropským parlamentem. Nebylo to jen spojené s dezinformacemi, ale šlo i o monitorování celkové nálady a témat, do jaké míry v jednotlivých zemích a jazycích různá témata rezonují. 

Zavádějících informací a narativů bylo relativně hodně, ale to je stále ještě ve stadiu vyhodnocování, dobíhají analytické práce. Ale samozřejmě dezinformační prostor a kampaň je neuvěřitelně velká. Teď začíná spolupráce se sociálními sítěmi a jen v té předvolební kampani například Facebook zrušil víc než 600 falešných účtů, které už ale stihly vygenerovat kolem 700 milionů zhlédnutí.

Itálie, Česko, Německo. Kremelské dezinformace už podle experta zasáhly 16 voleb v Evropě. Zde je seznam

Číst článek

To jsou věci, které mají obrovský dopad na nálady a názory lidí a musíme to brát velmi seriózně. Nejde to vypustit, zanedbat. Jsou to věci, které můžou destabilizovat a nahlodávat demokratický systém.

Jaké dezinformace se během voleb objevovaly nejvíc?
Nejdůležitější informace byla o tom, že (francouzský) prezident Emmanuel Macron chce vyloučit některé členské země z Evropské unie. To byla jedna z těch top. Potom, že mainstreamová média šíří rusofobii, že se unie snaží ožebračit Polsko a že Polsko je chudší, než bylo během komunismu.

Dále pak, že Evropská unie má nacistické kořeny a vychází z nacistické propagandy. Objevovalo se také, že evropské politiky jsou diktovány Spojenými státy. Tohle je top 5 informací, které byly identifikovány nejenom v evropských volbách, ale i v ostatních volbách v roce 2019.

Identifikujete i zdroj těchto dezinformací?
Samozřejmě se k nim snažíme dostat. Máte nějaké zdroje a pak šiřitele, kteří to dál šíří a multiplikují obsah. Naším cílem je dostat se ke kořenům a vidět, jak ty vzorce fungují. Vědět, jaký je zdroj a jednotliví rozšiřovatelé.

Máte už nějaké závěry?
Je velmi těžké a předčasné dělat závěry, určitě to nebude seznam webových stránek nebo zdrojů. To jsou velmi citlivé údaje, které zřejmě publikovat nebudeme.

Barbora Chaloupková Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít