Politické strany objevují před eurovolbami umělou inteligenci. Pomáhá s videi, fotkami, texty i daty

Vytvoř fotku, na které lidé hází obálku do volební urny. Před pěti lety by takový pokyn dostali třeba fotografové nebo grafici. Dnes ho zvládnout splnit i online programy, které využívají takzvanou generativní umělou inteligenci. Ta by tak mohla promluvit i do toho, jak bude vypadat kampaň před letošními volbami do Evropského parlamentu. Jak se k využívání umělé inteligence staví čeští politici?

Praha Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Zavřít

umělá inteligence

Jak by mohla umělá inteligence zasáhnout do nadcházejících evropských voleb? | Zdroj: Pixabay | Licence Pixabay,©

Politické strany v Česku si většinou postupně na využití umělé inteligence (AI) zvykají. Koalice Spolu zmínila, že jim usnadňuje třeba titulkování videí a analýzu dat. Umělá inteligence už teď pomáhá i Pirátům.

Přehrát

00:00 / 00:00

Poslechněte si příspěvek Jany Karasové o umělé inteligenci a rozhovor s IT expertem Josefem Holým

„Používáme ji i třeba na generování některých obrázků, na úpravu fotek a videí. A myslím, že dokonce bez umělé inteligence to dneska efektivně už ani nejde pořádně dělat,“ nastiňuje pro Radiožurnál jejich europoslanec a lídr kandidátky do nadcházejících eurovoleb Marcel Kolaja.

Využití obrázků vytvořených s pomocí takzvané generativní AI v kampani do eurovoleb nevylučuje ani hnutí STAN. Zároveň ujišťuje, že takové příspěvky označuje, aby bylo lidem jasné, jak vznikly. Naopak opoziční hnutí ANO i SPD odpověděly, že umělou inteligenci v kampani využívat neplánují.

„Vystačíme s naší vlastní inteligencí. Určitě se řídíme platnými právními předpisy. Tam, kde jako strana zadáváme nebo objednáváme reklamu, tak to tam i podle zákona uvádíme,“ podotýká lídr evropské kandidátky SPD a Trikolory Petr Mach.

Podobně hnutí ANO říká, že se zaměřuje spíš na kontaktní kampaně mezi lidmi, AI nástroje by jim ale mohly pomoct třeba při úpravách textů.

Podle IT experta a spoluautora podcastu Kanárci v síti Josefa Holého strany už delší dobu umělou inteligenci využívají k analýze dat o náladách obyvatel a skupinách voličů. A její závěry následně ovlivňují politickou strategii stran.

Mediální analytik Josef Šlerka, který vede Studia nových médií na Filozofické fakultě UK, zároveň upozorňuje na to, že AI využívá i algoritmy, které cílí reklamu na sociálních sítích. Reálně tak podle něj už teď umělá inteligence do kampaní vstupuje.

Nekalé praktiky

Umělá inteligence ale zároveň může být použitá i k nekalým účelům. Například při parlamentních volbách na Slovensku se objevila falešná zvuková nahrávka, která zněla jako hlas jednoho z kandidátů.

27:48

Chatování s AI je jen zlomek. Obrovských změn ve společnosti se dočkáme do 10 let, předpovídá Koubský

Číst článek

Oslovené strany a hnutí v Česku ale většinou slíbily, že proti svým politickým soupeřům taková videa nebo audia používat nebudou. Podle europoslance a kandidáta hnutí ANO Ondřeje Knotka je to neetické.

„Do politiky to nepatří. A asi nikdo nechce, aby se to dělo jemu. Tam závazek dát můžeme, byť to nemáme nikde ustanoveno. Považujeme to za etické hodnotové minimum,“ uvádí pro Radiožurnál Knotek.

Mluvčí ODS Jakub Skyva za koalici Spolu říká, že kampaň před evropskými volbami povedou férově: „Pokud využijeme nějakých nástrojů umělé inteligence, tak vždycky způsobem, aby to pro voliče nebylo jakkoli matoucí nebo zavádějící.“ 

Pro Piráty a hnutí STAN je používání takzvaných deep fakes nepřijatelné. A hnutí SPD uvedlo, že vzhledem k tomu, že v kampani nebudou používat žádné příspěvky vytvořené umělou inteligencí, nebudou to ani falešná videa nebo audia. Pokud by se nějaké upravené video objevilo, chtějí na něj strany většinou reagovat a uvádět věci na pravou míru.

Odborník na umělou inteligenci Holý ale upozorňuje, že falešná videa nebo audia můžou vytvořit i lidé z širší skupiny podporovatelů některých stran nebo z PR agentur. Pak jde podle něj těžko dohledat přímé napojení. Je dobře, že to politici dělat nechtějí, ale špatně se to bude kontrolovat,“ odhaduje Holý.

Dezinformace na míru

Eurokomisařka pro spravedlnost, spotřebitele a rovnost žen a mužů Věra Jourová (ANO) říká, že před eurovolbami má obavy hlavně z kombinace dezinformací s produkty umělé inteligence. Záměrně proto navštěvuje evropské metropole, aby o boji proti dezinformacím mluvila s místními úřady.

Jourová očekává tlak ze strany ruské propagandy. „Zejména na to, aby voliči volili tak, aby ustala podpora Ukrajině. Druhá věc, kterou očekáváme všude, že se dopředu bude zpochybňovat, že volby budou svobodné a legální,“ předpokládá Jourová. „A pak bude na každou zemi určitý typ dezinformací ušitých na míru obavám lidí.“

Regulace umělé inteligence přiškrtí jen menší hráče. Na státy a velké firmy nedosáhne, říká odbornice

Číst článek

Loni Jourová mimo jiné vyjednávala i unijní akt o umělé inteligenci. Podle toho by měla být právě třeba videa nebo fotky vytvořené umělou inteligencí jasně označené. V prosinci se po 37 hodinách jednání na pravidlech nakonec shodli v takzvaném trialogu zástupci Evropské komise, členských států a Evropského parlamentu.

Regulaci pak v polovině března finálně schválili současní europoslanci. Dohodnutá pravidla se ale nebudou na letošní eurovolby vztahovat. Jourová proto vyzývá politiky, aby takzvané deep fakes nepoužívali. Zároveň se snaží domluvit s technologickými firmami, aby taková videa už teď dobrovolně označovaly.

„Já po nich chci, ať jsou velmi ve střehu minimálně měsíc před každými volbami v Evropě tak, aby to minimálně byly schopny označit. Nebo kdyby falešný obrázek či video měly mít devastační účinky, aby to odstranily,“ popisuje Jourová.

Pod dohledem ministerstva

Co se v online prostoru v souvislosti s eurovolbami objevuje, sleduje i české ministerstvo vnitra. Má na starosti, aby volby v Česku byly důvěryhodné. Dopředu chce lidem vysvětlovat, jak můžou volit. Případné dezinformace o volbách má ministerstvo v plánu vyvracet. 

„Pokud by se v kampani objevily deep fake videa, audia, obrázky, bude ministerstvo reagovat obdobně jako u jakýchkoliv jiných informačních produktů. Tedy rychlým vysvětlováním, vyvracením pomocí faktů, uváděním na pravou míru s odkazy na relevantní zdroje informací,“ vysvětluje mluvčí ministerstva Ondřej Krátoška.

Pokud by šlo třeba o šíření poplašné zprávy, schvalování trestné činnosti nebo nebezpečné vyhrožování, tak to může řešit i policie a další orgány činné v trestním řízení.

Podle mediálního analytika Josefa Šlerky by bylo vhodné v politických kampaních použití videí nebo fotek vytvořených AI zakázat. Minimálně by to vedlo k tomu, že by nevzrůstal vizuální chaos,“ podotýká Šlerka.

Sněmovní strany a hnutí a také subjekty, které se v průzkumech dlouhodobě pohybují kolem tříprocentní hranice, odpovídaly na pět otázek. Jejich odpovědi v plném znění najdete po kliknutí na červenou šipku níže.

  1. Plánujete v kampani používat nějaké produkty generované umělou inteligencí? Pokud ano, jaké a k čemu?
  2. Máte nějaká pravidla, kodex pro vedení kampaně? Obsahují nějaká ustanovení týkající se využití umělé inteligence?
  3. Eurokomisařka Věra Jourová říká, že komunikuje i s jednotlivými politickými stranami, aby nepoužívaly tzv. deep fakes proti svým protivníkům. Jste jako strana ochotni se zavázat/prohlásit, že během kampaně do eurovoleb nebudete používat deep fakes proti dalším kandidátům a stranám?
  4. Připravujete se na to, jak reagovat v případě, že se objeví nějaké deep fake video, audio nebo fotka související s Vašimi kandidáty?
  5. Zaznamenali jste už v souvislosti s eurovolbami a kandidaturou Vaší strany nějaké deep fake video, audio nebo fotku? Čeho se týkala? Jak jste situaci vyřešili?
ano
ANO
Odpovídal europoslanec a kandidát ANO Ondřej Knotek

1. Je to jednoduché. My skutečně neplánujeme používat jakékoli produkty, které by vygenerovala umělé inteligence, takže neplánujeme to. Pro nějaké vnitřní účely, třeba úpravy textů, to si umím představit. Ale s cílem, abychom využili umělou inteligenci k tomu, aby nám třeba udělat portrét nebo nedej bože vytvořila nějaký fake news. To absolutně.

2. Žádná pravidla pro kampaň, která by zahrnovala AI nemáme. Tato věc přišla relativně nedávno. Ale my jsme ani takto kampaně nevedli. My jsme spíš vedli ty kontaktní. Snažíme se s lidmi komunikovat. AI nepoužíváme a nikde to nemáme označeno. Ale zároveň máme kodex hnutí a ten samozřejmě počítá s důstojným chováním as s tím, že nebudeme nikoho poškozovat. Takže určitě bychom tento nástroj nepoužívali na to, abychom, abychom vytvářeli něco, co není pravda.

3. Ano. Samozřejmě. To prostě do politiky nepatří. Asi nikdo nechce, aby se to dělo jemu. Takže je to neetické. Závazek dát můžeme. Byť to, nemáme nikde stanoveno, tak to považujeme za etické hodnotové minimum.

4. Jediné, co můžeme dělat, jediný způsob, je to dát na sociální sítě a označit, že to není pravda. Nahlásit u provozovatelům sítí, na kterých se to ukáže. Asi není možné reagovat, pokud by se toto šířilo třeba řetězovými e-maily. To jste samozřejmě vždycky na kratší straně toho provazu. Jediný, co můžeme dělat, je zkrátka komunikovat s platformami a našim fanouškům na sociálních sítích a říct, že to není pravda. V tuto chvíli se projednává akt o umělé inteligenci na evropské úrovni. Ten počítá s tím, že jakýkoli audiovizuální výtvor měl mít označení, aby uživatel prostě jednoduše věděl, že tento obrázek vygenerovala umělá inteligence. Až tu bude za pár let fungovat, tak by to mělo být jednoduché. Kdyby tam bylo takové video, tak automaticky by u toho byl nějaký symbol, který by jasně mohl uživatel varovat, že to je riziko, že to nemusí být realita, protože to vytvořila umělá inteligence.

5. Přímo u voleb ne. Zrovna nedávno jsme zaznamenali video pana předsedy Babiše. Já, když jsem ho viděl, tak mi po pěti vteřinách bylo jasné, že obsah slov absolutně neodpovídá našemu programu. Takže jsem to identifikoval. Pak jsem se soustředil na artikulaci. Když, ten kdo to viděl, se soustředil, tak mohl asi poznat, že tam něco nesedí.

spolu
SPOLU
Za koalici odpovědělo tiskové oddělení ODS

1. Umělou inteligenci zatím používáme jen omezeně. Nástroj nám slouží například k rychlému titulkování videí nebo analýzu dat. Nástroje AI považujeme za moderní a rádi bychom je do budoucna rozumně rozšířili i do dalších agend.

2. Ve vedení kampaně vycházíme z osvědčených zásad z nedávných kampaní. Také aktuální kampaň povedeme férově, a pokud využijeme nějakých nástrojů AI, tak vždycky způsobem, aby pro voliče nebyla jakkoliv matoucí nebo zavádějící.

3. Ano, jednání probíhají. Kampaň povedeme férově, a pokud využijeme nějakých nástrojů AI, tak vždycky způsobem, aby pro voliče nebyla jakkoliv matoucí nebo zavádějící.

4. Pokud se ve veřejném i on-line světě objeví dezinformace, uvádíme věci na pravou míru. Podobně bychom postupovali i tomto případě. Máme definovaný postup v kontaktu tiskových mluvčích jednotlivých stran koalice SPOLU, jež ve spolupráci s experty nových médií záležitost postoupí k dalšímu řešení.

5. Prozatím jsme se zneužití AI nebo deep fakes proti kandidátům koalice SPOLU nezaznamenali.

pirati
PIRÁTI
Odpovídal europoslanec a lídr kandidátky do EP Pirátů Marcel Kolaja

1. Umělou inteligenci používáme už dnes. Koneckonců, když vyfotíte fotku mobilním telefonem, tak u toho používáte umělou inteligenci. Používáme ji i třeba na generování některých obrázků, na úpravu fotek, na úpravu videí. A myslím si, že dokonce bez umělé inteligence to dneska efektivně už ani nejde pořádně dělat.

2. Kodex pro vedení kampaně máme. Máme tam například zakázáno používat obličeje dětí. Nicméně žádné konkrétní ustanovení přímo o umělé inteligenci tam nemáme.

3. My zásadně nepoužíváme šíření jakýchkoliv hoaxů, manipulativních informací, manipulativních technik. A i použití deep fake pro takové účely je pro nás naprosto nepřijatelné.

4. Manipulativní deep fake je obrovský problém v politice. Jsem rád, že se nám podařilo prosadit do legislativy povinnost označovat deep fake. Nicméně bohužel tato povinnost nebude platit ještě pro tyto evropské volby. To je nástroj, kteří by mohli použít všichni. To znamená, že nám v rukou zůstávají jenom nástroje, které můžeme použít už dnes, jako je uvádět věci na pravou míru a samozřejmě se zaměřit na to, jestli to video třeba neobsahuje nějaké nelegální prvky a řešit to právní cestou.

5. Já jsem viděl i deepfake video, které bylo vytvořeno na mě. Byla vyměněna zvuková stopa. Vložilo mi to do úst úplně jiná slova, než jsem říkal. Bylo to spíš takové vtipné, takže já jsem se tomu i zasmál. Navíc to bylo označeno jako deepfake, takže tam žádný zásadní problém nevidím. Na druhou stranu je skutečně potřeba si uvědomit, že deepfake videa budou čím dál tím častější. Někteří političtí konkurenti se určitě nebudou bát toho je použít skutečně manipulativním způsobem neoznačené. A je potřeba, aby voliči skutečně byli na pozoru a kriticky se zamýšleli nad tím, jestli to, co vidí a slyší, je skutečně reálné, že by to mohla být pravda, nebo je to manipulace.

spd
SPD
Odpovídal lídr eurokandidátky SPD a Trikolory Petr Mach

1. Nic takového neplánuji já ani SPD. Myslím si, že vystačíme s naší vlastní inteligencí. My si tu reklamu tvoříme sami a my vytvoříme naší vlastní inteligencí. Takže nic takového nepoužíváme. Používáme letáky, i na ty dáváme naše fotky, texty, který si sami vymyslíme a označíme to samozřejmě podle platných právních předpisů, že SPD a Trikolora jsou zadavatelem.

2. My se celkově řídíme zdravým selským rozumem. Takže já jezdím na besedy s voliči, chodím do médií, kdykoliv mám pozvání, a dáváme názory i na sociální sítě a nepotřebujeme k tomu nějaký vnitřní naše regulace.

3. My určitě neplánujeme komunikovat v tom s paní komisařkou Jourovou. Mně se zdá, že ona v tomto překračuje své pravomoci. My se určitě řídíme platnými právními předpisy. Takže tam, kde jako strana zadáváme nebo objednáváme reklamu, tak to tam i podle zákona uvádíme. A to, že to neplánuji používat (deep fakes, pozn. red.) já, ani SPD, to jsem vlastně odpověděl na tu vaši první otázku.

4. My se ničeho takového nebojíme. My jsme zvyklí na různé útoky. Ale že bychom se specificky báli něčeho, co by bylo tvořeno umělou inteligencí, nebojíme.

5. Já jsem nic takového nezaznamenal osobně o sobě v této kampani. Ale faktem je, že jsme zvyklí na to, že nás teď různý oponenti všelijak nálepkují, označují za extremisty a populisty. Takže jsme na různé útoky zvyklí. Ale nic, co by se dal nazvat deep fake, tak zatím jsme se s tím nepotkali.

stan
STAN
Odpovědělo tiskové oddělení

1. Už teď využíváme v komunikaci ilustrační obrázky generované AI, nevylučuji ani využití AI v komunikaci spojené s kampaní.

2. Kampaně, stejně jako celé fungování hnutí, se řídí interním etickým kodexem. Ten sice přímo využívání AI neřeší, v obecné rovině ale postihuje jakoukoliv zavádějící, nečestnou nebo nepravdivou komunikaci. Pokud jde přímo o AI, odbor komunikace pak podle vlastního interního pravidla důsledně označuje veškeré materiály, které vznikly s pomocí AI.

3. Samozřejmě. Jakékoliv využívání deepfake videí, ale i jakýchkoliv jiných zavádějících komunikačních nástrojů je v rozporu s našimi hodnotami.

4. Nedávno jsme řešili pokus o deepfake video cílené na Víta Rakušana, to bylo spíše nekvalitní a snadno rozpoznatelné, ale i přesto na něj kolegové z komunikace reagovali. Jedinou možnou reakcí v těchto případech je rychlé dementování a uvedení věci na pravou míru. A kontinuální edukace.

5. V souvislosti s eurovolbami zatím ne.

socdem
SOCDEM
Odpovědělo tiskové oddělení

1. Nástroje umělé inteligence usnadňují každodenní práci a je třeba je využívat. V Sociální demokracii využíváme AI mimo jiné pro překlady, přepisy textů nebo tvorbu titulků. A jak říká nové úsloví: Nevíte, s čím by vám umělá inteligence mohla pomoci? Zeptejte se jí!

2. Zvláštní pravidla stanovená nemáme. Využíváme AI jako nástroj k ulehčení práce, odpovědnost zůstává na člověku. Pokud je fotografie vytvořená nebo upravená AI, označujeme ji.

3. Během kampaně do evropských voleb nebudeme používat deep fakes proti dalším kandidátům a stranám.

4. Využijeme všechny běžné nástroje pro komunikaci s veřejností a médii a oceníme i vaši spolupráci při informování skutečných cílech a krocích Sociální demokracii a našich kandidátů. Obecně platí, že hlídat pravidla využívání a zneužívání umělé inteligence v politice i komerčním obchodu a službách musí zákonodárci, stát a orgány veřejné kontroly. Naším cílem je veřejnoprávní certifikace nástrojů umělé inteligence. Jednotlivé strany, firmy ani občané nemají kapacitu, která by to bez zapojení veřejných struktur mohla zvládnout. Při přípravě pravidel pro využívání umělé inteligence se inspirujeme mezinárodní debatou. Poslední sjezd Sociální demokracie na to téma schválil samostatnou rezoluci.

5. Prozatím ne.

stacilo
STAČILO!
Odpovědělo tiskové oddělení

1. S vizuálními nástroji využívajícími AI běžně pracujeme například při tvorbě ilustračních obrázků. Využití AI ovšem není zásadní součástí naší strategie.

2. Komunistická strana Čech a Moravy i koalice STAČILO! má poměrně přísná pravidla týkající se komunikace, která byla v letošním roce rozšířena i o pravidla zakazující manipulativní praktiky v komunikaci využívající AI.

3. Komunistická strana Čech a Moravy ani koalice STAČILO! nebude používat deep fakes proti žádnému politickému subjektu. Není to ani nutné, protože strany vládní koalice i některé „opoziční“ strany nám svými absurdními politickými chybami, kterými se stále více zesměšňují, dávají dostatek materiálu ke komunikaci. Pokus o komunikaci ze strany paní dosavadní eurokomisařky Jourové jsme nezaznamenali.

4. Šíření lživých informací o koalici STAČILO! či KSČM je běžnou praktikou zástupců vládních, ale i některých „opozičních“ stran. Proto nás nepřekvapí, když politici, kteří nejsou schopni argumentační diskuse, použijí v rámci útoků proti koalici STAČILO! či jejím jednotlivým kandidátům i deep fake.

5. Několikrát jsme řešili falšování výstupů ze sociálních sítí či nepravdivá tvrzení o prohlášeních lídra koalice STAČILO! Kateřiny Konečné. Účinná obrana proti tomu není. Samozřejmě lze u sociálních sítích tyto případy hlásit (např. u FB spol. META). Zároveň lze podniknout některé právní kroky, pokud znáte původce lží. Je to ovšem běh na dlouhou trať, což v minulosti prokázal i případ lživých informací ve volebních novinách SPD.

prisaha
PŘÍSAHA
Odpovědělo tiskové oddělení

1. Používáme umělou inteligenci při tvorbě titulků k videím.

2. Ano, máme pravidlo, že nepoužíváme AI k tomu, abychom osobám dávali do úst slova, která neřekli. Na to si vystačí dle nás sami.

3. S námi paní eurokomisařka Jourová nic takového nekomunikovala. Nicméně ano, prohlašujeme, že nebudeme používat deep fakes.

4. Ano.

5. Zatím ne.

Jana Karasová Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Zavřít

Nejčtenější

Nejnovější články

Aktuální témata

Doporučujeme