Ohrožení sextingu? Filtrem Chat Controlu by nemusel projít, legálnost by posuzovala policie

Praha 2. září 2025 Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít

V Česku se téměř ze dne na den rozpoutala velká debata o pojmu chat control. Řekneme si, co to přesně znamená, ale proč se to řeší právě teď?
Je to docela zajímavé, protože jde o legislativní návrh nebo záměr v Evropské unii, o kterém víme cirka od roku 2021, takže řadu let. Dlouhodobě se mu věnuje teď už bývalý německý pirátský europoslanec Patrick Breyer, který zveřejňuje materiály z vyjednávání, které se tohoto legislativního záměru týkají. V současné době máme k dispozici informace, že 14. října by Rada Evropské unie pravděpodobně měla hlasovat o kompromisním návrhu, který se týká chat control a jenž přineslo dánské předsednictví. Zároveň se rozběhla online kampaň, která se jmenuje Fight the chat control. Nevíme přesně, kdo ji organizuje a dělá, nicméně kampaň vyzývá veřejnost, ať kontaktují své europoslance a kritizují tento legislativní záměr. V České republice toto téma zvedla nejdříve opozice, následovaly i vládní strany, což není úplně překvapivé, protože je těsně před volbami a nikdo si nebude chtít pálit prsty nějakým problematickým legislativním návrhem z Evropské unie, která tu není úplně oblíbená. Není tedy překvapivé, že se teď všichni politici proti tomu vymezili.

Může být někomu po chuti, aby se rozdmýchaly emoce, aby se o tom teď začalo mluvit?
Tuto věc čeká legislativní hlasování, takže je logické, že to vyvolává zájem veřejnosti, ač snaha o schválení chat control běží už řadu let. Není to něco nového, co by vzniklo minulý týden.

Přezdívá se tomu plošné šmírování, respektive tak to aspoň nazývají kritici. Ostře se do návrhu pustil například technologický novinář Petr Koubský z Deníku N. Co má chat control být? 
Jde o dlouhodobou snahu bezpečnostních složek, v Evropě jsou reprezentované hlavně Europolem nebo Interpolem, získat přístup k obsahu šifrované komunikace. Bavíme se zejména o různých šifrovaných messengerech, mezi nejznámější patří WhatsApp a Signal. 

Komunikační aplikace, které používáme na denní bázi. 
Přesně tak. Zrovna tyto dvě konkrétní aplikace jsou specifické tím, že používají takzvané koncové šifrování, což ještě není úplně obvyklé. To znamená, že k obsahu komunikace například mezi námi dvěma se nemůže dostat nikdo jiný, dokonce ani provozovatel dané služby. Zprávy tedy můžeme číst jen my dva. Ve chvíli, kdy se použije tato technologie, bezpečnostní složky přijdou o nástroj, na který byly dříve zvyklé při sledování komunikace, jako je běžný odposlech nebo odposlech SMS zpráv. Zastánci legislativní úpravy uvádějí jako hlavní důvod materiály, které zachycují sexuální zneužívání dětí.

Myslím, že na to naráží i bývalá eurokomisařka pro vnitřní záležitosti Ylva Johanssonová.
Jde o velmi závažnou kriminalitu, proto se to často spojuje s chat control a CSAM.

CSAM je zkratka?
Od výrazu Child Sexual Abuse Material, což jsou materiály zachycující sexuální násilí na dětech. Toto se často uvádí jako jediný důvod pro chat control. Není to ale úplně pravda. CSAM je extrémně závažná kriminalita, ale hlavní zájem bezpečnostních složek a důvod, proč se chtějí do komunikace dostat, je boj s terorismem a další trestnou činností. Zneužívání dětí se staví na první místo hlavně proto, aby bezpečnostní složky získaly pro návrh podporu veřejnosti. Jde totiž o hnusnou kriminalitu, kterou nikdo soudný nebude hájit. Oproti tomu terorismus už má v sobě politický náboj. Pokud bychom o tom pochybovali, tak se můžeme podívat na aktuální debatu o Palestině a Izraeli. Ve chvíli, kdy se začne argumentovat terorismem, to může vyvolávat obavy, co si pod tím slovem jednotlivé evropské státy budou představovat. Některé evropské vlády mají, řekněme, autoritářské tendence, takže jde o to, co se budou snažit zachytit a postihovat. Můžeme se bavit o tom, že některé evropské státy řadí do oblasti poblíž terorismu například i silnější klimatický aktivismus. To už vyvolává emoce a není to tak jednoznačné. V případě zneužívání dětí to jednoznačné je, to odmítají všichni.

Má se to týkat jenom komunikátorů, jako jsou WhatsApp, Messenger nebo Signal?
Je to primárně zaměřené na tyto, řekněme, chatovací aplikace, proto název chat control. Podstatná část komunikace, jako jsou e-maily nebo cloudová úložiště, kam dnes nahráváme fotografie nebo dokumenty, koncové šifrování ani neobsahuje a ke kontrole tam v nějaké míře dochází, ale velmi často je to pouze na dobrovolné bázi. Můžeme očekávat, že pokud by skenování obsahu bylo povinné, tak firmy, které danou služby provozují, tím budou tlačeny do toho být daleko striktnější. Jak budu vysvětlovat později, vedlo by to zejména k tomu, že bude stoupat počet falešně nahlášených údajných porušení zákona, která se neukážou jako nezákonná. Bude nastupovat efekt better safe than sorry, to znamená, že to radši předáme státu ke kontrole, než abychom riskovali, že pak budeme popotahovaní za to, že jsme přehlédli něco, co jsme najít měli, a nezkontrolovali to. 

Jak by to mělo ve skutečnosti fungovat? To bude někde sedět parta sledovačů, slídičů, kteří budou kontrolovat komunikaci na základě nějakých informací od algoritmů, nebo to bude čistě počítačová záležitost?
Že by to kontrolovali lidé, samozřejmě není realistické. Toho nebyla schopná ani východoněmecká Stasi. 

Protože toho bude kvantum... 
Ano, proto se hledá technologické řešení. Návrhů byla v minulosti celá řada, žádný z nich neuspěl, nyní se dánské předsednictví snaží tyto návrhy nějakým způsobem mixovat. Evropský soud pro lidská práva, bylo to v případě Potaksov proti Rusku, v mezičase totiž řekl, že plošné prolamování šifrování a sledování komunikace je v rozporu s evropským právem, a proto se hledají jiné cesty, jak by se to dalo udělat. Ta, řekněme, nyní proponovaná je, že by ke kontrole docházelo, ještě než se zpráva zašifruje a odešle, tedy ještě na tvém mobilním telefonu, než klikneš, nebo ve chvíli, kdy klikneš odeslat, se zpráva nejdřív zkontroluje. V případě, že ji systém vyhodnotí jako problematickou, tak ji nahlásí orgánům, a pokud ji nevyhodnotí jako problematickou, tak ji odešle.

V tu chvíli ale musíš mít sledováček na svém zařízení.
Přesně tak. Domyšleno do důsledku to je výrazný zásah do soukromí. Zakotvuje to povinnost mít sledovací zařízení v mobilním telefonu i proti vůli uživatele, což v důsledku znamená v podstatě zákaz upravovat si programy, které člověk pouští na svém mobilním telefonu. Člověk by tak ztratil možnost ovlivnit, jaký operační systém si do telefonu dá a jaké programy na něm spustí. Koneckonců, když jsem se bavil například o šifrované aplikaci Signal, tak ta je open source, což znamená, že si ji můžu stáhnout, a pokud umím programovat, tak si sám můžu udělat svůj Honzův Signal. 

Sáhneš do kódu...
Nějak to upravím, například změním barvičky, trochu to přejmenuju a můžu provozovat podobnou aplikaci. To už by nebylo možné, respektive pokud by aplikace nesplňovala povinnou povinnost kontrolovat zprávy, tak by nemohla být vpuštěna do obchodů s aplikacemi a nemohla by dost dobře fungovat. To by v důsledku vedlo k tomu, že bychom jako uživatelé byli do značné míry závislí na dvou největších firmách, které vyvíjejí mobilní operační systémy, což jsou Google a Apple. 

Kontrola by samozřejmě měla probíhat algoritmicky, přičemž známé jsou v zásadě dva modely. Buď se hledají již existující fotografie, které zachycují zneužívání. Na to má specializovanou databázi americká organizace NCMEC, která má výjimku, že vůbec může tento typ materiálu shromažďovat, protože držet dětskou pornografii není legálně možné za jakýmkoliv účelem, prostě to není možné. Může s ní nakládat jenom tato organizace. Mluví se o tom, že i na evropské úrovni by měl vzniknout nějaký její ekvivalent. Následně by tam mělo fungovat nějaké strojové učení, které by odhalovalo podezřelé materiály. V případech automatických kontrol, ať už na známé případy dětské pornografie, i v případech, kdy se algoritmus bude snažit hledat nové materiály, ale dochází k určitému množství chyb. V prvním případě je to méně, v případě druhém je to výrazně více, ale v obou případech je tam určitá chybovost. A tady se dostáváme asi k největšímu problému legislativního návrhu.

To jsou falešná obvinění, že?
Evropané si pošlou denně, řekněme, větší miliony zpráv. Těch závadných ve smyslu, že tam bude obsažená dětská pornografie, bude maličké množství. Když zkontroluju takové obří množství zpráv, dejme tomu milion, a budu mít model, který bude velmi dobrý v kontrole a bude mít chybovost pouze 1 %, tak mi to přesto vygeneruje nějakých deset tisíc falešných obvinění. 1 % je extrémně malá chybovost a záměrně přeháním. Reálně víme, že tyto modely mají chybovost spíš v desítkách procent.

Co může být ta chyba? Například když maminka řeší se svým pediatrem, že její dítě má opruzeninu na zadečku, pošle mu fotografii s tím, aby jí poradil? Vybírám lakonický příklad, který se ale stát může v dnešní době, kdy se komunikace odehrává po síti.
To není jenom příklad. Známe jeden konkrétní, ke kterému došlo ve Spojených státech, kdy Google zablokoval uživatele a kompletně mu smazal všechny jeho služby na Google právě proto, že poslal fotografii nějakého zdravotního problému svého dítěte. Automatické systémy ji vyhodnotily jako dětskou pornografii. Byla do toho přizvaná i policie, která řekla, že nejde o žádnou trestnou činnost, nicméně uživatel přišel o všechna svá data, Google se s ním dále odmítl bavit. To je jedna z věcí, které se mohou stát. Další je, že pokud nasadíme algoritmus, který se bude snažit hledat nahé nebo sexuálně explicitní fotografie mladých osob, tak logicky bude nejvíc chybovat v oblasti, kde věk bude na hraně.

Jak může algoritmus zjistit, kolik danému člověku je?
Není možnost, jak legitimně zjistit, jestli mladý člověk na fotografii je sedmnáctiletý nebo osmnáctiletý a kolik mu do toho věku zbývá. To znamená, že všechny takové materiály budou logicky padat k nějaké lidské kontrole. Sexting je v České republice a ve světě úplně běžný, lidé si posílají nějaké amatérské erotické materiály. Ty budou zejména u mladších lidí extrémně náchylné k tomu, že spustí filtr, a následně bude docházet k lidské kontrole. Nevíme ale, jak by lidská kontrola měla probíhat. Bavíme se o evropském návrhu, ale reálně vymáhání zákona v kriminální rovině je na úrovni jednotlivých národních států, které to dělají. Naše policie by se tedy musela takovým materiálům věnovat. Ve chvíli, kdyby byla pochybnost o tom, jestli je daný člověk na erotickém záběru zletilý, tak to znamená ztotožnit ho, abychom mohli spolehlivě zjistit jeho věk a vyhodnotit, zda jde opravdu o trestnou činnost, anebo něco, co je naprosto legální, v pořádku a dělá to velké množství lidí.

Otázka je, jestli by potom nemělo v úpravě také být, abychom odevzdávali informace o svém věku veřejně a potom ulehčili práci algoritmům. Neříkám, že to tak chci, jen se ptám, jestli to není jedna z cest.
Je téměř jisté, že takové úvahy se vedou. V současné době je tu ještě jiný legislativní návrh, který je o dost dál a má už připravené nějaké, řekněme, technologické kolejničky, aby mohl fungovat a zajistit spolehlivé ověřování věku, to znamená verifikaci identity uživatelů internetu v Evropské unii. Zatím je to myšlené primárně na regulaci přístupu k pornografickým stránkám, e-shopům s alkoholem a tabákem, zkrátka k těmto službám omezeným pro zletilé osoby. Logicky se nabízí, že v tu chvíli by se tyto informace začaly kombinovat pro ověřování věku.

Nicméně i ve chvíli, kdy jde o nějaký sexting někoho, kdo je ověřen, a víme, že je plnoletý, tak stejně nevíme, kdo na dané fotografii je, jestli je to opravdu uživatel. Nemluvě o tom, že když se bavíme s kolegyní Janou Magdoňovou o sextingu v pořadu Antivirus, kde radíme, jak se bezpečně chovat na internetu, tak říkáme, že pokud už se do něčeho takového pouštíte, tak tam neukazujte svůj obličej. Pokud fotky potom uniknou, je menší šance, že vás někdo identifikuje. Pokud se tedy někdo bude pouštět do sextingu tohoto typu, tak to stejně může vést k tomu, že bude potřeba ho ztotožnit a zeptat se, jestli je na fotografii on. Což bude velké množství falešně pozitivních hlášení s velmi nepříjemným dopadem, zásahem do soukromí, a je tedy otázka, jak by se všechny tyto věci měly řešit. Legislativní návrh je v současné době neřeší a nevysvětluje.

Riziko zneužití

V případě, kdyby něco takového prošlo a bylo to upřesněno tak, aby to řešilo otázky, o kterých mluvíš, jak velké je riziko, že by to bylo zneužito, někdo se do toho naboural a data využil k vlastnímu prospěchu?
Je to evropský návrh, ale nastavení hranic si budou nastavovat jednotlivé národní státy, protože ty mají nějak nastavené své trestní právo a nějakým způsobem ho vymáhají. Musíme se začít zamýšlet nad tím, jestli s klidným svědomím svěříme nástroj, který je tak silný a umožní silný zásah do soukromí, všem evropským národním státům. Můžeme se bavit o Maďarsku, jehož vláda má tendenci k autoritářství, o Polsku, které prokazatelně zneužívalo komerční spyware, kybernetickou zbraň proti aktivistům, novinářům, svým kritikům. Zdá se, že to samé dělala i Itálie. Takto můžeme pokračovat každou zemí sedmadvacítky, každá má své lidsko-právní problémy. Koneckonců i v Česku máme v živé paměti, jak milenka premiéra nechala jeho manželku sledovat armádní zpravodajskou službou.

Tomu rozumím, spíš se ptám na třetí strany, kdy hacker na objednávku zneužije data a využije je například k vydírání konkrétního člověka.
Ve chvíli, kdy vložíme do systému šifrované komunikace zranitelnost, tak tím otevíráme dveře k jejímu zneužití. Konkrétně u scanování fotek víme z experimentů, jež dělala firma Apple v minulosti, že je poměrně snadné ošálit algoritmy nejen způsobem, že přehlédnou závadný materiál, ale že i vyhodnotí jako závadný obrázek koťátka, který je jenom speciálně digitálně upraven tak, aby spustil filtr. A pokud to povede k tomu, že se komunikace rozšifruje a uloží, tak se někde budou shromažďovat, řekněme si to na rovinu, něčí domácí pornografické materiály k vyhodnocení a existuje riziko, že je někdo vynese, zneužije, že to napadne nějaký hacker a data ukradne. 

Rozumíš ale tomu, že policejní složky se snaží dostat na moderní technologickou stopu pachatelů, že záměr je bohulibý, ale naráží na nějaké mantinely?
Dovedu si představit základní argumentaci, proč bezpečnostní složky cílí tímto směrem, zejména v oblasti terorismu, protože teroristé potřebují nějak komunikovat, radikalizovat se, domlouvat se. Šifrovaná komunikace v tom může znamenat význačný problém, ale byl bych opatrný prezentovat to jako univerzální řešení. Hrozí přetížení, to znamená spousta falešně pozitivních hlášení, velké zásahy do soukromí. Veřejnost se něčemu takovému sama o sobě nebude chtít podřídit. Vidíme v Česku, jak silný odpor to vyvolalo. Lidé budou hledat cesty, jak to obejít, a najdou je. Můžeme sázet na to, že v oblasti mobilních telefonů, kde je trh velmi zúžený, regulovaný a jsme odkázáni na dvě technologické firmy, šrouby půjdou ještě utáhnout. V případě osobních počítačů už to zdaleka tak snadné není. Pokud si někdo bude chtít najít cestu, jak komunikovat, aniž by tam byla nějaká forma dohledu, tak ji najde. Ti první, kteří ji najdou a budou ji bezpečně umět využít, budou právě kriminálníci, teroristé, někdo, kdo bude chtít sdílet nelegální materiály, kdo se bude chtít organizovat a podobně. Navíc to může vést k tomu, že velké technologické firmy, které dnes dělají messengery, v případě WhatsAppu Meta, v případě Signalu Signal Foundation, opustí evropský trh, jak už varovaly.

Pohrozily, že se tomu nepřizpůsobí.
Ano. Ve chvíli, kdy tyto aplikace, a bavím se zejména o Signalu, který je lídr a udává trend v tom, jak by měla vypadat dobře zabezpečená komunikace, zmizí z trhu, se lidé budou obracet k jiným nástrojům, méně důvěryhodným, méně kvalitně udělaným a spolehlivě zabezpečeným, což ohrozí obecně bezpečnost, důvěrnost komunikace celé společnosti. Opravdu bych nepředpokládal, že v tu chvíli budou pachatelé závažných trestných činů ti, kdo tam budou zůstávat. Budou hledat jiné cesty a najdou je.

Český postoj

Rada Evropské unie bude o chat control hlasovat v polovině října, jak jsi říkal. Mluvil jsi i o tom, že o chat control se mluví už aspoň od roku 2021. Jak se k tomu Česko staví?
Česko mělo dost dlouho neutrální stanovisko, řadu let. Proto je teď zajímavé, že z ničeho nic pod veřejným tlakem najednou přepnulo do postoje proti, alespoň pokud beru jako rozhodující vyjádření premiéra Petra Fialy.

Fiala je z ODS a kandiduje za tuto stranu v letošních sněmovních volbách.
Česko tedy svoji pozici změnilo. Dlouhodobě se o Česku v zákulisí mluvilo jako o zemi, která je naopak připravená návrh velmi ochotně podpořit. O to zajímavější je ta změna. 

Koneckonců v minulosti, když se téma chat control řešilo na půdě europarlamentu, tak Piráti hlasovali proti, stejného názoru byli jednotlivci z KSČM a SPD. Všichni ostatní zástupci koalice byli pro. Zmínil bych zejména europoslance Tomáše Zdechovského z KDU-ČSL. 

Doteď má na stranickém webu článek, kde plným srdcem podporuje tento návrh a vysvětluje, proč je ochrana dětí naprosto zásadní a proč bychom měli přijmout nějakou formu kontroly komunikace. Proto myslím, že to, co vidíme teď, je spíš efekt blížících se voleb, kdy nikdo nemá důvod pálit si prsty neoblíbeným evropským návrhem. Pokud se podíváme na končící vládu, tak ta rozhodně nemá s plošným sledováním problém. Na serveru iROZHLAS jsme v minulosti psali o tom, jak se ministerstvo vnitra snažilo v tajnosti zavést sledování toho, na jaké stránky lidé chodí. Až když jsme to zveřejnili, tak ministerstvo ustoupilo. Ve Sněmovně stále leží návrh systému e-turista, který by měl sledovat, kdo s kým tráví čas na hotelích po dobu šesti let zpětně.

To jsme společně řešili i ve Vinohradské 12. 
Když teď Evropská komise představila cestu, jak plošně ověřovat totožnost lidí, což je taky poměrně velký zásah do soukromí, tak s tím Česko také evidentně nemá zásadní problém. Neslyšeli jsme žádné hlasy proti. Teď se česká vláda vyslovila proti, nicméně chat control se vrací už řadu let. Lobbují za něj jak bezpečnostní složky, tak i komerční společnosti, jež se snaží prodávat nástroje, které by měly provádět ověřování obsahu. Hlasování 14. října nějak proběhne...

Jak proběhne? Petr Fiala totiž už mluvil o tom, že by chtěl hledat v rámci Evropské unie blokační menšinu. Jak jsou teď názory rozložené?
Může se teoreticky stát, že se to 14. října podaří zablokovat, ale to není konec chat control. Pouze to oddálí další snahu, než se vrátí na scénu nějaký další návrh, který bude možná jinak technicky formulovaný, ale myšlenku prolamování šifrované komunikace to ze světa nesprovodí. To je debata, která se vede, řekněme, od 80. let doteď. Vede se ve všech státech, nejenom v Evropské unii, ale i v Británii, Spojených státech. Návrhy tohoto typu se budou neustále vracet bez ohledu na to, jak teď dopadne jedno hlasování.

V podcastu byly kromě zvuků z Českého rozhlasu využity tyto zdroje: ČT 24, CNN Prima News, YouTube kanál EU Home Affairs