EU Chat Control: průběh schvalování a význam nařízení

Kolem nařízení EU nazývané Chat Control se v poslední době rozproudila větší debata, než na jaké jsme u nařízení EU v Česku zvyklí. Pro lepší přehled a pochopení vám Institut Pi přináší základní přehled toho, proč a kdy a jakým způsobem toto nařízen vznikalo a jaké je jeho technologické pozadí.

Nejdříve si ve stručnosti vysvětleme, o co v případě EU Chat Control jde. Toto nařízení jde po krku šiřitelům dětské pornografie, takže "jestli to není vaše hobby/živnost, nemusíte se teoreticky bát". To je nejčastější politická obhajoba podobných ustanovení: kdo nedělá nic špatného, nemusí se bát. Bohužel v tomto případě musí.

Uživatelům chatovacích aplikací jde totiž stát po stopě způsoby, které znamenají prolomení šifrování na straně aplikací. A to už vadí velmi a zásadně. To znamená, že v budoucnu by takové prolomení mohly využít jak státy ke kontrole svých občanů tak kdokoliv jiný s dostatečným know how, kdo by se potřeboval dostat k soukromé elektronické komunikaci. Takových už je dlouhá fronta. Zjednodušeně řečeno: vestavět backdoor s ušlechtilými pohnutkami znamená, že dříve či později bude využit i s pohnutkami neušlechtilými.

Jak EU Chat Control vznikl

EU v roce 2002 přijala tzv. ePrivacy Directive, která určuje, že privátní komunikace je nedotknutelná s výjimkou zákonného zmocnění (zákonem či rozhodnutím soudu). Bez výslovného souhlasu uživatele nelze odposlouchávat, ukládat či sledovat komunikaci.

Je to skvělý přístup, jenže se časem ukázalo, že řada nelegálních materiálů se šíří právě přes nejrůznější služby pro výměnu zpráv, které bývají zašifrované a policie se do nich nedostane. Často se tedy stane, že policie má svědectví, ale nemá jasné důkazy, které by dostala rozšifrováním komunikace. A po teroristických útocích v USA 11.9.2001 se snahy dostat se k šifrovaným nelegálním informacím ještě prohloubily. Celosvětově - v USA, Číně i EU. Zaměříme se na EU a rovnou si řekněme, že ta se za práva uživatelů drala zhruba nejvíc.

V roce 2015 vznikla pracovní skupina, která měla prostudovat technické řešení s přihlédnutím k ePrivacy. Vznikla celá řada studií ve spolupráci s velkými technickými hráči. Ti se sami o své vůli se již dříve rozhodli začít komunikaci scanovat na nešifrovaných službách. Právní základ zde představovala opora v legitimním zájmu.

Projednávání v Evropském parlamentu

Jenže od 21. prosince 2020 měla začít platit nová směrnice EECC (European Electronic Communications Code), která výslovně rozšiřuje poskytovatele elektronických komunikací a na poskytovatele OTT messengerů, jako je třeba WhatsApp. A ti tedy nově nemohou bez zákonného ustanovení provádět scanování zpráv uživatelů. A tak se vymyslela narychlo výjimka nazvaná EU Chat Control 1.0 (nařízení 2021/1232), která legalizovala tuto praxi od 3.8.2021. Tu protlačila komisařka pro vnitřní věci Ylva Johansson sice v řádném legislativním postupu, ale upřednostněnou před jinými materiály s argumentací, že pandemické omezení COVID-19 mělo podle Europolu, WeProtect i Komise reálný dopad na zvýšení online rizik pro děti.

Podstatné při projednávání bylo to, že probíhalo za vrcholící pandemie COVID-19. Například já jsem byl pozván, abych jako zástupce odborné veřejnosti vyjádřil svůj názor, ale slyšení probíhalo přes videochat a bez většího zájmu kohokoliv včetně médií. Stejně tak debata k projednávaným zákonům byla významně prakticky omezena covidovými restrikcemi. Pandemie COVID-19 byla kontext, který usnadnil Komisi a Radě protlačit Chat Control 1.0 jako dočasnou, ne příliš medializovanou výjimku – jinak by debata pravděpodobně byla ostřejší a delší.

Tady se sluší připomenout, že nejhlasitějším kritikem Chat Control 1.0 a průběhu jejího schvalování byl německý pirátský poslanec Patrick Breyer - a pak také moje česká kolegyně Markéta Gregorová.

V hlasování o výjimce v červenci 2021 byli proti všichni tři čeští pirátští europoslanci, pak Kateřina Konečná za KSČM (ta je proti všemu, co navrhuje EK) a za SPD Hynek Blaško, který si jako bezpečnostní expert dobře uvědomoval rizika tohoto kroku.

Druhý europoslanec za SPD Ivan David byl pro schválení výjimky - a stejně tak všichni europoslanci za STAN, ODS, TOP09, KDU-ČSL, ČSSD a ANO.

Fakt, že pirátští poslanci hlasovali spolu s komunisty (měli jednoho poslance) a SPD byl později některými "koaličními" europoslanci využíván ke srovnávání pirátské politiky s komunistickou, jenže pro Piráty (německé i české) byla ochrana soukromí vždy prvořadou prioritou a nebylo kam uhýbat.

Jistě jste si povšimli, že EECC začala platit koncem roku 2020, ale Chat Control 1.0 platila až od srpna 2021. Vznikla mezera, po kterou se firmy chovaly právně problematicky, ale EU to tiše tolerovala v očekávání schválení, ačkoliv za to byla kritizována řadou institucí.

Výjimka byla původně schválena na tři roky (do srpna 2024), jenže pak se prodloužila do dubna 2026, když bylo zřejmé, že se finální rozhodnutí nestihne přijmout.

V květnu roku 2022 byl předložen návrh Chat Control 2.0 (návrh COM/2022/209 – CSAR). Ten se proti první verzi liší za prvé tím, že scanování by nebylo pro poskytovatele komunikačních služeb dobrovolné, ale povinné. A za další se vynucují mnohem přísnější povinnosti. Například mohou národní úřady firmám nařídit plošnou detekci zpráv a souborů a to i u aplikací s koncovým šifrováním. Detekční příkaz by tedy poskytovateli ukládal nasadit detekční technologie (včetně skenování na straně klienta) na jeho službě v určeném období. To je v rozporu s ochranou E2EE (šifrování po celé trase zpracování zprávy).

Výsledkem Chat Control 2.0 by bylo naprosto bezprecedentní prolomení šifrování na všech úrovních a velmi významný přístup kohokoliv, kdo by věděl jak, k uživatelským datům v mobilech.

Tentokráte už nebyl COVID-19 aktuální a návrh byl rozcupován jako kontroverzní. Orgány pro ochranu dat jako EDPB a EDPS, lidskoprávní instituce a aktivisté (včetně pirátských poslanců) jsou nekompromisně proti tomuto zákonu. V kampaních proti návrhu je zmiňován odpor až 80 % respondentů.

V listopadu 2023 se výbor LIBE (Výbor pro občanské svobody, spravedlnost a vnitřní věci) vyslovuje proti plošné detekci, podporuje maximálně cílenou detekci na základě soudního příkazu a výslovně chrání end-to-end šifrování. Názor stálého výboru Evropského parlamentu je důležitý, protože jeho 70 členů reprezentuje všechny politické skupiny a jeho zpravodaj připravuje zprávu k legislativě, která po projednání v LIBE jde do pléna Evropského parlamentu. Jeho plénum určí vyjednávací pozici vůči Radě a Komisi do takzvaného trialogu. Pokud mají všechny strany v trialogu soulad, bývá pak schválení legislativy rychlé a snadné, jenže nyní je pozice Evropského parlamentu významně jiná, než pozice Rady a Komise. A to předznamenává dlouhá jednání a boj o výslednou podobu. Ačkoliv v Radě byla silná pozice většiny jižních států, awele i třeba Maďarska, proti byl v Radě velmi silně Německo, Rakousko, Nizozemsko, Polsko a třeba Lucembursko. Takže ani Rada není jednotná.

V únoru 2024 Evropský soud pro lidská práva (ESLP) v případu Podchasov v. Rusko potvrdil, že oslabování šifrování může vést k plošnému dohledu a porušení práva na soukromí.

To posiluje skupinu blokujících států. Na červnovém jednání rady bylo pro 16 států, jenže jen s 63 % obyvatelstva (podle zpráv z médií), nelze tedy ustanovení přijmout kvalifikovanou většinou a hlasování bylo zrušeno. Proti byla Česká republika (tu zastupuje ministr vnitra Vít Rakušan nebo stálý představitel ČR při EU), dále Německo, Polsko, Rakousko, Nizozemsko a Lucembursko, další menší státy se zdržely. Tím Chat Control 2.0 uvázl v parlamentu na mrtvém bodě.

Pokračuje jednání v Radě

V průběhu belgického a maďarského předsednictví Rady se hledají nejrůznější kompromisy, ale proces se vleče kvůli odporu blokující menšiny. Až převzetí předsedání Radě Dánskem 1. července 2025 zase celý proces nakopne, protože Dánsko si předsevzalo schválení Chat Control 2.0 jako svoji prioritu. A tím se také vysvětluje, proč se toto téma v Českém veřejném prostoru objevuje. Navrhovaná úprava je velmi restriktivní, fakticky ruší ochranu zpráv šifrováním jak pro soubory a obrázky, tak otevírá možnost zahrnout do zkoumání textové zprávy. V budoucnu by tedy mohlo u zprávy být zkoumáno, zda neobsahuje grooming, tedy proces navazování vztahu dospělého s dítětem. To ale znamená, že aplikace by byly povinny zkoumat vzorce zpráv, které jim dodá ústřední entita - a to bez jakéhokoliv rozhodnutí soudu. Pokud se někdo rozhodne, že za groomingový vzorce se určí i něco jiného, tak to tam prostě bude a uživatel mobilní aplikace s tím nic nenadělá. Domníváte se, že si instalujte komunikační aplikaci dodávanou někým, kdo na EU předpisy nereflektuje? Taková aplikace se ani nedostane do aplikačního obchodu, protože nesplní regulatorní podmínky.

Nyní jde o to, zda se podaří dánskému předsednictví sehnat kvalifikovanou většinu 65 % obyvatel. Kompromisní verzi (scanning obrázků a odkazů před šifrováním) sice podporuje podle jednotlivých vyjádření až 19 členských států, bez změny pozice Německa nebo Polska se ale nepodaří získat kvalifikovanou většinu.

Hlasovat o návrhu má rada podle svých deklarovaných cílů dne 14. října 2025 a pokud dosáhne Rada dohody (hlasováním kvalifikované většiny - minimálně 15 států pro a zároveň musí reprezentovat alespoň 65 %. obyvatelstva), následuji trialog s Evropským parlamentem, jehož názor je výrazně odlišný od dánského návrhu - a s Evropskou komisí, která už v tuto chvíli nebude formální zákonodárce, ale snaží se zprostředkovat kompromis mezi EP a ER.

Finální schvalování Chat Control 2.0

Podstatné je, že Parlament i Rada se musí shodnout na textu návrhu. Když se nenajde kompromis ani v druhém čtení, probíhá smírčí řízení a z něj do šesti týdnů musí vzejít kompromisní text. Pokud se to nepodaří, návrh definitivně padá a případné další projednání musí začít úplně od začátku. To bývá dobrý impuls k tomu, aby se takový kompromis našel. Že by selhalo smírčí jednání, se děje v jednotkách případů - já si vybavuji jen směrnici o patentovatelnosti software v roce 2005, která byla nakonec zamítnuta.

Kompromisní text musí být schválen většinou hlasů v EP a kvalifikovanou většinou v Radě. Bez schválení u obou těchto spoluzákonodárců nemůže vstoupit v platnost a Komise jej nemá možnost jinak protlačit.

Může Chat Control 2.0 padnout? U velmi kontroverzních zákonů, které mají vlivné nepřátele (Polsko, Německo) se to stát může, ale už jsme zmínili, že je to spíše výjimka. Dánsko si předsevzalo tuto regulaci za svou prioritu, takže bude jistě tlačit na nalezení kompromisního řešení, i kdyby se mělo odehrát přes "otevřená vrátka do budocnosti", jako v případě návrhu detekce groomingu, který může být projednán a přidán v průběhu dalších tří let. To otevírá široké možnosti pro kompromis.

Pod pláštíkem boje proti terorismu

Jistě, že odpůrci Chat Control nemají problém v tom, aby byla odhalována dětská pornografie. Obavy se pojí především v neustálém rozšiřování toho, s čím je potřeba takto bojovat a v rámci čeho bude prolomeno uživatelské šifrování. Terorismu? Jistě - ale na příkladech ze zahraničí vidíme, že terorismus umí být dosti gumová nálepka.

V tomto případě je používána technologicky jednoduchá a přímočará cesta k tomu, co jinak mohou řešit složitěji, ale bez prolamování soukromí a šifrování orgány činné v trestním řízení. Riziko zneužití je zde přitom zcela zásadní. V případě nevhodného technologického řešení se tak prostor otevírá nejenom policii konající se soudním příkazem, ale také hackerům a nepřátelským mocnostem. A to už je zcela zásadní problém, který se předkladatelům nepodařilo vyřešit.

Technologické pozadí: Skenování na straně klienta (CSS)

Co to je a proč ohrožuje důvěryhodnou soukromou komunikaci

Část diskuse o „návrhu nařízení, kterým se stanoví pravidla pro prevenci a potírání sexuálního zneužívání dětí“ se zaměřila na šifrování typu end-to-end (tzv. E2EE) a na používání technologií „skenování na straně klienta“. Používání skenování na straně klienta by nicméně podkopalo důvěru, kterou slibuje šifrování typu end-to-end, a ohrozilo by bezpečnost a soukromí evropských uživatelů internetu.

Pojďme si tedy vysvětlit, jak E2EE funguje a jaké jsou důsledky skenování na straně klienta.

Skenování na straně klienta podkopává důvěru v šifrování typu end-to-end

Častým omylem je, že lze mít silné šifrování typu end-to-end (E2EE) a současně používat skenování na straně klienta. Tato chybná argumentace vychází z technické skutečnosti, že skenování probíhá před zahájením procesu šifrování. Z formálního hlediska je to sice pravda, ale ve skutečnosti skenování ruší účel šifrování, vytváří nová bezpečnostní rizika a ohrožuje soukromí Evropanů.

Pokud se všichni shodneme, že šifrování je technologie, která nás chrání, musíme si uvědomit, že skenování na straně klienta jeho účel znehodnocuje.

Co je skenování na straně klienta?

Skenování na straně klienta (CSS) obecně označuje systémy, které skenují obsah zpráv – tj. text, obrázky, videa, soubory – a hledají shody nebo podobnosti s databází nevhodného obsahu předtím, než je zpráva odeslána zamýšlenému příjemci.

Jaká jsou rizika skenování na straně klienta?

Hlavní poskytovatelé platforem stále častěji implementují E2EE pro své uživatele, aby zlepšili bezpečnost, soukromí a důvěru v ochranu přenosu zpráv. Současně se orgány činné v trestním řízení stále častěji snaží získat přístup k obsahu zpráv, aby zabránily sdílení nevhodného obsahu.

Společnosti, které nabízejí technologie CSS, se prezentují jako řešení. Tvrdí, že nabízejí technologii, která neporušuje ani jinak neohrožuje šifrování.

Porušení šifrování je jako manipulace s obálkou během přepravy poštou. Skenování na straně klienta je jako čtení dopisu během jeho psaní. Při skenování na straně klienta není obálka manipulována, ale výsledek je stejný – dojde k porušení dohody o zachování důvěrnosti.

Jak navíc vysvětluje společné stanovisko EDPB-EDPS, CSS „lze snadno obejít šifrováním obsahu pomocí samostatné aplikace“. To znamená, že tyto techniky otevírají dveře nepřiměřeným opatřením, která ohrožují všechny občany, aniž by poskytovala skutečné řešení problému.

E2EE je nezbytným nástrojem pro zajištění bezpečné a důvěrné komunikace. CSS maří účel E2EE a zásadním způsobem porušuje důvěrnost, kterou uživatelé očekávají při používání komunikačních nástrojů E2EE. Toto porušení důvěry:

• představuje vážné riziko pro základní práva, jak je uvedeno ve společném stanovisku EDPB-EDPS.
• Snižuje důvěru v internetový ekosystém. Ztráta důvěry je škodlivá pro digitální ekonomiku a mohla by zmařit ambice EU pro digitální dekádu.
• Podkopává bezpečnost komunikace a online služeb

Zastánci skenování na straně klienta poukazují na tuto technologii jako na řešení pro identifikaci nežádoucího obsahu v prostředích E2EE. CSS však porušuje dohodu o důvěru v E2EE a otevírá další nebezpečí. Samostatným rizikem pak je způsob, jakým jsou aktualizovány databáze pravidel pro rozpoznávání škodlivého obsahu.

Časová osa ePrivacy, Chat Control 1.0 a Chat Control 2.0 (CSAR)

• 2002 – Přijata ePrivacy směrnice 2002/58/ES („soukromí a elektronické komunikace“).
  Zaručuje důvěrnost komunikace, umožňuje odposlech jen na základě zákona / soudního příkazu.
• 2018 (prosinec) – Přijat European Electronic Communications Code (EECC, směrnice 2018/1972).
  Zahrnuje do rámce elektronických komunikací i OTT služby (messengery typu WhatsApp, Signal, Messenger).
• 21. 12. 2020 – EECC vstupuje v účinnost.
  Znamená, že OTT poskytovatelé už nesmí bez právního titulu skenovat obsah komunikace.
  Vzniká „právní mezera“: firmy, které dosud dobrovolně skenovaly CSAM (např. hash databází), najednou nemají právní oporu.
• prosinec 2020 – červenec 2021 – období právní nejistoty.
  Skenování běží dál, ale bez jasné legality. Evropská komise chystá nouzovou výjimku.
• 14. 7. 2021 – Evropský parlament a Rada přijímají Nařízení (EU) 2021/1232 („Chat Control 1.0“).
  Dočasná derogace ePrivacy.
  Umožňuje poskytovatelům dobrovolně skenovat a hlásit CSAM a grooming.
  Platnost: od 2.–3. 8. 2021, s účinností na 3 roky (do 3. 8. 2024).
• 2022 (květen) – Evropská komise (komisařka Ylva Johansson) předkládá návrh COM/2022/209 (Child Sexual Abuse Regulation – CSAR, „Chat Control 2.0“).
  Zásadní rozdíl: povinné detekční příkazy, včetně možnosti nařídit skenování i u E2EE služeb.
  Zakládá se také EU centrum pro boj proti CSA.
• 2023 (listopad) – Výbor LIBE v Evropském parlamentu schvaluje svou vyjednávací pozici.
  Odmítá plošné skenování a požaduje ochranu end-to-end šifrování.
  Připouští jen cílenou detekci na základě soudního povolení.
• únor 2024 – Evropský soud pro lidská práva (případ Podchasov v. Rusko) potvrzuje, že oslabování šifrovánímůže vést k plošnému dohledu a porušuje právo na soukromí.
  Posiluje odpor států proti plošnému CSS.
• červen 2024 – V Radě EU se plánuje hlasování, ale je zrušeno (není dost hlasů pro QMV).
  Podle médií: 16 států pro (cca 63 % populace), ale Německo, Rakousko, Polsko, ČR, Nizozemsko, Lucembursko proti blokující menšina.
• duben 2024 – přijato Nařízení (EU) 2024/1307, které prodlužuje platnost derogace 2021/1232 až do 3. 4. 2026.
  Tedy Chat Control 1.0 pokračuje jako provizorium.
• červenec 2025 – Předsednictví Rady přebírá Dánsko.
  Za prioritu si dává schválení CSAR.
  Navrhuje „kompromisní text“: povinné client-side scanning obrázků a URL, texty zatím ne, ale s revizní klauzulí po 3 letech.
• říjen 2025 (plánovaně, 14. 10.) – Rada EU má hlasovat o dánském návrhu.
  Pokud bude dosaženo QMV (65 % obyvatel + 55 % států), zahájí se trialog s Evropským parlamentem.
  EP je ale v zásadní opozici vůči verzi s plošným CSS.
• 2026 (duben) – Konec prodloužené platnosti Chat Control 1.0 (pokud do té doby nebude přijat CSAR).
  Pokud se nepodaří dohodnout Chat Control 2.0, může nastat další právní vakuum.

Hlasování českých europoslanců 6. 7. 2021

Souhrn

• Pro: 16 europoslanců
• Proti: 5 europoslanců
• Celkový výsledek: 537 hlasů pro, 133 proti, 20 se zdrželi.

Rozdělení podle frakcí

• EPP: 5 Pro (TOP 09, KDU-ČSL, STAN)
• Renew Europe: 5 Pro (ANO)
• S&D: 1 Pro (ČSSD)
• ECR: 4 Pro (ODS)
• ID: 1 Pro, 1 Proti (SPD)
• The Left: 1 Proti (KSČM)
• Greens/EFA: 3 Proti (Piráti)