Ušlechtilý cíl EK ochrany dětí je zástěrkou k prosazení mechanismů šmírování. Rédová o Chat Control
Evropská rada schválila nařízení o sexuálním zneužívání dětí. Zákon dává majitelům platforem právo skenovat osobní korespondenci uživatelů za účelem boje proti šíření materiálů zobrazujících sexuální zneužívání dětí. Co si myslíte o deklarovaném cíli této iniciativy?
Tento návrh je vážným ohrožením soukromí a digitálních svobod evropských občanů. Ochrana dětí je povinností nás všech. Ale způsob, jakým se to má dělat skrze CSAR, je bezpečnostní a etický hazard, který otevírá cestu k plošnému sledování společnosti.
Deklarovaný cíl - ochrana dětí před sexuálním zneužíváním, je samozřejmě legitimní a všichni ho považujeme za důležitý.
Jenže právě proto je nebezpečné, když se tento ušlechtilý cíl používá jako politická zástěrka k prosazení mechanismů, které by za jiných okolností veřejnost odmítla.
Dlouhodobě vidím v evropské legislativě trend, kdy se pod heslem „bezpečnosti“ zavádějí technické nástroje, které zasahují do soukromí, posouvají hranice toho, co je považováno za „legitimní dohled“ a vytvářejí precedenty, na které se úřady mohou v budoucnu odkazovat.
Historie ukazuje, že žádný systém monitorování nezůstane u svého původního zaměření. Pokud dnes umožníme skenování soukromé komunikace kvůli boji proti CSA, zítra to může být boj proti „dezinformacím“, pozítří proti „nenávisti“, a nakonec proti téměř čemukoli, co aktuální moc vyhodnotí jako nebezpečné.
Věta „když nemáte co skrývat, nemusíte se bát“ je nejnebezpečnější věta 21. století.
Na rozdíl od první, restriktivnější verze zákona, která požadovala skenování veškeré uživatelské korespondence, schválený zákon nařizuje platformám, aby si samy rozhodly, zda budou skenovat korespondenci svých uživatelů, a aby přijaly vhodná opatření k omezení šíření dětské pornografie. Jaký je váš názor na tento „kompromis“?
Tento kompromis je spíše politickým trikem než skutečnou úlevou. V praxi Evropská rada dává platformám povinnost přijmout „vhodná opatření“, ale nechává na nich, co těmito opatřeními budou. Jenže v atmosféře strachu z obvinění z nečinnosti sáhnou firmy k nejtvrdšímu řešení, aby se pojistily.
Platformy navíc čelí tlaku politiků, tlaku veřejnosti, tlaku aktivistických skupin, tlaku mediálnímu (kdo nebude skenovat, bude označen za spoluviníka). To není volné rozhodnutí. To je mimořádně silná forma nepřímého nátlaku. Výsledkem bude téměř jistě to, že většina velkých platforem zavede skenování komunikace plošně, protože pro ně bude méně riskantní přehnaná opatrnost než odmítnutí.
A protože půjde o rozhodnutí soukromých firem, nebude existovat přímý právní rámec, který by uživatele chránil. Vytvoří se tak šedá zóna dohledu, bez soudního příkazu, bez kontroly, bez možnosti domáhat se nápravy.
Jaká rizika v tomto zákoně vidíte pro občany dodržující zákony?
Rizika jsou rozsáhlá, systémová a podle mého názoru podceňovaná:
a) Normalizace masového sledování
Lidé si postupně zvyknou, že jejich soukromé zprávy nejsou skutečně soukromé. To změní chování celé společnosti, vznikne autocenzura, nedůvěra, strach komunikovat otevřeně.
b) Chybovost algoritmů
Automatické systémy nejsou neomylné. AI modely mohou označit nevinné rodiče posílající fotky dětí prarodičům, doktory, učitele nebo i zdravotní personál. Chybná označení budou mít psychologické dopady, reputační dopady a mohou vést až k neoprávněným zásahům policie.
c) Přesun hranice možného
Jakmile se vytvoří infrastruktura pro přístup do soukromé komunikace, už ji nikdo nezruší. Naopak, bude se rozšiřovat.
d) Podcenění skutečných pachatelů
Skuteční predátoři už dnes používají šifrované kanály, darknet, vlastní aplikace, nebo peer-to-peer sítě.
Trestáni tedy budou běžní uživatelé, zatímco pachatelé si najdou cestu, jak systém obejít.
Myslíte si, že by takové kontroly mohly vést k nežádoucím únikům uživatelských dat?
Ano. A nejen že „mohou“, ony nastanou. Neexistuje systém, který by garantoval absolutní zabezpečení. Jakmile se data jednou začnou shromažďovat, stanou se cílem hackerů, vyděračských skupin, zahraničních zpravodajských služeb, i zaměstnanců uvnitř firmy, kteří mají přístup ke klíčům.
Náklady za případné škody ponesou kdo? Děti, rodiče, firmy, nebo občané, kteří s monitorováním nikdy nesouhlasili? Skenování soukromých zpráv pořád znamená zpracování obrovského množství citlivých dat. To je bezpečnostní katastrofa v přímém přenosu. Navíc se vytváří centrální sběrná místa, která budou představovat největší kybernetické riziko v historii EU.
Zákon bude předložen Evropskému parlamentu. Jaká je podle Vás šance na revizi nebo zrušení tohoto zákona?
Návrh má v Evropském parlamentu silnou opozici, zejména mezi poslanci, kteří se zabývají digitálními právy, kyberbezpečností, technologickými dopady a ochranou občanských svobod.
Šance na revizi nebo odmítnutí existuje a není malá.
Problém ale je, že mnoho členů EP nečte technické analýzy, spoléhá se na politické slogany typu „ochrana dětí“ a nechá se zatlačit do pozice, že kdo odmítne zákon, „nechce chránit děti“. To je manipulativní rámování a v médiích bohužel funguje.
Pokud návrh projde, vznikne situace, která bude mít dopad na stovky milionů Evropanů a bude téměř nemožné ji později vrátit zpět.
Je tedy klíčové, aby se společnost ozvala teď, ne až poté, co bude systém v provozu. Je třeba říct pravdu bez obalu, že CSAR není o ochraně dětí. Je to o vytvoření mechanismu, který umožní sledovat veškerou digitální komunikaci evropských občanů. Pod záminkou dobra se nesmí normalizovat šmírování.
Děkujeme za rozhovor!
