Nařízení CSAR: dohled nad naší komunikací nyní probíhá v Bruselu (LQDN)

Uvědomují si lidé vůbec, co dělají? Jsme příliš zaneprázdněni vymýšlením, jak přežít? Uznávám, že tyto manévry jsou docela chytré, ale když bráníme mírovým revolucím, de facto zavádíme revoluce násilné... (C. Sannat)

Vezměte prosím na vědomí, že návrh zákona bude brzy přezkoumán Národním shromážděním #SREN (zabezpečení a regulace digitálního prostoru) pod záminkou dobrých úmyslů ohrožuje naše základní svobody. pic.twitter.com/OHeBS2WlKf

— N. Dupont-Aignan (@dupontaignan) Září 19, 2023

Zálohování videa

Před více než rokem Evropská komise navrhla jeden z nejhorších textů, které kdy byly vymyšleny o digitální technologii: nařízení CSAR, nazývané také „Ovládání chatu“. Tento návrh, který ukazuje cíl boje proti pohlavnímu zneužívání dětí, má ve skutečnosti za cíl vytvořit jedinečný nástroj pro sledování komunikace. Jakmile byl tento návrh nařízení předložen, v celé Evropě se sdružení a odborníci postavili proti této iniciativě, protože by to znamenalo ukončení šifrování komunikace. Dnes, i když jsou kritiky ještě četnější, diskuse v Bruselu rychle postupují, což naznačuje, že text bude velmi brzy přijat. Abychom porozuměli jeho problematice a pomohli posílit mobilizaci, vracíme se k obsahu tohoto nařízení, které by mohlo znamenat konec veškeré důvěrnosti online výměn.

Geneze projektu

11. května 2022 Evropská komise shodila bombu v digitálním světě zveřejněním svého navrhované nařízení « stanovení pravidel pro prevenci a boj proti sexuálnímu zneužívání dětí ". Označuje se jako „Kontrola chatu“ nebo „CSAR“ (pro „ Regulace sexuálního zneužívání dětí “), cílem tohoto textu je uložit poskytovatelům online obsahu povinnost odhalovat obsah sexuálního zneužívání nezletilých analýzou konverzací jejich uživatelů.

Tato iniciativa je inspirována nástroji implementovanými již několik let velkými webovými společnostmi. meta, například proaktivně analyzuje všechny zprávy vyměňované přes Facebook Messenger a také nešifrovaná data z WhatsApp (profilové nebo skupinové fotografie, popisy atd.) za účelem odhalení známých obrázků zneužívání dětí. v roce 2021 jablko oznámila, že zavádí nástroj k analýze dat svých zákazníků hostovaných na iCloud, aby je mohla porovnat s databází obsahu nahlášeného jako souvisejícího s dětskou pornografií, stejně jako Microsoft který srovnávací nástroj vyvinul FotoDNA.

Již v roce 2020 začala Komise dávat najevo svůj zájem o tento typ nástroje ve svém „ strategie boje proti sexuálnímu zneužívání dětí » což vedlo v roce 2021 k přijetí a osídlení na téma. To dočasně na tři roky povolilo službám elektronické komunikace analyzovat obsah s cílem odhalit obsah spojený s tímto typem zneužití. Pokud by tato možnost byla fakultativní a musela by vycházet z jejich obecných podmínek, takové formální zařazení do zákona nicméně legitimizovala dozorové iniciativy a techniky velkých platforem, čímž posílí jejich hegemonní sílu, aniž by bylo provedeno jakékoli hodnocení relevance těchto metod.

Toto oprávnění končí v roce 2024 a z tohoto důvodu byl navržen CSAR. Ale na rozdíl od dočasného nařízení, které to pouze povolovalo, tento návrh nařízení vyžaduje detekci obsahu dětské pornografie za určitých podmínek, čímž se ukončí jakákoli forma důvěrnosti. Od zahájení diskusí před rokem a půl poskytla evropská síť EDRi, jejíž součástí je La Quadrature du Net, značnou analytickou práci na tomto textu, který najdete v jejich „ poziční dokument » nebo zhuštěnějším způsobem v jejich brožura (v angličtině). Zde shrnujeme hlavní problémy související s tímto nařízením.

Obsah nařízení

Nařízení CSAR se má vztahovat na velmi velký počet subjektů. Do rozsahu aplikace tedy spadají všechny „ poskytovatelé interpersonálních komunikačních služeb “, to znamená online zasílání zpráv, jako je Signal, Whatsapp nebo Telegram, poskytovatelé e-mailu, seznamovací aplikace, ale také zasílání zpráv, které je pouze doplňkovou funkcí k jiným službám, jako jsou například hry. Do rozsahu aplikace také spadají „ poskytovatelé hostingových služeb » jako NextCloud, iCloud, DropBox nebo asociativní hostitelé KOŤATA, obchody s aplikacemi a také sociální sítě.

Tito poskytovatelé by byli nuceni zavést značný dohled nad svými uživateli. Na jedné straně články 3 a 4 stanoví, že se řídí a povinnost vyhodnotit a co nejvíce snížit rizika sdílení obsahu dětské pornografie v dotčených službách. To by znamenalo poskytnout prostřednictvím studie dopadu prvky týkající se provozu a používání jejich nástroje, aby bylo možné teoreticky předvídat rizika a identifikovat odpovídající opatření ke zmírnění. Dodavatelé by proto měli být schopni poskytnout informace o tom, jaký typ uživatele (dospělý, nezletilý atd.) využívá jejich službu a jaký typ obsahu (video, text atd.) je vyměňován. Tato povinnost je však neslučitelná s jedním ze základních principů respektování soukromého života, na kterém je provoz mnoha služeb založen: absencí shromažďování tohoto typu osobních údajů. Tito poskytovatelé služeb by se pak ocitli v neudržitelné pozici, protože aby vyhověli tomuto novému nařízení, budou muset změnit svůj model a začít shromažďovat informace, které v současnosti nemají. Nařízení CSAR by pro ně znamenalo opuštění slibu důvěrnosti, zaručené zejména používáním šifrování a anonymizací dat.

Kromě toho článek 6 CSAR doporučuje, aby dodavatelé měli použití řešení ověřování věku k dosažení tohoto cíle snížení rizik. Nejenže však do dnešního dne skutečně neexistuje žádný životaschopný nástroj, který by respektoval soukromí, ale především použití tohoto typu řešení představuje vážné problémy s ohledem na ochrana anonymity online, jako my upomínky nedávno v naší analýze francouzského zákona SREN. V konečném důsledku text tlačí na podporu provádění donucovacích opatření a přímo zpochybňuje právo na soukromí.

Na druhou stranu tito aktéři budou mít povinnost reagovat na jakýkoli „odhalovací příkaz“ vydaný soudcem nebo správním orgánem.. Články 7 až 11 tedy stanoví, že pokud existuje „ značné riziko, že služba bude využívána k online sexuálnímu zneužívání dětí “, dodavatelé mohou být povinni nainstalovat nástroje do samého srdce své aplikace nebo infrastruktury, které jim umožní skenovat data, která přes ně procházejí, za účelem odhalení potenciálního obsahu spojeného se sexuálním zneužíváním dětí.

Přesněji řečeno, dodavatelé budou muset identifikovat tři typy údajů:

• Des „známý“ obsah tedy obrázky nebo videa, která již úřady uvedly jako spojené s dětskou pornografií nebo sexuálním zneužíváním dětí.
• Des „neznámý“ obsah to znamená fotografie nebo videa, které pravděpodobně představují dětskou pornografii, ale nebyly jako takové identifikovány. K nalezení tohoto obsahu budou muset služby používat nástroje založené na umělé inteligenci, které budou identifikovat korelace mezi sdíleným obsahem a předdefinovanými indikátory (například holou kůží).
• Des činnosti zahrnující získávání dětí (volal " pedotrapage "). Jde o odhalování „typického“ chování lidí, kteří přicházejí do kontaktu s dětmi, opět pomocí statistických a pravděpodobnostních modelů založených na umělé inteligenci.

Konkrétně to bude zahrnovat implementaci techniky „ skenování na straně klienta » (doslova „analýza na straně klienta“), tedy analyzovat data, která jimi procházejí přímo na uživatelských zařízeních. Když uživatel internetu odešle zprávu nebo zveřejní publikaci přes jedna ze služeb dotčených soudním příkazem, bude tento obsah před odesláním analyzován. Přesněji jsou to „ hašiš “, tedy digitální otisky prstů spojené se snímky, které budou zkoumány. Tento hašiš budou poté porovnány s databází již vytvořenou z obsahu týkajícího se pohlavního zneužívání dětí. Pokud hašiš shoduje se s fotografií základny, spustí se výstraha. V opačném případě to znamená, že obsah musí být klasifikován jako „neznámý“ a další analytický nástroj pak zkontroluje, zda existují korelace nebo podobnosti s obsahem sexuálního zneužívání, aby v případě potřeby vyvolal výstrahu.

Trojský kůň Komise: ke konci šifrování

Stanovením cíle ochrany dětí se Evropská unie ve skutečnosti snaží zavést kapacitu gigantická kontrola všech digitálních životů, čímž se sen každé vlády o sledování stane skutečností. Tento text byl předmětem tolika reakcí, že EDRi ptá se sám sebe kdyby CSAR nebyl nejkritizovanějším evropským zákonem všech dob. Kritika proti tomuto textu pochází od evropské instituce sami, ale také od organizací na ochranu dětí prostřednictvím technologických hráčů a vědců a výzkumníků, kde 465 z nich podepsalo písmeno proti tomuto návrhu. A právem.

Na technické úrovni je třeba chápat, že příkazy detekce požadovat, aby poskytovatelé analyzovali veškerou komunikaci od všech uživatelů dotčených služeb. A protože zprávy jsou poté analyzovány před odesláním jejich příjemcům, nejen že se tím odstraní jakákoliv důvěrnost, ale bude zbytečná i jakákoliv následně použitá šifrovací technika, tedy jakmile zpráva opustí zařízení uživatele. Primárním cílem šifrování je zabránit třetí straně ve čtení zprávy. CSAR si však klade za cíl právě umožnit takové čtení třetí stranou. Stejně tak je zcela nepřijatelné vyhledávání „neznámé“ fotografie nebo videa. V praxi je riziko „falešných poplachů“ enormní, což znamená, že zcela legitimní obsah, jako je tělo dospělého, které působí příliš mladistvě, fotografie dítěte zaslané v rodinném prostředí nebo dokonce teenageři, kteří si vyměňují souhlas.

A konečně, pokud jde o konkrétní případ odhalování obsahu dětské pornografie, zvažte vytvoření a použití takové databáze nebere v úvahu realitu lidí, kteří s ním musí manipulovat, krmit to, a kteří budou denně konfrontováni s obtížným obsahem. Nemluvě o tom, že snímky dětských obětí budou uchovávány pro „zlepšení“ účinnosti těchto nástrojů.

CSAR nejenže vytváří nepřiměřené povinnosti a zahrnuje extrémně rušivé techniky, ale především tato opatření zdaleka nejsou relevantní pro dosažení klíčového cíle ochrany dětí a boje proti sexuálnímu zneužívání. Ve skutečnosti nebyla předložena žádná seriózní studie o přiměřenosti, spolehlivosti nebo relevanci takových extrémně rušivých opatření. Naopak, bylo odhalily par l 'německý spolek Gesellschaft für Freiheitsrechte que la Komise založila svůj návrh pouze na tvrzeních průmyslu, zejména nadace Trn a Metak odůvodnění tohoto návrhu nařízení. Policejní a soudní instituce, jako např Německo například také vyjádřili své výhrady k užitečnosti těchto zařízení pro jejich průzkumy, protože to nereaguje na problémy, s nimiž se denně setkávají.

Navíc od začátku kampaně proti tomuto textu mnoho zdroje byly vyrobeny prokázat, že ochrana dětí před zneužíváním zahrnuje především preventivní nebo vzdělávací politiky a že jakákoli případná trestná reakce musí být zasazena do cílených opatření založených na hmatatelných důkazech. Jak jsme se potom dostali do tohoto bodu?

Autoritářské pokušení států

Tento legislativní návrh je řešením z velké části navrženým průmyslem a poté zobecněným politickými elitami, které tak znovu ilustrují svůj absurdní sklon k „technologickému řešení“. a posílení digitálního dohledu. Aby byla tato kontrolní opatření přijatelná, vykazují jednomyslný cíl. Ale každý ví, že strategie spočívá především v oslabení úrovně bezpečnosti a důvěrnosti digitální komunikace. Vzhledem k tomu, krypto války V 1990. letech řada států tvrdila, že technologie na ochranu soukromí, především šifrování komunikace, byly překážkou policejního vyšetřování. Ve skutečnosti jsou k tomu tyto technologie určeny, protože právě za této podmínky zaručují každému možnost ovládat naše způsoby vyjadřování a komunikace. Jedním z nejdůležitějších důsledků odhalení whistleblowera NSA Edwarda Snowdena před deseti lety bylo přesně demokratizace praxe šifrování a v té době založení příbuzného souhlas ve prospěch práva na šifrování na institucionální úrovni. Policie a vlády jsou však v rozpacích a již několik let jsme svědky návratu autoritářských pozic vůdců, kteří naopak využívají výmluvu terorismu, organizovaného zločinu a dětské pornografie ke zpochybňování.

Ve Francii také Bernard Cazeneuve ten Emmanuel Macron již potvrdili svou touhu ovládat šifrované zasílání zpráv, a snili tak o proniknutí do soukromí milionů lidí, kteří je používají. Během slyšení před Senátem 5. dubna Gérald Darmanin výslovně potřebný být schopen prolomit šifrování ekologických aktivistů a „ultralevice“, kteří by měli „ tajná kultura ". Nedávno jsme také vysvětlili, jak v takzvaná aféra „8. prosince“.Zpravodajské a policejní služby vytvořily podobný příběh o používání nástrojů respektujících soukromí obviněnými (Signal, Tor, Tails atd.), aby vykreslily portrét zločinců, kteří se musí skrývat nebo touží uprchnout POLICIE. Na evropské úrovni fuites odhalil záměr několika států snížit úroveň zabezpečení end-to-end šifrování, jako je Španělsko, které to chce jednoduše ukončit.

Nařízení CSAR je součástí této kontinuity a představuje dokonalou příležitost pro členské státy, aby konečně navrhly a zobecnily nástroj pro sledování výměn obyvatelstva, a tak skoncovaly s překážkami, které představují služby, které příliš chrání soukromí. Ale překonat tento milník, znamená to odstranění veškeré důvěrnosti z komunikace, která prochází digitální infrastrukturou. Integrita a bezpečnost posledně jmenovaných by pak již nikdy nemohla být zaručena, protože tato „zadní vrátka“ existují.. To vytváří příležitosti jak pro státy, tak pro zlomyslné aktéry, aby se zmocnili a zneužili této schopnosti proniknout do telefonů a počítačů lidí. A konečně otevírá porušení, prostor ke sledování, který dříve neexistoval a který bude v budoucnu nutně rozšířen novou legislativou o identifikaci dalších typů obsahu.

Toto riziko pranýřují služby jako např Signálu, Proton ou Matice, které nabízejí end-to-end šifrovanou a bezpečnou komunikaci – a proto slibují téměř úplnou důvěrnost. Tento návrh by porušil jejich slib tím, že by je donutil analyzovat obsah a vytvořit zranitelnost v jejich technologiích. Toto riziko nedávno odsoudil i Apple: pro ospravedlnit konec analýza obsahu hostovaného na iCloud, vysvětlila společnost že použitá technologie je příliš nebezpečné z hlediska bezpečnosti a soukromí¹.

Ve Velké Británii, kde se o podobném návrhu zákona v současnosti jedná, Návrh zákona o bezpečnosti online, Signal a Whatsapp hrozily odstranit jejich službu ze země pokud by tento text prošel. Tváří v tvář této vzpouře Britové nedávno oznámili pozastavit provedení tohoto opatření s ohledem na neproveditelnost ochrany šifrování typu end-to-end v této fázi. Opatření je ale stále v zákoně a mohlo by tedy být jednou použitelné. V Londýně stejně jako v Bruselu bitva zdaleka nekončí.

Odmítnout a jednat

Je proto naléhavé jednat a zastavit tuto novou iniciativu, která by vytvořila vážný precedens a poskytla státům legitimitu k tomu, aby pronikaly do komunikace ještě dále. Ale jednání v Bruselu rychle postupují. Na jedné straně Rada, orgán sdružující vlády členských států, musí své stanovisko k tomuto textu zveřejnit do konce září. To slibuje, že bude velmi špatné, prosazované několika státy – Francií v čele. Některé státy jako Německo nebo Rakousko přesto vyjádřily výhrady ohledně neslučitelnosti této nejnovější verze s jejich vlastním oficiálním stanoviskem. A otevřený dopis byla podepsána 13. září více než 80 organizacemi, včetně La Quadrature, aby členské státy nepřijaly CSAR v aktuální verzi.

Na druhou stranu bude muset svou verzi textu přijmout i Evropský parlament, nejprve ve výboru v říjnu a poté v listopadu na plenárním zasedání. Pokud mnoho europoslanců oponovat textu, to pravděpodobně nebude stačit k zablokování jeho přijetí. Chcete-li podniknout kroky, zveme vás, abyste se připojili ke kampani “ Přestaň mě skenovat » vedená koalicí organizací a sdílet co nejvíce informací o probíhající mobilizaci², Můžete také appeler z europoslanci vyzvat je, aby tento text odmítli.

A pokud můžete, neváhejte a přispějte Kvadratura nebo EDRi která působí v Bruselu. DÍK !

Zdroj: Laquadrature.net

Doplňující informace: