Nařízení o umělé inteligenci: Evropská komise nastraží past na rozpoznávání obličeje (LQDN)

Jsou připraveni udělat cokoli, aby získali obrázky a využili je, vytvořili krásnou grafiku a Powerpointové prezentace s čísly a rozpoznáváním obličeje „za běhu“, podívejte se na jejich neoblomnost pro drony, které se 5x vrátili, aby schválili zákon, abyste mohli pořizovat snímky. Stručně řečeno, není pochyb (Připomínám vám video dohled na stanicích). Postupně nastavují hardwarovou síť (web), pak legislativní rámec, aby to všechno vždy využili na olympiádu v roce 2024.

A ty víš co to dá na konci myslím ? Proč tedy tak málo lidí reaguje? Vždy ohromený ?

Dne 21. dubna 2021 podala Evropská komise a návrh nařízení o umělé inteligenci. Pokud tvrdí, že navrhuje „právní rámec pro důvěryhodnou AI“, povede toto nařízení ve skutečnosti ke snížení úrovně ochrany, kterou v současnosti poskytuje evropské právo. Jejím hlavním rizikem bude povolování některých dosud zakázaných praktik, mezi které patří především hromadné policejní rozpoznávání obličeje.

Pro připomenutí, od roku 2016 ječlánek 10 směrnice 2016/680 zakazuje členským státům EU analyzovat biometrické údaje pro účely vymáhání práva, s výjimkou „případu absolutní nutnost ". Jinými slovy, rozpoznání obličeje je možné pouze ve výjimečných případech, kdy je to „nepostradatelné“ – kdy by policie již neměla jiné prostředky k potírání přestupku. Policie však systematicky nedokázala prokázat, že by se tento teoretický případ mohl uskutečnit v praxi: pokud může být někdy „užitečný“, rozpoznávání obličeje není pro policejní práci nikdy „nezbytné“.

Proto jsme v roce 2020 požádali Státní radu, aby toto ustanovení odstranila vyhláška TAJ která od roku 2012 povolila francouzské policii volně používat rozpoznávání obličeje (viz náš článek). Naše řízení proti vyhlášce TAJ stále probíhá a v tuto chvíli by nám evropské právo platné od roku 2016 mělo dát za pravdu. Bohužel, to se může brzy změnit.

Evropská komise předložila nový návrh nařízení o umělé inteligenci, jehož článek 5 má za cíl stanovit nové konkrétní právní rámce pro určitá použití umělé inteligence, zejména systémy vzdálené biometrické identifikace „v reálném čase“ v prostorách přístupných veřejnosti pro účely vymáhání práva“. Pokud se na první pohled zdá, že nařízení taková zařízení zakazuje, jde o pouhý trik: nejen, jak je vysvětleno výše, tento zákaz vycházel již ze směrnice z roku 2016, ale především pokud se nařízení tváří, že tento zákaz připomíná , stačí k tomu dodat nová a velmi široká výjimka. Stará podmínka „naprosté nutnosti“ je nahrazena rovnováhou mezi zájmy policie na jedné straně a škodou, kterou by tento dohled mohl konkrétně způsobit sledované populaci, na straně druhé. Ustanovení čl. 5 odst. 2: „Použití vzdálených biometrických identifikačních systémů „v reálném čase“ ve veřejně přístupných prostorách pro účely vymáhání práva […] musí zohledňovat toto:

a) povaha situace, která vedla k jakémukoli použití systému, zejména závažnost, pravděpodobnost a rozsah škody způsobené v případě, že se systém nepoužívá;

b) důsledky používání systému na práva a svobody všech subjektů údajů, včetně závažnosti, pravděpodobnosti a rozsahu těchto důsledků. ".

Musíme pečlivě ocenit důležitost této změny paradigmatu. Do té doby, s pojmem „absolutní nutnost“, důkazní břemeno bylo zcela na policii. Musela případ od případu prokázat materiální nemožnost pracovat bez rozpoznání obličeje. Z toho naopak profitovaly sledované populacevelmi silná právní domněnka. Tyto populace nemusely prokázat, že jim tento dohled způsobil konkrétní újmu, protože tento dohled byl považován za neodmyslitelně v rozporu s hodnotami hájenými demokratickými společnostmi. To je to, co všechny evropské sjednocené CNIL připomínají, v názor otevřenost vůči novému návrhu nařízení o AI: „vzdálená biometrická identifikace prováděná v souvislosti s politickými demonstracemi bude mít pravděpodobně významný odrazující účinek na výkon základních práv a svobod, jako je svoboda shromažďování a sdružování a další obecně platí, že základní princip demokracie […] jeho vážné a nezvratné dopady na (odůvodněné) očekávání obyvatel, že budou ve veřejném prostoru anonymní, by přímo podkopávaly výkon svobody projevu, shromažďování, sdružování a pohybu“. Náš překlad: „Článek 5 odst. 1 písm. d) návrhu poskytuje rozsáhlý seznam výjimečných případů, kdy je pro účely vymáhání práva povolena vzdálená biometrická identifikace „v reálném čase“ ve veřejně přístupných prostorách. EDPB a Evropský inspektor ochrany údajů považují tento přístup za chybný v několika aspektech: […] Biometrická identifikace na dálku v kontextu politického protestu bude mít pravděpodobně významný mrazivý účinek na výkon základních práv a svobod, jako je svoboda shromažďování a sdružování a obecněji základní principy demokracie. […] jeho nezvratný, závažný dopad na (odůvodněné) očekávání obyvatelstva, že bude anonymní na veřejných prostranstvích, což má za následek přímý negativní dopad na výkon svobody projevu, shromažďování, sdružování a také svobody pohybu. […]Zdůvodnění návrhu zřejmě opomíjí, že při monitorování otevřených prostor je třeba splnit povinnosti podle právních předpisů EU o ochraně údajů nejen u podezřelých, ale u všech, kteří jsou v praxi sledováni. […] kritéria uvedená v článku 5 pro „kvalifikaci“ systémů umělé inteligence jako zakázané omezují rozsah zákazu do té míry, že by se v praxi mohl ukázat jako nesmyslný […] Ze všech těchto důvodů je EDPB a EDPS požadují obecný zákaz jakéhokoli použití umělé inteligence pro automatické rozpoznávání lidských rysů ve veřejně přístupných prostorách“.

Zítra, s budoucími předpisy o AI, tato domněnka zmizí a ustoupí rovnováze, kterou je třeba hledat případ od případu mezi policií a obyvatelstvem. Obáváme se, že tato rovnováha, již neupravená starým předpokladem, vždy skončí proti lidem. Je totiž nesmírně obtížné konkrétně prokázat systémové škody způsobené hromadným sledováním – právě k překonání této obtížnosti zákon zavedl domněnku ve prospěch obyvatelstva. Naopak, policie nebude mít problém upozornit na sebemenší novinku, aby potvrdila, že taková či onaká technika rozpoznávání obličeje by byla za každou cenu nezbytná.

V praxi, v budoucnu, až budeme chtít napadnout policejní systém rozpoznávání obličejů, budeme pravděpodobně muset prokázat, že tento systém způsobuje konkrétní škody obyvatelstvu a že tyto škody jsou větší, než je zájem, aby policie tyto nástroje používala. . Tato obzvláště náročná demonstrace na právní úrovni, která by mohla stačit k tomu, abychom prohráli, se po nás dnes v našem případě proti TAJ nežádá – musíme pouze poukázat na skutečnost, že policie neprokázala, že rozpoznávání obličeje je „naprosto nezbytné“ pro jeho práci. A naopak, pokud by budoucí nařízení navržené Evropskou komisí platilo již dnes, je dost možné, že by náš útok na TAJ již selhal.

Ještě jsme nestihli uplatnit směrnici z roku 2016 proti rozpoznávání obličeje povolenou v TAJ od roku 2012, která již naše právní argumenty budou ze zákona vymazány. Jakmile budoucí předpisy o umělé inteligenci široce povolí rozpoznávání obličeje „v reálném čase“ díky této hrozné pasti „rovnováhy zájmů mezi policií a obyvatelstvem“, je třeba se obávat, že toto nové právní paradigma zamoří veškeré zpracování biometrická data, včetně těch, na které se regulace AI ještě výslovně nezaměřuje (rozpoznání „zpožděné doby“, detekce chování, hlasová identifikace atd.).

Toto nařízení AI přináší další problémy, o kterých budeme velmi brzy diskutovat. Ale již toto hrozné riziko zobecnění hromadného policejního rozpoznávání obličeje samo o sobě ospravedlňuje požadavek na stažení tohoto ustanovení a okamžitou aplikaci stávajícího zákona.

Zdroj: Laquadrature.net

Doplňující informace: