Povznášející článek od La Quadrature du net, o který jsem se s vámi chtěla podělit, protože dokonale ilustruje, čemu bychom se chtěli vyhnout.
Protože článek přesně ukazuje nelidskost a ŠPATNOU VÍRU zaměstnanců a procesů Pôle Emploi, kteří nyní používají Velká data a umělá inteligence, a to mě přimělo vzpomenout si na tento výňatek níže z karikatury dobrodružství Asterixe a Obelixe o administrativě a „dům, který vás přivádí k šílenství“.
Navíc k zamyšlení a k akci, na tomto francouzském zlu (které jste pochopili, není nic nového) vám připomínámvýborná kniha Vincenta Jauverta o státní mafii.
A nezapomeňte, že odhlášená osoba je potenciálně osoba na ulici (nebo dokonce rodina), takže na tyto špatné praktiky musíme posvítit Středisko práce.
Pochopte, že algoritmus dělá svou práci program, stroj, zpracovává strašně moc dat, ale nemá žádnou empatii ani jemnost, hloubku nebo cokoli, co by lidské zpracování mohlo poskytnout (což v tomto případě, a to je ještě vážnější, selhalo na celé etice).
Není však nutné, aby Algoritmy nakonec rozhodují o našich životech (a slouží jako záminka) k vyhazování lidí na ulici (doplňující informace).
Musíme přijmout zákony proti tomu, nebo se zobecněním Velká data, a nějaký pseudoumělá inteligence (což je všechno, jen ne skutečná inteligence), bude to masakr, pojištění, půjčky, práce atd. (další informace).
Člověk a ŽIVOT musí mít vždy přednost před „daty“.
Navíc, jak nám článek připomíná, rádi bychom, aby dali co nejvíce energie do sledování a obnovy 100 miliard daňových úniků ročně díky Evropě.
přátelství
Amourfou.
Zatímco Emmanuel Macron chce „urychlit“ odhlašování uchazečů o zaměstnání, Pôle Emploi právě udělala krok vpřed v nuceném pochodu směrem k dematerializaci a digitální kontrole lidí bez práce. Nezaměstnaný pracovník byl nedávno informován o jeho odhlášení1 z toho důvodu, že zasílání jeho žádostí doporučenou poštou, nikoli přes internet, neumožňovalo zaznamenat „vážný charakter kroků […] podniknutých k nalezení zaměstnání“.
Tato situace zhmotňuje vůli Středisko práce přinutit nezaměstnané, ať to stojí jakoukoli cenu, používat digitální nástroje. Radiace mající za následek pozastavení výplaty dávek v nezaměstnanosti, to je skutečné vydírání na přežití, ve kterém Středisko práce zahájila s jediným cílem urychlit dematerializaci svých služeb. při tom Středisko práce záměrně ignorovat studie a zprávy2 ukazující, že politiky dematerializace představují překážku v přístupu k veřejným službám pro nejchudší lidi, a přispívají tak k jejich marginalizaci.
V době, kdy jsou francouzské administrativy silně podporovány3 k zavedení algoritmů, které každému přidělují „skóre rizika“, jako je ten, který dnes používají CAF k výběru osob, které mají být zkontrolovány, jsou politiky dematerializace doprovázeny rizikem posílení sociální kontroly prostřednictvím stále jemnějšího shromažďování osobních údajů.
Dematerializační vydírání
Čtení dopisů, které si tento nezaměstnaný dělník vyměnil s Pôle Emploi, je poučné. Poté, co obdržel dopis s „upozorněním před sankcí za nedostatečné jednání s cílem najít práci“, pracovník zašle Pôle Emploi podpůrné dokumenty ke svým 29 žádostem zaslaným doporučenou poštou.
Po obdržení těchto dokumentů ředitel agentury trvá na svém rozhodnutí o odstranění a odůvodňuje jej kafkovským způsobem. Podle něj „dodávka velkého množství žádostí zaslaných doporučeně « neprokazuje skutečné hledání zaměstnání, protože používání doporučené pošty již neodpovídá „normám přijatým společnostmi po mnoho let“4.
Ředitel v oponovaném odvolání trval na „neserióznosti přijatých kroků […]“ s odůvodněním, že mu pracovník „neumožňuje zdůvodnit nemožnost použití dematerializovaných komunikačních prostředků (mobilní telefon, e- pošta, počítač)“ doporučený institucí za účelem „optimalizace šancí na nábor“ a potvrzuje pozastavení příspěvků na dobu jednoho měsíce.
Dematerializace a nerovnosti
Vydírání výhod, které zřídil Středisko práce urychlit proces dematerializace je o to násilnější, že jeho vůdci nemohou ignorovat nerovnosti kontroly a přístupu k digitálním nástrojům. Nejistí lidé, senioři, postižení, cizinci, vězni, žijící v bílých oblastech: tolik lidí, pro které digitalizace zvyšuje potíže s přístupem k veřejným službám.
Pro tyto cílové skupiny má zobecnění dematerializace za následek další administrativní zátěž zdůrazňující jejich sociální vyloučení. Důkazy o těchto potížích, stížnosti související s dematerializací jsou jedním z hlavních důvodů postoupení ochránci práv. V zpráva zveřejněná v roce 2019, posledně jmenovaný důrazně vyzývá politiky k rizikům spojeným s nucenou dematerializací a připomíná, že „pokud by byl jediný člověk zbaven svých práv kvůli dematerializaci veřejné služby, bylo by to pro naši demokracii a stát po právu selhání“.
Zdálo by se, že v Středisko práce tento dokument nebyl přečten, přestože prohlášení o dobré víře jejího generálního ředitele Jeana Bassèra, podle kterého Středisko práce musí „využít technologického pokroku a zajistit, aby nikdo nezůstal pozadu“.
Směrem ke zobecněné dematerializaci?
Výše popsaná situace však předznamenává mnoho podobných případů v době, kdy Středisko práce experimentuje s „Journal of job search“ v Bourgogne-Franche-Comté a Centre-Val-de-Loire. Tento program, vytvořený v roce 2018 zákonem „pro svobodnou volbu profesní budoucnosti“, zavazuje všechny uchazeče o zaměstnání k prohlášení "proces hledání práce", jednou měsíčně.
Tento experiment si klade za cíl posoudit možnost zobecnění povinnosti digitální deklarace pro nezaměstnané na celé území. Vzhledem k příkazům k finanční racionalizaci a politické prioritě dané digitální transformaci v plánu „Public Action 2022“ Emmanuela Macrona, existuje velké riziko, že Pôle Emploi přijme škodlivé sociální důsledky takové změny a vynutí si během několika let dematerializaci stále většího počtu svých aktivit.
Dematerializace a sociální kontrola
Dematerializační politiky s sebou nesou značné riziko posílení sociální kontroly, zejména u nejzranitelnějších skupin5, prostřednictvím stále rostoucího sběru dat o uživatelích veřejných služeb a rostoucího využívání umělé inteligence.
Na dotaz senátora o rizicích používání „Časopisu hledání práce“ pro kontrolní účely, náš bývalý ministr práce indiqué že data shromážděná tímto nástrojem budou generovat „upozornění“, která budou „zaslána poradcům“ za účelem „analyzování situací předčasného ukončení“. Dodává, že poradci pak budou moci „zahájit žádost o kontrolu u specializovaných poradců odpovědných za kontrolu“. I když zajišťuje, že žádné kontroly nebudou spouštěny plně automatizovaným způsobem, faktem zůstává, že tyto politiky vedou ke zvýšenému používání digitálních nástrojů k odhalování „špatných“ nezaměstnaných lidí..
Le směnka upřesňuje, že cílem těchto novin je „identifikovat uchazeče o zaměstnání, kteří mají potíže s hledáním zaměstnání nebo kteří nepodnikají dostatečně aktivní kroky při hledání zaměstnání“. K dispozici je jinde sdílí algoritmus strojového učení pomocí dat shromážděných prostřednictvím protokolu k lepšímu „zjištění vývoje situace“ nezaměstnaných pracovníků6.
Bezpapírové politiky lze také použít k záměrnému znemožnění přístupu ke státním službám, jako např vypovídá ochránce práv7 když popisuje, jak některé prefektury tlačí cizince k nezákonnosti tím, že dobrovolně blokují online žádosti o jmenování pro žádost nebo obnovení povolení k pobytu, což je nicméně jediný postup povolený ve 30 prefekturách v roce 2019.
Sociální kontrola a přístup k osobním údajům
Nástroj, jako je „Journal of job search“, je konečně třeba ocenit v kontextu bezprecedentního rozvoje digitálních politik sociální kontroly od roku 2010. Poháněn smrtícím neoliberálním diskursem „boje proti blahobytu“ v r. móda v tomto volebním období bylo institucionální posílení kontrolní politiky doprovázeno nárůstem objemu shromažďovaných dat o příjemcích sociálních dávek. Toho bylo dosaženo propojením administrativních spisů a také rozšířením komunikačního práva pro agenty odpovědné za kontrolu, právě v roce 2013 byly vytvořeny první pozice vyhrazených agentů speciálně pro kontrolu v Pôle Emploi.
Pôle Emploi tak může nahlížet do různých souborů držených společenskými organizacemi, včetně souboru sociálních dávek (RNCPS), národního souboru bankovních účtů (FICOBA) nebo souboru zahraničních rezidentů ve Francii (AGDREF).8.
Od prosince 2020 mají kontrolní úředníci Pôle Emploi také právo na komunikaci, které je opravňuje k získávání informací od Úrovně. Mohou tak získat přístup k bankovním výpisům, požadovat osobní údaje od zaměstnavatelů nebo dodavatelů plynu a elektřiny.
Tato změna se týká všech společenských organizací, a zejména CAF, jejichž přístupová práva jsou ještě rozsáhlejší, a to jak z hlediska souborů, do kterých lze nahlížet, tak i práva komunikace9.
Bodování a algoritmické monitorování
Souběžně s rozšířením práva na přístup k osobním údajům se pro účely kontroly vyvinulo používání „bodovacích“ algoritmů společenskými organizacemi, jejichž účinky (dehumanizace, obtěžování, potíže s odvoláním a posilování diskriminace) jsou pravidelně odsuzovány10. Tyto algoritmy přidělují každému příjemci „skóre rizika“, tj. pravděpodobnost, že se jedná o „podvodníka“, které se pak používá k výběru toho, kdo by měl být zkontrolován.
Rozsáhlé používání skórovacích technik zahájily CAF v roce 2011 a v současnosti se vyvíjí v Pôle Emploi11. Vincent Dubois ve fascinující knize nazvané „Controlling the assisted“ studuje dopad těchto technik na praxi kontroly pomocí CAF.12. S podpůrnými čísly ukazuje, že zavedení rizikového skóre bylo doprovázeno nadměrnou kontrolou nejistých populací, zejména neúplných rodin (zejména svobodných žen), lidí s nízkými příjmy, nezaměstnaných nebo příjemců sociálních minim. .
I když dnes není možné uvést vyčerpávající seznam proměnných používaných k výpočtu rizikového skóre, Vincent Dubois uvádí: výši příjmu, osobní profesní situaci a situaci jeho manžela nebo manželky, rodinnou situaci (jako pár, sám, počet dětí, věk dětí), způsob vyplácení sociálních dávek (bankovním převodem či nikoli) nebo způsob kontaktu s CAF (zavolání či dojezd)13. Účetní dvůr dodává, že se berou v úvahu následující proměnné: státní příslušnost příjemce seskupená do tří kategorií (Francie, EU a mimo EU), poštovní směrovací číslo a také socioekonomické charakteristiky obce bydliště ( podíl zaměstnaných pracovníků, podíl příjemců s nízkými příjmy atd.)14.
Kromě výše zmíněných populací i prostý fakt, že tyto proměnné byly zachovány, naznačuje, že rizikové skóre, a tedy i pravděpodobnost kontroly, je u cizí osoby nebo u obyvatel sousedství vyšší než u zbytku populace. .
Nakonec Vincent Dubois ukazuje, že naprostá většina sankcí přijatých v rámci inspekce je způsobena prostými chybami v hlášení, chybami samotnými zvýhodněnými složitostí pravidel pro výpočet sociálních minim... V tomto kontextu se zdá být legitimní mluvit o skutečných digitálních politikách sociálního obtěžování, tím nesnesitelnější, že s nejbohatšími lidmi se úřady zacházejí mnohem příznivěji. Zejména je třeba poznamenat, že francouzský stát ve stejném období upřednostňoval „smírné“ řešení daňových sporů15. A to, zatímco dostupné odhady ukazují, že výhodný podvododhaduje se na zhruba 2 miliardy eur, je marginální ve srovnání se ztrátami ve výši 80 až 100 miliard eur v důsledku toho daňové podvody.
Evropská otázka (a vítězství)
Tyto otázky najednou vyvstávají také na evropské úrovni kde se projednává nařízení IA. Kromě bezpečnostních aspektů, o kterých jsme diskutovali zde et zde, toto nařízení také otevírá dveře širokému rozvoji takových systémů16.
Ale evropská zkušenost nabízí také perspektivy. V Nizozemsku existuje systém boje proti sociálním podvodům prohlášena za nezákonnou v roce 2020 poté, co byl napaden skupinou spolků. V Polsku byl použit algoritmus pro nezaměstnané prohlásil za protiústavní v roce 2019. Pokaždé byla odsouzena a uznána rizika diskriminace, potíže s postihem nebo nepřiměřené narušení soukromí.
Vyžádejte si posudky
Právě v této souvislosti a je spuštěna výzva k předkládání posudků ve spolupráci s několika organizacemi s těmi, kteří byli předmětem kontroly Pôle Emploi nebo CAF, nebo s agenty veřejné služby, kteří toho byli svědky. Doufáme, že vaše posudky nám pomohou lépe porozumět použitým kontrolním zásadám a algoritmům a zdokumentovat nekalé a diskriminační praktiky. V těchto tématech je mobilizace teprve v plenkách a my se k ní hodláme připojit!
Reference
↑1 | Dopisy, které si Pôle Emploi a tento pracovník vyměnili, nám byly sděleny důvěrně. |
---|---|
↑2 | Viz zejména zpráva ochránce práv „Dematerializace a nerovný přístup k veřejným službám“. 2019. K dispozici zde. |
↑3 | Viz např. doporučení zprávy „Boj proti podvodům se sociálními dávkami, páka sociální spravedlnosti na spravedlivý prospěch“, předložené premiérovi v roce 2019, k dispozici zde. |
↑4 | Tento bod je o to poučnější, že dotyčný pracovník byl zkontrolován již v roce 2017 a k tomuto datu byla skutečnost, že podal žádost poštou, akceptována společností Pôle Emploi. |
↑5 | Viz například dostupný článek Oliviera Tesqueta „Jak se umělá inteligence zaměřuje na ty nejprekérnější“. zde nebo díla z Lucie vnitrozemí. |
↑6 | Víme také, že Pôle Emploi projektem směřuje k automatizaci podpory pro uchazeče o zaměstnání "Můj osobní asistent", nástroj založený na technikách umělé inteligence, který by podle ohlasů, které se nám podařilo shromáždit, poskytl uživatelům nulové skóre zaměstnatelnosti. |
↑7 | Viz práce Cimade "Dematerializace žádostí o povolení k pobytu" k dispozici zde a ti Gisti zde. |
↑8 | Viz zpráva Účetního dvora „Boj proti podvodům v sociálních dávkách“, 2020, str. 53-57, k dispozici zde. |
↑9 | Viz výše citovanou zprávu Účetního dvora „Boj proti podvodům v oblasti sociálních dávek“, s. 53-57. |
↑10 | Viz zprávy ochránce práv zde et zde. Podívejte se také na díla z Lucie vnitrozemí. |
↑11 | Viz zpráva Účetního dvora „Boj proti podvodům v oblasti sociálních dávek“. Citováno výše, str. 50. Kromě toho, i když v současné době přesně nevíme, jak budou data shromážděná „žurnálem hledání zaměstnání“ použita, tripartitní dohoda State-Unédic-Pôle Emploi 2019–2022 odkazuje na jejich použití jako součást „doprovodné“ umělé inteligence. řešení. |
↑12 | Vincent Dubois, 2021. „Kontrola asistovaných. Geneze a použití hesla“. |
↑13 | Viz Vincent Dubois, Morgane Paris a Pierre-Edouard Weil. 2018. „Čísla a práva“. Dostupný zde. |
↑14 | Viz zpráva Účetního dvora „Boj proti podvodům v oblasti sociálních dávek“. Citováno výše, str. 49. |
↑15 | Na toto téma viz Alexis Spire, „Slabí a mocní tváří v tvář zdanění“, 2012. |
↑16 | Viz zpráva Human Rights Watch „QA: jak chybné nařízení EU o umělé inteligenci ohrožuje sociální záchrannou síť“ zde. |
Obchodní podmínky
PŘIHLÁSIT SE K ODBĚRU
Zpráva
Moje komentáře