Přistiženi při činu: Tisíce zaměstnanců Amazonu odposlouchávají rozhovory Alexa (Zerohedge)

Amazon zaměstnává tisíce lidí, aby poslouchali, co lidé z celého světa říkají jejich digitální asistentce Alexa, což bude jistě inspirativní zpráva pro slyšení v Kongresu. Bloomberg, cituje sedm lidí, kteří na programu pracovali.

Zatímco jejich úkolem je „pomoci zlepšit“ NSAlexa – která pohání firemní řadu reproduktorů Echo – tým „poslouchá hlasové nahrávky zachycené v domácnostech a kancelářích majitelů Echo“, které jsou následně přepsány, komentovány a vkládány zpět do softwaru, aby Alexa lépe pochopila lidský jazyk a usnadnila interakce. Jinými slovy, lidé účinně pomáhají trénovat Amazonův algoritmus.

V marketingových materiálech Amazon říká, že Alexa „žije v cloudu a je stále chytřejší“. Ale jako mnoho softwarových nástrojů navržených tak, aby se učily ze zkušeností, část výuky vykonávají lidé. -Bloomberg

Naslouchací tým se skládá z dodavatelů na částečný úvazek a zaměstnanců Amazonu na plný úvazek po celém světě, včetně Indie, Rumunska, Bostonu a Kostariky.

Auditoři pracují na devítihodinové směny, každý zkontroluje až 1000 zvukových klipů za směnu, podle dvou zaměstnanců bukurešťské kanceláře Amazonu, která se nachází v horních třech patrech budovy Globalworth v rumunském hlavním městě. Místo „vyčnívá mezi zchátralou infrastrukturou“ čtvrti Pipera a „nenese žádné vnější označení oznamující přítomnost Amazonu“.

I když je velká část práce nudná (jeden pracovník řekl, že jeho úkolem bylo extrahovat nahromaděná hlasová data pro konkrétní fráze, jako je „Taylor Swift“ – dát systému vědět, že hledající hledal umělce), kritici také poslouchají nejosobnější momenty lidí.

Někdy posluchači slyší věci, které si majitelé Echa raději nechávají pro sebe: například žena špatně zpívá ve sprše nebo dítě křičí o pomoc. Týmy používají interní diskusní fóra ke sdílení souborů, když potřebují pomoc s analýzou matoucího slova nebo nalezení vtipné nahrávky. -Bloomberg

Někdy posluchači Amazonu čelit stresujícím nahrávkám nebo možná ilegálním aktivitám - například dva pracovníci, kteří říkají, že poslouchali, co znělo sexuálního napadení.

Podle zprávy, když se takové věci stanou, pracovníci o tom mluví v interní chatovací místnosti, aby „zmírnili stres“.

A přestože Amazon tvrdí, že má postupy, které je třeba dodržovat, když pracovníci slyší znepokojivé věci, dva zaměstnanci sídlící v Rumunsku říkají, že jim bylo řečeno, že „nebylo úkolem Amazonu zasahovat“ při žádosti o radu pro takové případy.

„Bezpečnost a soukromí osobních údajů našich zákazníků bereme vážně,“ uvedl mluvčí Amazonu v prohlášení poskytnutém Bloombergu.

"Anotujeme pouze velmi malý vzorek hlasových nahrávek Alexa, abychom zlepšili zákaznickou zkušenost. Tyto informace nám například pomáhají trénovat naše systémy rozpoznávání řeči a porozumění přirozenému jazyku." aby Alexa mohla lépe porozumět vašim požadavkům a zajistit, aby služba fungovala dobře pro všechny “, pokračuje prohlášení. „Máme přísné technické a provozní záruky a politiku nulové tolerance pro zneužití našeho systému. Zaměstnanci nemají v rámci tohoto pracovního postupu přímý přístup k informacím umožňujícím osobní identifikaci nebo k informacím o účtu. Se všemi informacemi je zacházeno s maximální důvěrností a k jejich ochraně používáme vícefaktorovou autentizaci k omezení přístupu, šifrování služby a auditů našeho kontrolního prostředí."

To znamená, Amazon nezmiňuje skutečnost, že lidé poslouchají nahrávky určitých rozhovorů zachycených Alexou. Místo toho mají ve svých často kladených dotazech obecné prohlášení o vyloučení odpovědnosti, které říká: „Používáme vaše požadavky na Alexu, abychom trénovali naše systémy rozpoznávání řeči a porozumění přirozenému jazyku.“

Co Amazon zaznamenává

podle podmínky použití Amazon Alexa, společnost shromažďuje a uchovává většinu toho, co říkáte Alexa - včetně geolokace produktu a vašich hlasových pokynů, hlášeno Todd Haselton de CNBC loni v listopadu.

Vaše zprávy, požadavky na komunikaci (např. „Alexa, zavolej mámě“) a související pokyny jsou „Interakce s Alexou“, jak je popsáno v podmínkách služby Alexa. Amazon zpracovává a ukládá vaše interakce Alexa a související informace v cloudu, aby mohl reagovat na vaše požadavkys (např. „Odeslat zprávu mámě“), poskytovat další funkce (např. přepis z řeči na text a naopak) a zlepšovat naše Služby. - Podmínky služby Amazon

Alexo, špehuješ mě?

Alexa: *kašle* Ne, samozřejmě že ne.

— Omyl, Briane (@leonidasmoderus) 25 2018 května

Loni v květnu Amazon Echo zaznamenal rozhovor mezi manželem a manželkou a poté jej poslal jednomu z manželových telefonních kontaktů. Amazon tvrdí, že během konverzace někdo použil slovo, které znělo jako „Alexa“, což způsobilo, že zařízení začalo nahrávat.

Echo se probudilo kvůli slovu v konverzaci na pozadí, které znělo jako „Alexa,“ uvedl Amazon v prohlášení. "Pak byla další konverzace vyslyšena jako žádost o zaslání zprávy. V tu chvíli Alexa nahlas řekla: 'Komu? V tu chvíli byla konverzace na pozadí interpretována jako jméno v seznamu kontaktů zákazníka. Alexa se pak nahlas zeptal: „[jméno kontaktu], že? Alexa pak interpretoval konverzaci na pozadí jako „dobrou“ konverzaci. Jakkoli je tato série událostí nepravděpodobná, vyhodnocujeme možnosti, jak tuto záležitost ještě snížit.

Manželka Danielle však řekla, že ji Echo nikdy nepožádalo o svolení poslat zvuk. Zpočátku můj manžel říkal: ‚Ne, to jsi neudělal‘,“ řekla Danielle pro KIRO7. "A on řekl: "Seděl jsi tam a mluvil o dřevěných podlahách." A my jsme řekli: "Ach můj bože, opravdu se ti to povedlo!"

Můžete deaktivovat?

Alexa umožňuje lidem přestat sdílet své hlasové nahrávky pro vývoj nových funkcí, protože snímek obrazovky zkontrolovaný agenturou Bloomberg odhaluje, že nahrávky poskytnuté posluchačům Alexa neposkytují celé jméno nebo adresu „uživatele“. Registraci však spojuje s číslem účtu, křestním jménem uživatele a sériovým číslem zařízení.

„Nemusíte nutně myslet na to, že jiná lidská bytost poslouchá, co říkáte svému chytrému reproduktoru v soukromí vašeho domova,“ řekl Florian Schaub, profesor na UMich, který studoval otázky ochrany soukromí související s chytrými reproduktory. "Myslím, že jsme byli podmíněni předpokladem, že tyto stroje dělají pouze kouzla. Ale faktem je, že."vždy dochází k ručnímu zpracování."

„Zda se jedná o problém ochrany osobních údajů či nikoli, závisí na tom, jak pečlivý je Amazon a další společnosti ohledně toho, jaké informace ručně anotovaly. a jak je někomu prezentují “, dodává pan Schaub.

Zdroj: Zerohedge

Doplňující informace: