Nick Bostrom: „Konečným cílem umělé inteligence musí být zmizení práce“

+ VIDEO. Filozof a profesor na Oxfordu Nick Bostrom je autorem „Superinteligence“, eseje varující před riziky umělé inteligence nadřazené člověku. V rozhovoru pro "Echoes" se ale domnívá, že výhody AI pravděpodobně převáží nad nebezpečími.

Minulý měsíc průzkum mezi odborníky na umělou inteligenci uvedl, že bude trvat nejméně pětačtyřicet let, než budou stroje plnit všechny úkoly stejně dobře jako lidé. Co si myslíte o této studii?

Vidíme, že neexistuje konsenzus: někteří badatelé si myslí, že se to stane za deset let, jiní, že to bude trvat několik set let, nebo že se to nikdy nestane. Názory i mezi odborníky jsou poměrně široké. Myslím, že skutečným poučením je, že nikdo vlastně neví, kdy umělá inteligence překoná tu lidskou. Musíme tedy přijmout tuto nejistotu.

Vy osobně si myslíte, že cesta bude ještě dlouhá?

Myslím, že nevíme. Musíme tedy toto téma zvažovat v krátkém i dlouhém čase.

Je to proto, že vědci měli pocit, že by nikdy neuspěli?

Vědci si pravděpodobně mysleli, že cíle nebude dosaženo, nebo ne po stovky let. Ve skutečnosti byli průkopníci AI velmi optimističtí, mysleli si, že to bude trvat jen asi deset let. Ale přesto o důsledcích nemluvili...

Za více než půl století existence umělá inteligence poznala několik „zim“, tedy období, kdy se výzkum téměř zastavil, protože původní naděje byly zklamány. Myslíte si, že doména je trvale mimo zimu?

Dnes je spíš jaro nebo léto. Bude po tom následovat další zima? Pochybuji o tom, protože současné technologie umělé inteligence jsou dostatečně dobré na to, aby již měly značný počet aplikací. Myslím si, že toto odvětví bude i nadále přitahovat značné investice kvůli potřebám vyhledávačů, rozpoznávání řeči nebo autonomních vozů. Existuje mnoho případů, kdy komerční aplikace buď již existují, nebo budou existovat ve velmi krátké době.

Loni v září Google, Amazon, facebook, IBM a Microsoft vytvořily organizaci Partnership on AI, jejímž cílem je zajistit, aby pokroky v AI byly přínosem pro lidstvo. Institut, který vedete, se k tomuto partnerství připojil v květnu. Proč jsi čekal tak dlouho?

Původně to byla iniciativa těchto velkých skupin, které se nejprve zorganizovaly ke společné práci na těchto tématech. Teprve později se otevřeli dalším organizacím. S některými z nich ale o těchto tématech diskutujeme déle.

Myslíte si, že partnerství společností, které nejvíce investují do AI, je vhodným způsobem, jak zajistit etické využívání?

Myslím, že je pozitivní krok, že průmysl o těchto tématech přemýšlí. Samozřejmě to nesmí být jediné fórum, kde lidstvo diskutuje o důsledcích umělé inteligence – musí se ho chopit i univerzity, instituty, vlády, nevládní organizace.

Vaše obavy z hrozby, kterou by superinteligence představovala pro lidstvo, vyjádřilo mnoho osobností, včetně Stephena Hawkinga. Považujete se za whistleblowera?

Ne. Ve skutečnosti jsem spíše optimistický ohledně výhod, které lze od umělé inteligence očekávat. Je pravda, že mnoho stránek mé knihy je věnováno tomu, co by se mohlo pokazit, ale je to proto, že musíme přesně pochopit, kde jsou nebezpečí, abychom se jim mohli vyhnout. Ve střednědobém horizontu jsou pozitivní aspekty mnohem vyšší. A z dlouhodobého hlediska jsou možné oba scénáře, pozitivní i negativní.

Ve střednědobém horizontu však existuje obava, že stroje budou přebírat stále více úkolů, které byly dosud vyhrazeny lidem, a že to zničí pracovní místa. Je to téma, které zajímá i vás?

Myslím, že konečným cílem musí být úplné zmizení práce. To, co chceme udělat, je nahradit potřebu lidí pracovat nejen umělou inteligencí, ale automatizací jako celkem – pokud jsme vynalezli pluh, je to proto, abychom vám zlomili záda.

Dnes je však umělá inteligence vnímána jako automatizace mozku, což se může bílým límečkům zdát děsivé. Nikdo si nechce lámat záda, aby mohl žít, ale novinář nebo filozof nutně nechce, aby práci dělaly za něj stroje...

Věřím, že existují dva aspekty. Pokud stroje mohou nahradit lidskou práci kdekoli na světě, jak získáme příjem? Na tuto otázku existuje řada odpovědí: stroje můžete zdanit, můžete do nich investovat kapitál, který během přechodu rychle poroste a bude generovat nájem, můžete získat státní podporu...

Druhý aspekt se týká sebeúcty. Lidská důstojnost je úzce spjata se skutečností uspokojování vlastních potřeb, vyděláváním si na chleba. Myslím, že je to něco, co bude muset být přehodnoceno v tomto budoucím světě, kde již nebudeme muset pracovat, abychom mohli žít. Myslím, že budeme muset přehodnotit vzdělávání, které je navrženo tak, aby vytvořilo produktivní soukolí ekonomického stroje. Možná se v budoucnu budou muset lidé učit, aby smysluplně využívali svůj volný čas, ovládali umění konverzace, měli koníčky, které jim zpříjemňují život.

Je to něco, o čem je třeba začít přemýšlet právě teď, protože stroje začínají být chytřejší a produktivnější...

Ano, ale ještě tam nejsme. Nejsem přesvědčen, že v současné době mají tyto technologie umělé inteligence velký dopad na trh práce, myslím si, že to vše je ještě možnost do budoucna. Musíme věnovat pozornost rozdílu mezi kapacitou strojů vykonávat určité úkoly a jejich schopností vykonávat určité práce. Pokud si vezmete příklad autonomního vozu, představte si vozidlo, které by v 99 % případů jelo samo: vždy bude potřebovat řidiče. Nyní si představte 100% samostatný model. Rozdíl se může zdát malý, ale dopad na trh práce je obrovský: lidského řidiče buď potřebujete, nebo ne. A bude to trvat déle, než si myslíte, než se dostanete do bodu, kdy veškerou práci odvedou stroje a skutečně naruší trh práce.

Před dvaceti lety jste spoluzakládal Světovou transhumanistickou asociaci. Od té doby se transhumanistické hnutí stalo vysoce propagovaným a vysoce kontroverzním. Stále se považujete za transhumanistu?

Nemám tendenci se definovat jako transhumanistu, protože tento termín používají velmi různí lidé ve velmi odlišných významech, což je matoucí. Myslím si, že v budoucnu nebude technologie využívána pouze k transformaci vnějšího světa, ale že nabídne možnosti transformace lidské povahy rozšířením našich lidských kapacit. Když si představíme, jací budou lidé za milion let, bylo by mi velmi zvláštní, kdybychom byli stále těmi dvounožci zavřenými v malých autech s 1,5 kilovým mozkem, který se příliš neliší od toho opičího!

Nick Bostrom, narozený v roce 1973, vystudoval fyziku a neurovědy, než promoval na London School of Economics.

V roce 1998 založil s filozofem Davidem Pearcem Světovou transhumanistickou asociaci, nevládní organizaci podporující etické využívání nových technologií ke zlepšení lidského druhu. Od té doby se distancoval od transhumanistického hnutí.

Profesor na filozofické fakultě v Oxfordu, založil tam Future of Humanity Institute v roce 2005.

Jeho esej „Superinteligence: Paths, Dangers, Strategies“ (Oxford University Press, 2014) získala celosvětovou pozornost.

Zejména to inspirovalo otevřený dopis o etických otázkách umělé inteligence podepsaný 8000 2015 osobnostmi, včetně Stephena Hawkinga a Elona Muska, zveřejněný v lednu XNUMX.

Nick Bostrom byl 19. června hostem konference USI (Unexpected Sources of Inspiration) v Paříži.

Prameny): Les Echos.fr

Doplňující informace: