Tváří v tvář lákadlu zisku se dvě umělé inteligence Google ukázaly jako „velmi agresivní“

Nejlepší způsob, jak poznat, zda vývoj umělé inteligence postupuje, je uvést ji do praxe. Za tímto účelem dceřiná společnost Google Deepmind nedávno integrovala AI do virtuálních her, aby zjistila, jaké by bylo jejich chování v dané situaci. Mezi spoluprací a konfrontací nám tato fascinující studie primitivním způsobem ukazuje, že umělé inteligence se nezastaví před ničím, aby dosáhly svých cílů.

Poté, co prokázali své schopnosti tím, že se odlišili Jdi na hru, nedávno porazil nejlepší hráče na světě, AI Google se ocitli ve videohrách, v rámci studie tzv „Multi-agent posílení učení v sekvenčních sociálních dilematech“. Podle týmů DeepmindCílem této studie je zjistit, zda by umělé inteligence tváří v tvář lákadlu zisku upřednostňovaly spolupráci nebo konfrontaci. Pokud videohry vypadají jako hrubé verze Pacmana, výsledky nám umožňují vyvodit nějaké závěry.

AI Crashdebug 22 11 2017

Deepmind AI porazila nejlepší hráče Go na světě v první hře s názvem "Shromáždění", hráči musí nasbírat co nejvíce jablek z centrálního bodu. Každý hráč má laserovou pistoli, aby mohl dočasně zlikvidovat svého soupeře, zatímco sbírá co nejvíce jablek. AI Deepmind jsou v červené a modré, laserové paprsky ve žluté a jablka v zelené. Na začátku hry, když je dostatek jablek pro oba hráče, svedou poklidnou bitvu. AI však neváhají použít svou laserovou pistoli k neutralizaci svého protivníka, když je jablek málo.    

Pomocí forem Deepmind stále složitější, výzkumníci navrhli, že čím inteligentnější je agent, tím více je schopen se učit ze svého prostředí, což mu umožňuje používat velmi agresivní taktiku, aby získal převahu. „Tento model…ukazuje, že určité aspekty lidského chování se objevují jako produkt prostředí a učení. Méně agresivní politiky vycházejí z učení v relativně hojném prostředí s méně příležitostmi pro nákladné akce. Motivace chamtivosti odráží pokušení překonat soupeře a sbírat všechna jablka sami,“ vysvětluje Joel Z Leibo, člen výzkumného týmu.

Ve druhé hře tzv "Vlčí smečka", jsou přítomny tři umělé inteligence: dva vlci musí ulovit kořist a zajmout ji v prostředí plném překážek, jako smečka. Na rozdíl od předchozí hry, Vlčí Smečka podporuje spolupráci. pokud jsou oba vlci blízko kořisti, když je chycena, pak oba obdrží odměnu, bez ohledu na to, kdo ji chytil.

AI videohry
Podle Stephena Hawkinga bude umělá inteligence „to nejlepší nebo nejhorší, co se lidstvu stalo“

„Myšlenka je taková, že kořist je nebezpečná – osamělý vlk ji dokáže překonat, ale riskuje, že o mršinu přijde mrchožrout. Když však oba vlci uloví kořist společně, mohou lépe ochránit mršinu proti mrchožroutům, a proto dostanou vyšší odměnu,“ vysvětluje tým ve své zprávě. 

V závislosti na svém prostředí AI upřednostňovaly agresi a sobectví nebo spolupráci pro větší osobní úspěch. Li Google zatím nezveřejnila svou studii, první výsledky ukazují, že vývoj umělých inteligencí neznamená, že by považovaly naše vlastní zájmy za absolutní prioritu.

 

Prameny): Dailygeekshow.com přes Vzteklé ovce.co.uk

Doplňující informace:

Crashdebug.fr: NextAge 06...

 


Nejnovější články

S ohněm a krví... (JDM)

Francie na pokraji chaosu: Čeho se bát a co dělat? (Marc Touati)

Přihlaste se k odběru Daily Crashletter

Přihlaste se k odběru Crashletteru a získejte všechny nové články na webu v 17:00.

Informatique

Oranžový telefon

VSA: Shromáždění již projednává jeho rozšíření na dopravu (LQDN)

Přátelské stránky