Je tu v Silicon Valley probíhá velká debata o umělé inteligenci a bohužel sázky jsou poměrně vysoké: Budeme náhodou postavit super chytrou A.I. který se na nás obrátí a všechny nás zabije nebo zotročí?
jméno přítelkyně daniel tosh 2014
Může to znít jako scénář letního katastrofického filmu, ale obává se některých docela velkých jmen, od Elona Muska po pozdní Stephen Hawking .
„Řekněme, že vytvoříte sebezlepšující se A.I. sbírat jahody, ' Musk řekl , vysvětluje své obavy, „a bude sbírat jahody čím dál tím lépe a bude se sbírat stále více a bude se zlepšovat samo, takže vše, co opravdu chce udělat, je sbírat jahody. Celý svět by tedy byl jahodovými poli. Jahodová pole navždy. “ Lidé v cestě této jahodové pacalypse by byli jen postradatelným dráždidlem pro A.I.
Ale lidé by určitě nebyli tak hloupí, aby náhodou navrhli A.I. řízen k přeměně celé civilizace na jednu obří bobulovou farmu? Možná ne, ale jako Janelle Shane , výzkumník, který trénuje neuronové sítě, typ algoritmu strojového učení, o kterém se nedávno zmínil její blog, A.I. Divnost , je zcela možné, že by to mohli udělat omylem.
Ve skutečnosti by to nebylo vůbec poprvé, co by si lidé mysleli, že staví roboty pro jeden úkol, jen aby se otočili a zjistili, že roboti hrají systém způsobem, který nikdy nezamýšleli. Fascinující příspěvek proniká do akademické literatury, aby se podělil o několik příkladů divokých robotů. Jsou vtipní, chytří a společně vzato více než trochu strašidelní.
1. Kdo potřebuje nohy, když můžete padat?
„Simulovaný robot se měl vyvíjet tak, aby cestoval co nejrychleji. Ale místo aby se vyvinuly nohy, jednoduše se sestavil do vysoké věže a pak spadl. Někteří z těchto robotů se dokonce naučili proměnit svůj padající pohyb v salto a přidat tak další vzdálenost, “píše Shane.
2. Robot, který může, může.
„Další sada simulovaných robotů se měla vyvinout do formy, která dokáže skákat. Programátor ale původně definoval výšku skákání jako výšku nejvyššího bloku, takže - opět - se roboti vyvinuli jako velmi vysoký, “vysvětluje Shane. „Programátor se to pokusil vyřešit definováním výšky skoku jako výšky bloku, která byla původně„ nejnižší “. V reakci na to robot vyvinul dlouhou hubenou nohu, kterou mohl vykopnout vysoko do vzduchu v jakési plechovce robota. “
3. Skryjte test a nemůžete jej propadnout.
„Existoval algoritmus, který měl třídit seznam čísel. Místo toho se naučil smazat seznam, aby už nebyl technicky netříděný, “vypráví Shane.
4. Matematické chyby porazily tryskové palivo.
„V jedné simulaci se roboti naučili, že malé chyby zaokrouhlování v matematice, které vypočítávaly síly, znamenají, že pohybem dostali trochu energie navíc. Naučili se rychle škubat a generovat spoustu volné energie, kterou mohli využít, “říká Shane. Hej, to je podvádění!
5. Nepřemožitelná (i když destruktivní) strategie tic-tac-toe.
Jakmile skupina „programátorů vytvořila algoritmy, které dokázaly vzdáleně hrát tic-tac-toe proti sobě na nekonečně velké desce,“ poznamenává Shane. „Jeden programátor, místo aby navrhl strategii svého algoritmu, nechal to vyvinout vlastní přístup. Algoritmus překvapivě začal vyhrávat všechny své hry. Ukázalo se, že strategií algoritmu bylo umístit svůj pohyb velmi, velmi daleko, takže když se počítač jeho oponenta pokusil simulovat novou značně rozšířenou desku, obrovská hrací deska by způsobila vyčerpání paměti a zhroucení, což by propadlo hra.'
6. Žádná užitečná závada na hře nezůstane nevyužita.
„Algoritmy pro hraní počítačových her jsou opravdu dobré v objevování druhů závad Matrixu, které se lidé obvykle učí využívat pro rychlý běh. Algoritmus hrající starou hru Atari Q * bert objevil dříve neznámou chybu, kde mohl provádět velmi specifickou sérii tahů na konci jedné úrovně a místo přechodu na další úroveň začaly všechny platformy rychle blikat a hráč by začal hromadit obrovské množství bodů, “říká Shane.
7. Promiň, pilote.
Tento příklad je na stupnici plazivosti velmi vysoký: „Existoval algoritmus, který měl zjistit, jak aplikovat minimální sílu na letadlo přistávající na letadlové lodi. Místo toho zjistil, že pokud použije „obrovskou“ sílu, přeteče paměť programu a místo toho se zaregistruje jako „malá“ síla. Pilot by zemřel, ale hej, perfektní skóre. “
Takže jsme všichni odsouzeni?
To vše dohromady naznačuje, že lidé jsou docela mizerní při hádání, jak roboti vyřeší problémy, které jsme jim nastavili, nebo dokonce, jak budou problémy definovat. Znamená to tedy, že se Shane stejně obává náhodného vybudování vražedného A.I. vládci jako je Musk? Ne tak docela, ale ne proto, že si je jistá, že lidští programátoři mají opravdu dobrou kontrolu nad roboty, které vytvářejí. Místo toho financuje lenost robota, aby nás zachránila.
„Jako programátoři musíme být velmi opatrní, aby naše algoritmy řešily problémy, které jsme pro ně chtěli řešit, a nepoužívali zkratky. Pokud existuje další, snadnější cesta k řešení daného problému, strojové učení to pravděpodobně najde, “poznamenává. „Naštěstí pro nás je„ zabít všechny lidi “opravdu těžké. Pokud „upečení neuvěřitelně lahodného dortu“ také vyřeší problém a bude snazší než „zabít všechny lidi“, pak strojové učení půjde s dortem. “
