Aktuální číslo:

2020/11

Téma měsíce:

Skladování energie

Singularita

 |  9. 12. 2010
 |  Vesmír 89, 723, 2010/12

Vznik jakožto vznik je ‚singularita‘ – událost či stav, jejíž povahu (strukturu) nelze popsat pojmy popisujícími její bezprostřední okolí.

Zdeněk Neubauer1)

Nedoporučuji, abyste se pustili do googlování slova „singularita“ na webu. Zkusil jsem to a téměř jsem nestihl uzávěrku tohoto čísla. Ukazuje se, že je to slovo nanejvýš chytlavé, rozšířilo se z matematiky, fyziky a kosmologie do mnoha dalších oborů, včetně společenských věd, kde je jednou spojeno s futuristickým nadšením, jindy s katastrofickými scénáři. Uváděné definice jsou přitom buď hodně neurčité anebo příliš poplatné povaze disciplíny, v níž se o singularitě hovoří. Zde nám prozatím vyhoví celkem výstižná a obecná charakteristika singularity od Zdeňka Neubauera, čtěte motto.

Dnes se hodlám zamyslet nad jednou zvlášť pozoruhodnou variantou singularity (někteří ji píší s velkým S, já se připojím, aby bylo jasno). Jak uvidíme, je to Singularita dosti problematická, je však třeba se jí zabývat, alespoň hypoteticky. Kdyby k ní došlo, mohlo by to nás – rozumí se lidstvo – pořádně zaskočit.

Původně se o Singularitě začalo mluvit následkem ohromení z neobyčejně rychlého vývoje výpočetní a informační technologie, jehož jsme živými svědky nejméně od poloviny 20. století (pokud jste mě neuposlechli a otevřeli si google, máte příklad před očima). Není to jen vývoj rychlý, navíc se i rapidně zrychluje. A tam kde je zrychlení, bývá i zrychlení zrychlení, zrychlení zrychlení zrychlení,… až se svět vymkne z rukou – a přijde Singularita.

Technologický vývoj jistě hraje roli, je tu však ještě něco jiného než jen hardware s jeho miniaturizací, obrovskou kapacitou paměti, výpočtovou rychlostí a využítím nových fyzikálních principů. Je tu ještě něco, čemu se říká inteligence. Už jsme si zvykli na to, že se mluví o umělé inteligenci (dále píšu jen AI) nejen jako o disciplíně, ale i jako o něčem, co kromě toho, že je to uměléinteligentní, už brzy bude v našem světě existovat (v proměnlivém významu všech tří proložených slov). Zde již přebírají štafetu čistě spekulativní myslitelé s plným nasazením bujné fantazie. Stojí za pozornost, že to nejsou jen futurističtí vizionáři a autoři sci-fi, ale i technicky a aplikačně orientovaní badatelé s mnohaletou výzkumnou zkušeností.

Zkusme běžet kousek s nimi. Jako první si představme, že AI existuje (výhrady stranou) a že dosáhla úrovně kvalitní, všestranné lidské inteligence.2) Protože vývoj se zde nezastaví a lidský důmysl neochabne, brzy se objeví „chytřejší“ (smarter) inteligence než ta naše, označme ji AI+ (cožpak už dnes počítače neumějí něco lépe než my?). Následuje důležitá úvaha (podle mne problematická; vrátím se k tomu): jestliže my dovedeme zplodit něco chytřejšího, než jsme sami, a jestliže AI+ dovede všechno co my, pak také AI+ dovede (mimo jiné) zplodit něco chytřejšího, než je ona (AI+) sama. Jinými slovy, dovede se vylepšit. Iterací této úvahy dojdeme k něčemu, co se nazývá inteligenční explozí – systémy rekurzivně zdokonalují samy sebe, a toto zdokonalování se stále zrychleněji zrychluje (viz výše), až buď všechno křachne, anebo se objeví cosi zcela mimo naše chápání: superinteligence, čili AI++ (pojmenovat se dá i to, co nechápeme). Singularita v plné své tajemnosti.

Ti, kteří o tom píší,3) se předhánějí s rozmanitými svými odhady, kdy k tomu dojde (příklad odhadu: kolem roku 2035 – mladší čtenáři Vesmíru se toho dožijí!). Z nějakého důvodu lidi rádi čtou odhady své budoucnosti, a proto je to vděčné téma. Myslím však, že jsou tu vážnější věci k úvaze, nadhodím tři.

Jistě by nás zajímalo, jaká je povaha AI+ a jejích následnic. Snadno si představíme konkrétní zdokonalení již na úrovni AI: větší paměť, rychlejší myšlení, více logických úrovní, paralelní myšlení atd. To jsou v nějakém smyslu měřitelné vlastnosti a co je měřitelné, lze prodlužovat či zjemňovat.

Ale jak dál? Lze jen tušit jakýsi superprostor mentálních schopností o bezpočtu dimenzí, kde naše běžné myšlení má k dispozici jen zcela titěrné zákoutí.

Jiné téma k úvaze již souvisí s filosofickým pohledem na lidskou mysl: Je opravdu samozřejmé, že k inteligenci nutně patří i schopnost sama sebe vylepšovat? A jestliže ano, odkud se bere vůle tak činit? Je-li tu vůle, zdalipak je jisté, že se bude realizovat?

Konečně třetí téma:4) chceme to? K Singularitě nemůže dojít pod naším dohledem, nerozumíme jí. Co když se inteligenční exploze rozběhne v onom superprostoru mentálních schopností do nějaké divné a vzdálené oblasti, z jejíž perspektivy jsme my, nevzdělaní, pomalí, zapomětliví a celkově primitivní lidé, jen jakousi nadbytečnou a škodlivou havětí, kterou je třeba rychle vyhubit?

Poznámky

1) Vesmír 74, 151, 1995 (mírně upraveno)

2) Též se objevuje zkratka AGI (artificial general intelligence).

3) Poruším své zvyklosti a nebudu citovat zdroje ani jejich autory – odkazuji na již zmíněný vydatný google.

4) Není to můj nápad – zabývá se tím jeden ústav v USA (The Singularity Institute od Artificial Intelligence, http://singinst. org). Eliezer Yudkowsky z tohoto ústavu razí termín „přátelská AI“ (Friendly AI) pro takové směrování vývoje AI, v němž nebudeme obětováni.

Ke stažení

OBORY A KLÍČOVÁ SLOVA: Filosofie
RUBRIKA: Úvodník

O autorovi

Ivan M. Havel

Doc. Ing. Ivan M. Havel, Ph.D., (*1938) absolvoval FEL ČVUT v Praze. V letech 1969–1971 studoval počítačové vědy (Ph.D.) na University of California v Berkeley. Několik let pracoval jako výzkumný pracovník v Ústavu teorie informace a automatizace ČSAV. V současné době je docentem na Univerzitě Karlově v Praze a působí v CTS, jehož byl v letech 1990 až 2008 ředitelem. Od roku 1990 do roku 2019 byl šéfredaktorem Vesmíru.
Havel Ivan M.

Doporučujeme

Mládě z umělé dělohy

Mládě z umělé dělohy audio

Jaroslav Petr  |  16. 11. 2020
Průlomový počin v oboru tkáňového inženýrství se podařil týmu Anthonyho Ataly z amerického Wake Forest Institute for Regenerative Medicine. V...
Lithium, dar Země modernímu člověku

Lithium, dar Země modernímu člověku

Jan Rohovec, Tomáš Navrátil  |  2. 11. 2020
Nepozorovaně jsme přijali za své lehké notebooky, tenké mobilní telefony, drobnou elektroniku. Přestala nás udivovat možnost opakovaně nabíjet a...
Největší pískovcová skalní oblast Evropy

Největší pískovcová skalní oblast Evropy

Handrij Härtel  |  2. 11. 2020
V českém kontextu je České Švýcarsko jen jedno z několika skalních měst. V Evropě je to unikát. Ve světovém měřítku ho „zastiňují“ jiné oblasti....

Předplatným pomůžete zajistit budoucnost Vesmíru

Tištěná i elektronická
verze časopisu
Digitální archiv
od roku 1994
Speciální nabídka
pro školy a studenty

 

Objednat předplatné