Singularita

Nedoporučuji, abyste se pustili do googlování slova „singularita“ na webu. Zkusil jsem to a téměř jsem nestihl uzávěrku tohoto čísla. Ukazuje se, že je to slovo nanejvýš chytlavé, rozšířilo se z matematiky, fyziky a kosmologie do mnoha dalších oborů, včetně společenských věd, kde je jednou spojeno s futuristickým nadšením, jindy s katastrofickými scénáři. Uváděné definice jsou přitom buď hodně neurčité anebo příliš poplatné povaze disciplíny, v níž se o singularitě hovoří. Zde nám prozatím vyhoví celkem výstižná a obecná charakteristika singularity od Zdeňka Neubauera, čtěte motto.

Dnes se hodlám zamyslet nad jednou zvlášť pozoruhodnou variantou singularity (někteří ji píší s velkým S, já se připojím, aby bylo jasno). Jak uvidíme, je to Singularita dosti problematická, je však třeba se jí zabývat, alespoň hypoteticky. Kdyby k ní došlo, mohlo by to nás – rozumí se lidstvo – pořádně zaskočit.

Původně se o Singularitě začalo mluvit následkem ohromení z neobyčejně rychlého vývoje výpočetní a informační technologie, jehož jsme živými svědky nejméně od poloviny 20. století (pokud jste mě neuposlechli a otevřeli si google, máte příklad před očima). Není to jen vývoj rychlý, navíc se i rapidně zrychluje. A tam kde je zrychlení, bývá i zrychlení zrychlení, zrychlení zrychlení zrychlení,… až se svět vymkne z rukou – a přijde Singularita.

Technologický vývoj jistě hraje roli, je tu však ještě něco jiného než jen hardware s jeho miniaturizací, obrovskou kapacitou paměti, výpočtovou rychlostí a využítím nových fyzikálních principů. Je tu ještě něco, čemu se říká inteligence. Už jsme si zvykli na to, že se mluví o umělé inteligenci (dále píšu jen AI) nejen jako o disciplíně, ale i jako o něčem, co kromě toho, že je to umělé a inteligentní, už brzy bude v našem světě existovat (v proměnlivém významu všech tří proložených slov). Zde již přebírají štafetu čistě spekulativní myslitelé s plným nasazením bujné fantazie. Stojí za pozornost, že to nejsou jen futurističtí vizionáři a autoři sci-fi, ale i technicky a aplikačně orientovaní badatelé s mnohaletou výzkumnou zkušeností.

Zkusme běžet kousek s nimi. Jako první si představme, že AI existuje (výhrady stranou) a že dosáhla úrovně kvalitní, všestranné lidské inteligence.²⁾ Protože vývoj se zde nezastaví a lidský důmysl neochabne, brzy se objeví „chytřejší“ (smarter) inteligence než ta naše, označme ji AI+ (cožpak už dnes počítače neumějí něco lépe než my?). Následuje důležitá úvaha (podle mne problematická; vrátím se k tomu): jestliže my dovedeme zplodit něco chytřejšího, než jsme sami, a jestliže AI+ dovede všechno co my, pak také AI+ dovede (mimo jiné) zplodit něco chytřejšího, než je ona (AI+) sama. Jinými slovy, dovede se vylepšit. Iterací této úvahy dojdeme k něčemu, co se nazývá inteligenční explozí – systémy rekurzivně zdokonalují samy sebe, a toto zdokonalování se stále zrychleněji zrychluje (viz výše), až buď všechno křachne, anebo se objeví cosi zcela mimo naše chápání: superinteligence, čili AI++ (pojmenovat se dá i to, co nechápeme). Singularita v plné své tajemnosti.

Ti, kteří o tom píší,³⁾ se předhánějí s rozmanitými svými odhady, kdy k tomu dojde (příklad odhadu: kolem roku 2035 – mladší čtenáři Vesmíru se toho dožijí!). Z nějakého důvodu lidi rádi čtou odhady své budoucnosti, a proto je to vděčné téma. Myslím však, že jsou tu vážnější věci k úvaze, nadhodím tři.

Jistě by nás zajímalo, jaká je povaha AI+ a jejích následnic. Snadno si představíme konkrétní zdokonalení již na úrovni AI: větší paměť, rychlejší myšlení, více logických úrovní, paralelní myšlení atd. To jsou v nějakém smyslu měřitelné vlastnosti a co je měřitelné, lze prodlužovat či zjemňovat.

Ale jak dál? Lze jen tušit jakýsi superprostor mentálních schopností o bezpočtu dimenzí, kde naše běžné myšlení má k dispozici jen zcela titěrné zákoutí.

Jiné téma k úvaze již souvisí s filosofickým pohledem na lidskou mysl: Je opravdu samozřejmé, že k inteligenci nutně patří i schopnost sama sebe vylepšovat? A jestliže ano, odkud se bere vůle tak činit? Je-li tu vůle, zdalipak je jisté, že se bude realizovat?

Konečně třetí téma:⁴⁾ chceme to? K Singularitě nemůže dojít pod naším dohledem, nerozumíme jí. Co když se inteligenční exploze rozběhne v onom superprostoru mentálních schopností do nějaké divné a vzdálené oblasti, z jejíž perspektivy jsme my, nevzdělaní, pomalí, zapomětliví a celkově primitivní lidé, jen jakousi nadbytečnou a škodlivou havětí, kterou je třeba rychle vyhubit?