Aktuální číslo:

2021/10

Téma měsíce:

Domestikace

Singularita

 |  9. 12. 2010
 |  Vesmír 89, 723, 2010/12

Vznik jakožto vznik je ‚singularita‘ – událost či stav, jejíž povahu (strukturu) nelze popsat pojmy popisujícími její bezprostřední okolí.

Zdeněk Neubauer1)

Nedoporučuji, abyste se pustili do googlování slova „singularita“ na webu. Zkusil jsem to a téměř jsem nestihl uzávěrku tohoto čísla. Ukazuje se, že je to slovo nanejvýš chytlavé, rozšířilo se z matematiky, fyziky a kosmologie do mnoha dalších oborů, včetně společenských věd, kde je jednou spojeno s futuristickým nadšením, jindy s katastrofickými scénáři. Uváděné definice jsou přitom buď hodně neurčité anebo příliš poplatné povaze disciplíny, v níž se o singularitě hovoří. Zde nám prozatím vyhoví celkem výstižná a obecná charakteristika singularity od Zdeňka Neubauera, čtěte motto.

Dnes se hodlám zamyslet nad jednou zvlášť pozoruhodnou variantou singularity (někteří ji píší s velkým S, já se připojím, aby bylo jasno). Jak uvidíme, je to Singularita dosti problematická, je však třeba se jí zabývat, alespoň hypoteticky. Kdyby k ní došlo, mohlo by to nás – rozumí se lidstvo – pořádně zaskočit.

Původně se o Singularitě začalo mluvit následkem ohromení z neobyčejně rychlého vývoje výpočetní a informační technologie, jehož jsme živými svědky nejméně od poloviny 20. století (pokud jste mě neuposlechli a otevřeli si google, máte příklad před očima). Není to jen vývoj rychlý, navíc se i rapidně zrychluje. A tam kde je zrychlení, bývá i zrychlení zrychlení, zrychlení zrychlení zrychlení,… až se svět vymkne z rukou – a přijde Singularita.

Technologický vývoj jistě hraje roli, je tu však ještě něco jiného než jen hardware s jeho miniaturizací, obrovskou kapacitou paměti, výpočtovou rychlostí a využítím nových fyzikálních principů. Je tu ještě něco, čemu se říká inteligence. Už jsme si zvykli na to, že se mluví o umělé inteligenci (dále píšu jen AI) nejen jako o disciplíně, ale i jako o něčem, co kromě toho, že je to uměléinteligentní, už brzy bude v našem světě existovat (v proměnlivém významu všech tří proložených slov). Zde již přebírají štafetu čistě spekulativní myslitelé s plným nasazením bujné fantazie. Stojí za pozornost, že to nejsou jen futurističtí vizionáři a autoři sci-fi, ale i technicky a aplikačně orientovaní badatelé s mnohaletou výzkumnou zkušeností.

Zkusme běžet kousek s nimi. Jako první si představme, že AI existuje (výhrady stranou) a že dosáhla úrovně kvalitní, všestranné lidské inteligence.2) Protože vývoj se zde nezastaví a lidský důmysl neochabne, brzy se objeví „chytřejší“ (smarter) inteligence než ta naše, označme ji AI+ (cožpak už dnes počítače neumějí něco lépe než my?). Následuje důležitá úvaha (podle mne problematická; vrátím se k tomu): jestliže my dovedeme zplodit něco chytřejšího, než jsme sami, a jestliže AI+ dovede všechno co my, pak také AI+ dovede (mimo jiné) zplodit něco chytřejšího, než je ona (AI+) sama. Jinými slovy, dovede se vylepšit. Iterací této úvahy dojdeme k něčemu, co se nazývá inteligenční explozí – systémy rekurzivně zdokonalují samy sebe, a toto zdokonalování se stále zrychleněji zrychluje (viz výše), až buď všechno křachne, anebo se objeví cosi zcela mimo naše chápání: superinteligence, čili AI++ (pojmenovat se dá i to, co nechápeme). Singularita v plné své tajemnosti.

Ti, kteří o tom píší,3) se předhánějí s rozmanitými svými odhady, kdy k tomu dojde (příklad odhadu: kolem roku 2035 – mladší čtenáři Vesmíru se toho dožijí!). Z nějakého důvodu lidi rádi čtou odhady své budoucnosti, a proto je to vděčné téma. Myslím však, že jsou tu vážnější věci k úvaze, nadhodím tři.

Jistě by nás zajímalo, jaká je povaha AI+ a jejích následnic. Snadno si představíme konkrétní zdokonalení již na úrovni AI: větší paměť, rychlejší myšlení, více logických úrovní, paralelní myšlení atd. To jsou v nějakém smyslu měřitelné vlastnosti a co je měřitelné, lze prodlužovat či zjemňovat.

Ale jak dál? Lze jen tušit jakýsi superprostor mentálních schopností o bezpočtu dimenzí, kde naše běžné myšlení má k dispozici jen zcela titěrné zákoutí.

Jiné téma k úvaze již souvisí s filosofickým pohledem na lidskou mysl: Je opravdu samozřejmé, že k inteligenci nutně patří i schopnost sama sebe vylepšovat? A jestliže ano, odkud se bere vůle tak činit? Je-li tu vůle, zdalipak je jisté, že se bude realizovat?

Konečně třetí téma:4) chceme to? K Singularitě nemůže dojít pod naším dohledem, nerozumíme jí. Co když se inteligenční exploze rozběhne v onom superprostoru mentálních schopností do nějaké divné a vzdálené oblasti, z jejíž perspektivy jsme my, nevzdělaní, pomalí, zapomětliví a celkově primitivní lidé, jen jakousi nadbytečnou a škodlivou havětí, kterou je třeba rychle vyhubit?

Poznámky

1) Vesmír 74, 151, 1995 (mírně upraveno)

2) Též se objevuje zkratka AGI (artificial general intelligence).

3) Poruším své zvyklosti a nebudu citovat zdroje ani jejich autory – odkazuji na již zmíněný vydatný google.

4) Není to můj nápad – zabývá se tím jeden ústav v USA (The Singularity Institute od Artificial Intelligence, http://singinst. org). Eliezer Yudkowsky z tohoto ústavu razí termín „přátelská AI“ (Friendly AI) pro takové směrování vývoje AI, v němž nebudeme obětováni.

Ke stažení

OBORY A KLÍČOVÁ SLOVA: Filosofie
RUBRIKA: Úvodník

O autorovi

Ivan M. Havel

Doc. Ing. Ivan M. Havel, CSc., Ph.D., (11. 10. 1938 – 25. 4. 2021) po vyloučení z internátní Koleje krále Jiřího pro „buržoazní původ“ dokončil základní školu v Praze a poté se vyučil jemným mechanikem. Později však večerně vystudoval střední školu a večerně také automatizaci a počítače na Elektrotechnické fakultě ČVUT (1961–1966). V letech 1969 až 1971 postgraduálně studoval na Kalifornské univerzitě v Berkeley, kde získal doktorát v matematické informatice. Po návratu se v Ústavu teorie informace a automatizace ČSAV zabýval teorií automatů. Z politických důvodů musel ústav v roce 1979 opustit a až do roku 1989 se živil jako programátor v družstvu invalidů META. Nespokojil se však s prací pro obživu. Organizoval bytové semináře, věnoval se samizdatové literatuře. Po sametové revoluci od listopadu 1989 do června 1990 působil v Koordinačním centru Občanského fóra. V polovině roku 1990 se stal spoluzakladatelem a prvním ředitelem transdisciplinárního pracoviště Centra pro teoretická studia UK a AV ČR. Nadále se zabýval kybernetikou, umělou inteligencí a kognitivní vědou, v souvislosti s transdisciplinaritou jej zajímala komplexita, emergentní jevy, vznik vědomí. V roce 1992 se habilitoval v oboru umělá inteligence. Do roku 2018 přednášel na MFF UK. Od srpna 1990 do konce roku 2019 byl šéfredaktorem časopisu Vesmír. Stejně jako v CTS i zde svou zvídavostí i šíří zájmů propojoval vědce, filosofy, umělce. Editoriály, které psal do Vesmíru, daly vznik knihám Otevřené oči a zvednuté obočí, Zvednuté oči a zjitřená myslZjitřená mysl a kouzelný svět. (Soupis významnějších publikací)
Havel Ivan M.

Doporučujeme

Chrání estrogeny před těžkým průběhem covidu-19?

Chrání estrogeny před těžkým průběhem covidu-19?

Estrogeny jsou pohlavní ženské hormony, které nejenom řídí funkce pohlavního systému, ale významně ovlivňují většinu orgánů a tkání ženského...
Nejlepší cesta, kterou máme

Nejlepší cesta, kterou máme

Eva Bobůrková  |  4. 10. 2021
Člověk se nechová jen racionálně, když se rozhoduje, a to nejen o svých penězích, ale i na pracovním trhu nebo u volebních uren. Jak se občané...
Domestikace zvířat – občas jinak a mimoděk?

Domestikace zvířat – občas jinak a mimoděk?

Jan Robovský  |  4. 10. 2021
Proces domestikace a jeho dílčí aspekty přitahují pozornost vědců nejedné disciplíny. Tento zájem umožňuje jednou za čas získaná data...

Předplatným pomůžete zajistit budoucnost Vesmíru

Tištěná i elektronická
verze časopisu
Digitální archiv
od roku 1994
Speciální nabídka
pro školy a studenty

 

Objednat předplatné