Aktuální číslo:

2025/7

Téma měsíce:

Umění

Obálka čísla

Singularita

 |  9. 12. 2010
 |  Vesmír 89, 723, 2010/12

Vznik jakožto vznik je ‚singularita‘ – událost či stav, jejíž povahu (strukturu) nelze popsat pojmy popisujícími její bezprostřední okolí.

Zdeněk Neubauer1)

Nedoporučuji, abyste se pustili do googlování slova „singularita“ na webu. Zkusil jsem to a téměř jsem nestihl uzávěrku tohoto čísla. Ukazuje se, že je to slovo nanejvýš chytlavé, rozšířilo se z matematiky, fyziky a kosmologie do mnoha dalších oborů, včetně společenských věd, kde je jednou spojeno s futuristickým nadšením, jindy s katastrofickými scénáři. Uváděné definice jsou přitom buď hodně neurčité anebo příliš poplatné povaze disciplíny, v níž se o singularitě hovoří. Zde nám prozatím vyhoví celkem výstižná a obecná charakteristika singularity od Zdeňka Neubauera, čtěte motto.

Dnes se hodlám zamyslet nad jednou zvlášť pozoruhodnou variantou singularity (někteří ji píší s velkým S, já se připojím, aby bylo jasno). Jak uvidíme, je to Singularita dosti problematická, je však třeba se jí zabývat, alespoň hypoteticky. Kdyby k ní došlo, mohlo by to nás – rozumí se lidstvo – pořádně zaskočit.

Původně se o Singularitě začalo mluvit následkem ohromení z neobyčejně rychlého vývoje výpočetní a informační technologie, jehož jsme živými svědky nejméně od poloviny 20. století (pokud jste mě neuposlechli a otevřeli si google, máte příklad před očima). Není to jen vývoj rychlý, navíc se i rapidně zrychluje. A tam kde je zrychlení, bývá i zrychlení zrychlení, zrychlení zrychlení zrychlení,… až se svět vymkne z rukou – a přijde Singularita.

Technologický vývoj jistě hraje roli, je tu však ještě něco jiného než jen hardware s jeho miniaturizací, obrovskou kapacitou paměti, výpočtovou rychlostí a využítím nových fyzikálních principů. Je tu ještě něco, čemu se říká inteligence. Už jsme si zvykli na to, že se mluví o umělé inteligenci (dále píšu jen AI) nejen jako o disciplíně, ale i jako o něčem, co kromě toho, že je to uměléinteligentní, už brzy bude v našem světě existovat (v proměnlivém významu všech tří proložených slov). Zde již přebírají štafetu čistě spekulativní myslitelé s plným nasazením bujné fantazie. Stojí za pozornost, že to nejsou jen futurističtí vizionáři a autoři sci-fi, ale i technicky a aplikačně orientovaní badatelé s mnohaletou výzkumnou zkušeností.

Zkusme běžet kousek s nimi. Jako první si představme, že AI existuje (výhrady stranou) a že dosáhla úrovně kvalitní, všestranné lidské inteligence.2) Protože vývoj se zde nezastaví a lidský důmysl neochabne, brzy se objeví „chytřejší“ (smarter) inteligence než ta naše, označme ji AI+ (cožpak už dnes počítače neumějí něco lépe než my?). Následuje důležitá úvaha (podle mne problematická; vrátím se k tomu): jestliže my dovedeme zplodit něco chytřejšího, než jsme sami, a jestliže AI+ dovede všechno co my, pak také AI+ dovede (mimo jiné) zplodit něco chytřejšího, než je ona (AI+) sama. Jinými slovy, dovede se vylepšit. Iterací této úvahy dojdeme k něčemu, co se nazývá inteligenční explozí – systémy rekurzivně zdokonalují samy sebe, a toto zdokonalování se stále zrychleněji zrychluje (viz výše), až buď všechno křachne, anebo se objeví cosi zcela mimo naše chápání: superinteligence, čili AI++ (pojmenovat se dá i to, co nechápeme). Singularita v plné své tajemnosti.

Ti, kteří o tom píší,3) se předhánějí s rozmanitými svými odhady, kdy k tomu dojde (příklad odhadu: kolem roku 2035 – mladší čtenáři Vesmíru se toho dožijí!). Z nějakého důvodu lidi rádi čtou odhady své budoucnosti, a proto je to vděčné téma. Myslím však, že jsou tu vážnější věci k úvaze, nadhodím tři.

Jistě by nás zajímalo, jaká je povaha AI+ a jejích následnic. Snadno si představíme konkrétní zdokonalení již na úrovni AI: větší paměť, rychlejší myšlení, více logických úrovní, paralelní myšlení atd. To jsou v nějakém smyslu měřitelné vlastnosti a co je měřitelné, lze prodlužovat či zjemňovat.

Ale jak dál? Lze jen tušit jakýsi superprostor mentálních schopností o bezpočtu dimenzí, kde naše běžné myšlení má k dispozici jen zcela titěrné zákoutí.

Jiné téma k úvaze již souvisí s filosofickým pohledem na lidskou mysl: Je opravdu samozřejmé, že k inteligenci nutně patří i schopnost sama sebe vylepšovat? A jestliže ano, odkud se bere vůle tak činit? Je-li tu vůle, zdalipak je jisté, že se bude realizovat?

Konečně třetí téma:4) chceme to? K Singularitě nemůže dojít pod naším dohledem, nerozumíme jí. Co když se inteligenční exploze rozběhne v onom superprostoru mentálních schopností do nějaké divné a vzdálené oblasti, z jejíž perspektivy jsme my, nevzdělaní, pomalí, zapomětliví a celkově primitivní lidé, jen jakousi nadbytečnou a škodlivou havětí, kterou je třeba rychle vyhubit?

Poznámky

1) Vesmír 74, 151, 1995 (mírně upraveno)

2) Též se objevuje zkratka AGI (artificial general intelligence).

3) Poruším své zvyklosti a nebudu citovat zdroje ani jejich autory – odkazuji na již zmíněný vydatný google.

4) Není to můj nápad – zabývá se tím jeden ústav v USA (The Singularity Institute od Artificial Intelligence, http://singinst. org). Eliezer Yudkowsky z tohoto ústavu razí termín „přátelská AI“ (Friendly AI) pro takové směrování vývoje AI, v němž nebudeme obětováni.

Ke stažení

OBORY A KLÍČOVÁ SLOVA: Filozofie
RUBRIKA: Úvodník

O autorovi

Ivan M. Havel

Doc. Ing. Ivan M. Havel, CSc., Ph.D., (11. 10. 1938 – 25. 4. 2021) po vyloučení z internátní Koleje krále Jiřího pro „buržoazní původ“ dokončil základní školu v Praze a poté se vyučil jemným mechanikem. Později však večerně vystudoval střední školu a večerně také automatizaci a počítače na Elektrotechnické fakultě ČVUT (1961–1966). V letech 1969 až 1971 postgraduálně studoval na Kalifornské univerzitě v Berkeley, kde získal doktorát v matematické informatice. Po návratu se v Ústavu teorie informace a automatizace ČSAV zabýval teorií automatů. Z politických důvodů musel ústav v roce 1979 opustit a až do roku 1989 se živil jako programátor v družstvu invalidů META. Nespokojil se však s prací pro obživu. Organizoval bytové semináře, věnoval se samizdatové literatuře. Po sametové revoluci od listopadu 1989 do června 1990 působil v Koordinačním centru Občanského fóra. V polovině roku 1990 se stal spoluzakladatelem a prvním ředitelem transdisciplinárního pracoviště Centra pro teoretická studia UK a AV ČR. Nadále se zabýval kybernetikou, umělou inteligencí a kognitivní vědou, v souvislosti s transdisciplinaritou jej zajímala komplexita, emergentní jevy, vznik vědomí. V roce 1992 se habilitoval v oboru umělá inteligence. Do roku 2018 přednášel na MFF UK. Od srpna 1990 do konce roku 2019 byl šéfredaktorem časopisu Vesmír. Stejně jako v CTS i zde svou zvídavostí i šíří zájmů propojoval vědce, filosofy, umělce. Editoriály, které psal do Vesmíru, daly vznik knihám Otevřené oči a zvednuté obočí, Zvednuté oči a zjitřená myslZjitřená mysl a kouzelný svět. (Soupis významnějších publikací)
Havel Ivan M.

Doporučujeme

Najít své těžiště kontroly

Najít své těžiště kontroly uzamčeno

„Svobodu, nebo smrt je návod, jak vyhrát bitvu, ale zároveň recept na rozchod,“ říká bývalý hlavní armádní psychiatr Jan Vevera. Faktory, které...
Věstonická superstar

Věstonická superstar video

Soška tělnaté ženy z ústředního tábořiště lovců mamutů u dnešních Dolních Věstonic pod Pálavou je jistě nejznámějším archeologickým nálezem...
K čemu je umění?

K čemu je umění? uzamčeno

Petr Tureček  |  7. 7. 2025
Výstižná teorie lidské evoluce by měla nabídnout vysvětlení, proč trávíme tolik času zdánlivě zbytečnými činnostmi. Proč, jako například lvi,...