Aktuální číslo:

2017/12

Téma měsíce:

Kontakty

Singularita

 |  9. 12. 2010
 |  Vesmír 89, 723, 2010/12

Vznik jakožto vznik je ‚singularita‘ – událost či stav, jejíž povahu (strukturu) nelze popsat pojmy popisujícími její bezprostřední okolí.

Zdeněk Neubauer1)

Nedoporučuji, abyste se pustili do googlování slova „singularita“ na webu. Zkusil jsem to a téměř jsem nestihl uzávěrku tohoto čísla. Ukazuje se, že je to slovo nanejvýš chytlavé, rozšířilo se z matematiky, fyziky a kosmologie do mnoha dalších oborů, včetně společenských věd, kde je jednou spojeno s futuristickým nadšením, jindy s katastrofickými scénáři. Uváděné definice jsou přitom buď hodně neurčité anebo příliš poplatné povaze disciplíny, v níž se o singularitě hovoří. Zde nám prozatím vyhoví celkem výstižná a obecná charakteristika singularity od Zdeňka Neubauera, čtěte motto.

Dnes se hodlám zamyslet nad jednou zvlášť pozoruhodnou variantou singularity (někteří ji píší s velkým S, já se připojím, aby bylo jasno). Jak uvidíme, je to Singularita dosti problematická, je však třeba se jí zabývat, alespoň hypoteticky. Kdyby k ní došlo, mohlo by to nás – rozumí se lidstvo – pořádně zaskočit.

Původně se o Singularitě začalo mluvit následkem ohromení z neobyčejně rychlého vývoje výpočetní a informační technologie, jehož jsme živými svědky nejméně od poloviny 20. století (pokud jste mě neuposlechli a otevřeli si google, máte příklad před očima). Není to jen vývoj rychlý, navíc se i rapidně zrychluje. A tam kde je zrychlení, bývá i zrychlení zrychlení, zrychlení zrychlení zrychlení,… až se svět vymkne z rukou – a přijde Singularita.

Technologický vývoj jistě hraje roli, je tu však ještě něco jiného než jen hardware s jeho miniaturizací, obrovskou kapacitou paměti, výpočtovou rychlostí a využítím nových fyzikálních principů. Je tu ještě něco, čemu se říká inteligence. Už jsme si zvykli na to, že se mluví o umělé inteligenci (dále píšu jen AI) nejen jako o disciplíně, ale i jako o něčem, co kromě toho, že je to uměléinteligentní, už brzy bude v našem světě existovat (v proměnlivém významu všech tří proložených slov). Zde již přebírají štafetu čistě spekulativní myslitelé s plným nasazením bujné fantazie. Stojí za pozornost, že to nejsou jen futurističtí vizionáři a autoři sci-fi, ale i technicky a aplikačně orientovaní badatelé s mnohaletou výzkumnou zkušeností.

Zkusme běžet kousek s nimi. Jako první si představme, že AI existuje (výhrady stranou) a že dosáhla úrovně kvalitní, všestranné lidské inteligence.2) Protože vývoj se zde nezastaví a lidský důmysl neochabne, brzy se objeví „chytřejší“ (smarter) inteligence než ta naše, označme ji AI+ (cožpak už dnes počítače neumějí něco lépe než my?). Následuje důležitá úvaha (podle mne problematická; vrátím se k tomu): jestliže my dovedeme zplodit něco chytřejšího, než jsme sami, a jestliže AI+ dovede všechno co my, pak také AI+ dovede (mimo jiné) zplodit něco chytřejšího, než je ona (AI+) sama. Jinými slovy, dovede se vylepšit. Iterací této úvahy dojdeme k něčemu, co se nazývá inteligenční explozí – systémy rekurzivně zdokonalují samy sebe, a toto zdokonalování se stále zrychleněji zrychluje (viz výše), až buď všechno křachne, anebo se objeví cosi zcela mimo naše chápání: superinteligence, čili AI++ (pojmenovat se dá i to, co nechápeme). Singularita v plné své tajemnosti.

Ti, kteří o tom píší,3) se předhánějí s rozmanitými svými odhady, kdy k tomu dojde (příklad odhadu: kolem roku 2035 – mladší čtenáři Vesmíru se toho dožijí!). Z nějakého důvodu lidi rádi čtou odhady své budoucnosti, a proto je to vděčné téma. Myslím však, že jsou tu vážnější věci k úvaze, nadhodím tři.

Jistě by nás zajímalo, jaká je povaha AI+ a jejích následnic. Snadno si představíme konkrétní zdokonalení již na úrovni AI: větší paměť, rychlejší myšlení, více logických úrovní, paralelní myšlení atd. To jsou v nějakém smyslu měřitelné vlastnosti a co je měřitelné, lze prodlužovat či zjemňovat.

Ale jak dál? Lze jen tušit jakýsi superprostor mentálních schopností o bezpočtu dimenzí, kde naše běžné myšlení má k dispozici jen zcela titěrné zákoutí.

Jiné téma k úvaze již souvisí s filosofickým pohledem na lidskou mysl: Je opravdu samozřejmé, že k inteligenci nutně patří i schopnost sama sebe vylepšovat? A jestliže ano, odkud se bere vůle tak činit? Je-li tu vůle, zdalipak je jisté, že se bude realizovat?

Konečně třetí téma:4) chceme to? K Singularitě nemůže dojít pod naším dohledem, nerozumíme jí. Co když se inteligenční exploze rozběhne v onom superprostoru mentálních schopností do nějaké divné a vzdálené oblasti, z jejíž perspektivy jsme my, nevzdělaní, pomalí, zapomětliví a celkově primitivní lidé, jen jakousi nadbytečnou a škodlivou havětí, kterou je třeba rychle vyhubit?

Poznámky

1) Vesmír 74, 151, 1995 (mírně upraveno)

2) Též se objevuje zkratka AGI (artificial general intelligence).

3) Poruším své zvyklosti a nebudu citovat zdroje ani jejich autory – odkazuji na již zmíněný vydatný google.

4) Není to můj nápad – zabývá se tím jeden ústav v USA (The Singularity Institute od Artificial Intelligence, http://singinst. org). Eliezer Yudkowsky z tohoto ústavu razí termín „přátelská AI“ (Friendly AI) pro takové směrování vývoje AI, v němž nebudeme obětováni.

Ke stažení

OBORY A KLÍČOVÁ SLOVA: Filozofie
RUBRIKA: Úvodník

O autorovi

Ivan M. Havel

Doc. Ing. Ivan M. Havel, Ph.D., (*1938) absolvoval FEL ČVUT v Praze. V letech 1969–1971 studoval Ph.D. (počítačové vědy) na University of California v Berkeley. Několik let pracoval jako výzkumný pracovník v Ústavu teorie informace a automatizace ČSAV. V současné době je docentem na Univerzitě Karlově v Praze a působí v Centru pro teoretická studia (společném pracovišti UK v Praze a AV ČR), jehož byl v letech 1990 – 2008 ředitelem. Přednáší na MFF UK.
Havel Ivan M.

Doporučujeme

Tajemná „Boží země“ Punt

Tajemná „Boží země“ Punt uzamčeno

Břetislav Vachala  |  4. 12. 2017
Mnoho vzácného zboží starověkého Egypta pocházelo z tajemného Puntu, kam Egypťané pořádali časté obchodní výpravy. Odkud jejich expedice...
Hmyz jako dokonalý létací stroj

Hmyz jako dokonalý létací stroj

Rudolf Dvořák  |  4. 12. 2017
Hmyz patří k nejdokonalejším a nejstarším letcům naší planety. Jeho letové schopnosti se vyvíjely přes 300 milionů let a předčí dovednosti všech...
Hranice svobody

Hranice svobody uzamčeno

Stefan Segi  |  4. 12. 2017
Podle listiny základních práv a svobod, která je integrovaná i v Ústavě ČR, jsou „svoboda projevu a právo na informace zaručeny“ a „cenzura je...

Předplatným pomůžete zajistit budoucnost Vesmíru

Tištěná i elektronická
verze časopisu
Digitální archiv
od roku 1994
Speciální nabídka
pro školy a studenty

 

Objednat předplatné