Aktuální číslo:

2021/6

Téma měsíce:

Fluor

Budoucnost jako akční thriller

 |  5. 3. 1999
 |  Vesmír 78, 123, 1999/3

Zlom tisíciletí bude velká příležitost pro futurology, aby nás, zvědavé, co se s námi stane, uklidnili anebo vystrašili. Pro toto číslo Vesmíru jsme vybrali čtyři úvahy, které byly loni předneseny na plenárním zasedání Učené společnosti a které si berou budoucnost za téma. Jejich autory jsou fyzik (Jiří Bičák), demograf (Martin Hampl), sociolog města (Jiří Musil) a molekulární biolog (Vladimír Vonka). Snad vás tito pánové v něčem uklidní, možná vás však v jiném vystraší.

Pak zde máme další text, zkrácený překlad jedné kapitoly z knihy Kevina Warwicka „Pochod strojů“ . Ta kniha je z kategorie spíše strašící, a to již svým podtitulem: „Proč nová rasa robotů ovládne svět“ – čili ovládne, jde jen o to, co ji k tomu povede. Nehodlám Warwickovy vize podporovat ani popírat, rád bych si je pouze vzal za záminku k zamyšlení nad logikou odvážně dlouhodobých předpovědí, které – podobně jako nápady sci-fi žánru – vůbec nejsou snadné, pokud nemají být hloupé.

Každá futurologická myšlenka je založena na určitých předpokladech, a to hned dvojího typu. Především jsou to explicitní předpoklady, zpravidla extrapolace ze současného stavu a současných znalostí. Z těch futurolog vychází a zakládá na nich své prognózy. Druhým typem jsou rozličné implicitní předpoklady, které si často ani sám futurolog dost dobře neuvědomuje. Někdy lze tyto druhé předpoklady z jeho argumentů dodatečně vytušit a já je považuji za nejzajímavější, protože skrytě ale podstatně rozhodují o validitě celé předpovědi.

Explicitní předpoklady mají přímý vztah k tomu, zda se nám předpovídaná věc dnes zdá neuvěřitelná, nebo naopak banální. Naproti tomu přehlédnutí implicitních předpokladů může vést k velkým překvapením, až se budoucnost skutečně dostaví a všechno bude zcela jinak. K implicitním předpokladům lze počítat i víru v oprávněnost té či oné extrapolace, nepovšimnutí možných alternativ.

Všimněme si blíže, na čem například Warwick zakládá svou katastrofickou vidinu budoucnosti (můžete si přečíst jeho text, Vesmír 78, 166, 1999/3). On sám shrnuje (jinde v knize) svůj pohled do tří tezí:

  1. Dnes jsme my, lidé, díky naší inteligenci dominantní formou života na Zemi.
  2. Je možné, že již relativně brzo budou stroje inteligentnější než lidé.
  3. Pak se stroje stanou dominantní formou života na Zemi.

V první tezi se tvrdí dvojí: že jsme dominantní a že tomu tak je díky naší inteligenci. Dobrá, co však znamená být dominantní. Z Warwickových úvah je zřejmé, že tím míní aktivní dominanci, čili ovládání druhých. 1) Má-li to dokonce být schopnost fyzicky ničit (případně měnit) jiné formy života, pak jsme jistě dominantnější než kočky. Avšak bakterie a viry by mohly být dominantnější než my. Nicméně do finále soutěže o dominanci postoupí podle Warwicka pouze lidé a stroje (pěkný příklad implicitního předpokladu). Zvítězí inteligentnější.

Pojem inteligence je však ještě problematičtější. Warwick o ní mluví, jako by to byl jednorozměrný parametr, dle něhož lze uspořádat kočky, lidi a stroje do jediného žebříčku (opět implicitní předpoklad), v němž jsme my (ještě stále) na nejvyšší příčce (mimochodem, co je zde „my“ – druh, množina nás všech, ti nejlepší z nás, průměr?). Dle Warwicka zřejmě rozhodující roli hraje „hustota neuronů, kvalita vzájemných vazeb mezi nimi a s tím související metody učení“. Pak by jakési uspořádání snad bylo možné a lze si i představit, že takto konstrukčně definovaná „inteligence“ strojů opravdu poroste a že nás v tomto směru a ve shodě s druhou tezí stroje brzy předhoní. My totiž „nemůžeme nijak zmnožit svoje neurony a přimět je, aby pracovaly lépe, než pracují teď“. Závěr zní logicky, jenomže je tu ten implicitní předpoklad, že co je opravdu důležité, je počet a propojení neuronů, což je extrapolace právě jen ze současné (a možná přechodné) popularity umělých neuronových sítí.

Jak to ale souvisí s onou „inteligencí“, která z nás dělá (a ze strojů udělá) dominantní formu života, jak praví třetí teze? Tou inteligencí, která je podle našeho autora nutnou a zřejmě i postačující podmínkou k vládnutí: „Člověk ovládá Zemi díky své inteligenci, a tak je logické, že bude ovládnut ještě inteligentnějším druhem, než je sám; stejně tak on ovládl druhy, které měly inteligenci nižší.“ Jaký implicitní předpoklad je za touto větou? (Obdobných vět v textu najdete více.) Že by inteligence byla totéž, co schopnost vládnout? Jak však naložit s takovouto úvahou: Já jsem inteligentnější než bicykl, bicykl je inteligentnější než gravitace a gravitace je inteligentnější než já?

Možná zjednodušuji, ale zdá se, že další úvahy našeho futurologa vycházejí z implicitního předpokladu, že čím větší inteligence (více neuronů?), tím větší touha po moci. A to obecně. Sám problematický, opírá se tento předpoklad o ještě problematičtější návod k extrapolaci typu: „Abychom získali co nejlepší představu, jak budou stroje jednat s člověkem, podíváme se na to, jak jednají lidé s těmi, z nichž vzešli.“ A tak našemu futurologovi z toho všeho „logicky“ vyplyne hluboká vzájemná nenávist mezi lidmi a novou rasou robotů.

Proč by stroje měly riskovat možnost, že nebudeme příliš spokojeni s úlohou druhořadých občanů a že je proto budeme chtít zničit? Raději zaútočí jako první a (jsouce inteligentnější) snadno bez milosti zničí nás. Věru akční thriller je na programu pro příští tisíciletí.

Poznámky

1) Rovněž v našem překladu je dána přednost českému slovu ovládat (v originále to dominate)

Ke stažení

OBORY A KLÍČOVÁ SLOVA: Různé
RUBRIKA: Úvodník

O autorovi

Ivan M. Havel

Doc. Ing. Ivan M. Havel, CSc., Ph.D., (11. 10. 1938 – 25. 4. 2021) Po vyloučení z internátní Koleje krále Jiřího pro „buržoazní původ“ dokončil základní školu v Praze a poté se vyučil jemným mechanikem. Později však večerně vystudoval střední školu a večerně také vystudoval automatizaci a počítače na Elektrotechnické fakultě ČVUT (1961–1966). V letech 1969 až 1971 postgraduálně studoval na Kalifornské univerzitě v Berkeley, kde získal doktorát v matematické informatice. Po návratu se v Ústavu teorie informace a automatizace ČSAV zabýval teorií automatů. Z politických důvodů musel ústav v roce 1979 opustit a až do roku 1989 se živil jako programátor v družstvu invalidů META. Nespokojil se však s prací pro obživu. Organizoval bytové semináře, věnoval se samizdatové literatuře. Po sametové revoluci od listopadu 1989 do června 1990 působil v Koordinačním centru Občanského fóra. V polovině roku 1990 se stal spoluzakladatelem a prvním ředitelem transdisciplinárního pracoviště Centra pro teoretická studia UK a AV ČR. Nadále se zabýval kybernetikou, umělou inteligencí a kognitivní vědou, v souvislosti s transdisciplinaritou jej zajímala komplexita, emergentní jevy, vznik vědomí. V roce 1992 se habilitoval v oboru umělá inteligence. Do roku 2018 přednášel na MFF UK. Od srpna 1990 do konce roku 2019 byl šéfredaktorem časopisu Vesmír. Stejně jako v CTS i zde svou zvídavostí i šíří zájmů propojoval vědce, filosofy, umělce. Editoriály, které psal do Vesmíru, daly vznik knihám Otevřené oči a zvednuté obočí, Zvednuté oči a zjitřená mysl a Zjitřená mysl a kouzelný svět. Soupis významnějších publikací: (Úplný soupis publikací I.M. Havla je v knize Jana Lukeše „Právě proto, že jsem“ – rozhovor s Ivanem M. Havlem). Havel, I. M., The theory of regular events, I., II., Kybernetika 5, 400–419, 520–544, 1969. Havel, I. M., Strict deterministic languages, Ph.D. dissertation, Department of Computer Science, California at Berkeley, December 1971. Štěpánková O., Havel, I. M., A logical theory of robot problem solving, Artificial Intelligence 7, 129–161, 1976. Havel, I. M., On branching and looping I., II., Theoretical Computer Science 10, 273–295, 1980. Havel, I. M., Robotika. Úvod do teorie kognitivních robotů, Státní nakladatelství technické literatury, Praha 1980. Havel, I. M., Hájek P., Filosofické aspekty strojového myšlení, in Sborník SOFSEM’83, 7–64, 1983. Havel, I. M., Podivná setkání, In: Laudatio Z. N., samizdat 1982. Havel, I. M., Palouš M., Neubauer Z., Svatojanský výlet, s. 145–157 in Laudatio R. P., Edice Expedice, sv. 196. Později též jako kniha Svatojanský výlet, Malvern & B. Just, Praha 1999. Havel, I. M., Způsoby poznání, s. 137–148 in: samizdat, Edice Expedice, sv. 209, 1985. Později tiskem in: Hostina, Sixty-Eight Publishers, Totonto 1989, též in: Slovenské pohľady č. 7, 1991. Angl. Překlad pp. 222–232 in Good-bye, Samizdat, ed. M. Goetz-Stankiewicz, NorthwesternUniversity Press, Evanston, Ill. 1992. Neubauer Z. Havel I. M., Sidonia a Sakateky dialogů patero, ed. D. Bohdan, samizdat Praha 1986. Později rozšířené tiskem in: Sidonia a Sakateky Čtrnáctero vykročení, SOFIS, Praha 2004. Havel I. M., Artificial Thought and Emergent Mind, pp. 758–766 in Proc. IJCAI’93, Morgan Kaufman Profesional Book Center, Denver, SO, USA, 1993. Havel I. M., Scale Dimensions in Nature, Int. J. of General Systems 24, 295-324, 1996/3. Havel I. M., Arsemid, Hrnčířství a nakl. Michala a Evy Jůzových, Praha 1997, druhé rozšířené vydání: KANT, Praha 2004. Třetí, třikrát rozšířené vydání KANT – Karel Kerlický, Praha 2016. Havel I. M, Otevřené oči a zvednuté obočí, Vesmír, Praha 1998. Havel I. M., Causal Domains and Emergent Rationality, pp. 129–151 in: Rationality and Irrationality, B. Brodgaard and B. Smith (eds.), Vienna 2001, öbv & hpt. Havel I. M., Přirozené a umělé myšlení jako filosofický problém, s. 17–75 in Umělá inteligence III., ed. V. Mařík a kol., Academia, Praha 2001. Havel I. M., Modality subjektivně prožívaných situací, s. 159–178 in Kognice a umělý život IV., J. Kelemen a V. Kvasnička (eds.), Slezská univerzita v Opavě, Opava 2004. Havel I. M., Zvednuté obočí a zjitřená mysl. Dokořán, Praha 2005. Havel I. M., A structure of Experienced Time, pp. 163–188 in Endophysics, Time, Quantum and Subjective, R. Buccheri et al. (eds.), World Scientific Publisching Co., 2005. Ajvaz M., Havel I. M., Snování. Rok dopisů o snech. Nakl. Pavel Mervart, Červený Kostelec 2008. Havel I. M., Sixty years of cybernetics: Cybernetics still alive, Kybernetika 44, 314, 2008/3. Ajvaz M., Havel I. M., Sindibádův dům. Korespondence o epizodických situacích a také o dvou scénách, okamžicích, vzpomínkách, počátcích, prostředcích a koncích, pobřežních skaliskách, vlnách a gejzírech, hromadách, skládkách, patafyzických a jiných strojích, nakl. Pavel Mervart, Červený Kostelec 2010.  Havel I. M., Dopisy od Olgy. Knihovna Václava Havla, Praha 2010. Havel I. M., Epizodické situace našeho života, s. 213–238 in Spor o přirozený svět, eds. B. Velický et al., Filosofia, Praha 2010. Havel I. M., Seeing numbers, pp. 312–329 in Best Writings on Mathematics 2010, ed. Mircea Pitici, Princeton University Press 2011. Havel I.M., Cestou k inteligenční singularitě, s. 183–217 in Hlavou zeď – Úvahy nad civilizací a její budoucností, ed. A. Pelán, dybbuk, Praha 2011.  Havel I. M., Slavná Hofstadterova kniha konečně v českém překladu, část I., Vesmír 91, 746, 2012/12, část II. Vesmír 92, 51, 2013/1 , část III. Vesmír 92, 116, 2013/2, část IV. Vesmír 92, 181, 2013/3. Havel I. M., Zjitřená mysl a kouzelný svět, Dokořán, Praha 2013. Havel I. M., Odvěta, s. 171–237 in Protázky a odvěty, Lucerna & nakl. Lidové noviny, Praha 2015. Havel I. M., Model prožívaného času podle Petra Vopěnky, Filosofický časopis 2016/4, s. 539-560. Havel I. M., Mitášová M., Vnímání pohybu: Reflektovaný a nereflektovaný pohled v souvislosti s architekturou, s. 64–70 in Kognicia a umelý život 2017, eds. I. Farkaš a kol., Univerzita J.A. Komenského, Bratislava 2017. Ajvaz M., Havel I. M., Pokoje u moře. Sedm let korespondence o živém těle, o trčení a vyčnívání, o větvení a sítích, o písmenech, houbách, kostrách a kostlivcích, o škálových úrovních, o agregátech a seskupeních, o totalizaci a diferenciaci, o prázdnotách, o přidávání a odebírání, o moři, o vánicích a sněhových vločkách, o obrazech, o jednotícím rozvrhu a nakonec i o rámech uvnitř rámů. Nakl. Pavel Mervart, Červený Kostelec 2017. Havel I. M., Zápisky introspektora, OIKOYMENEH, Praha 2018
Havel Ivan M.

Doporučujeme

Havlův Vesmír

Havlův Vesmír

Ivan Boháček  |  31. 5. 2021
Vesmír byl časopis mých prvních námluv s vědou a dodnes se pamatuji, jak jsem jako kluk měl vždy radost z nového čísla…
35 let s HIV

35 let s HIV

Eva Bobůrková  |  31. 5. 2021
Přítomnost nové záhadné choroby oficiálně potvrdily americké úřady, když 5. června 1981 oznámily podezřelý výskyt pneumocystické pneumonie u pěti...
Fluor v organických sloučeninách

Fluor v organických sloučeninách

Jaroslav Kvíčala  |  31. 5. 2021
Z přírody známe jen asi dvacet organických sloučenin obsahujících atomy fluoru. Člověk jich ale syntetizoval mnohem víc a organofluorová chemie...

Předplatným pomůžete zajistit budoucnost Vesmíru

Tištěná i elektronická
verze časopisu
Digitální archiv
od roku 1994
Speciální nabídka
pro školy a studenty

 

Objednat předplatné