Aktuální číslo:

2021/9

Téma měsíce:

Vzdělávání

Budoucnost jako akční thriller

 |  5. 3. 1999
 |  Vesmír 78, 123, 1999/3

Zlom tisíciletí bude velká příležitost pro futurology, aby nás, zvědavé, co se s námi stane, uklidnili anebo vystrašili. Pro toto číslo Vesmíru jsme vybrali čtyři úvahy, které byly loni předneseny na plenárním zasedání Učené společnosti a které si berou budoucnost za téma. Jejich autory jsou fyzik (Jiří Bičák), demograf (Martin Hampl), sociolog města (Jiří Musil) a molekulární biolog (Vladimír Vonka). Snad vás tito pánové v něčem uklidní, možná vás však v jiném vystraší.

Pak zde máme další text, zkrácený překlad jedné kapitoly z knihy Kevina Warwicka „Pochod strojů“ . Ta kniha je z kategorie spíše strašící, a to již svým podtitulem: „Proč nová rasa robotů ovládne svět“ – čili ovládne, jde jen o to, co ji k tomu povede. Nehodlám Warwickovy vize podporovat ani popírat, rád bych si je pouze vzal za záminku k zamyšlení nad logikou odvážně dlouhodobých předpovědí, které – podobně jako nápady sci-fi žánru – vůbec nejsou snadné, pokud nemají být hloupé.

Každá futurologická myšlenka je založena na určitých předpokladech, a to hned dvojího typu. Především jsou to explicitní předpoklady, zpravidla extrapolace ze současného stavu a současných znalostí. Z těch futurolog vychází a zakládá na nich své prognózy. Druhým typem jsou rozličné implicitní předpoklady, které si často ani sám futurolog dost dobře neuvědomuje. Někdy lze tyto druhé předpoklady z jeho argumentů dodatečně vytušit a já je považuji za nejzajímavější, protože skrytě ale podstatně rozhodují o validitě celé předpovědi.

Explicitní předpoklady mají přímý vztah k tomu, zda se nám předpovídaná věc dnes zdá neuvěřitelná, nebo naopak banální. Naproti tomu přehlédnutí implicitních předpokladů může vést k velkým překvapením, až se budoucnost skutečně dostaví a všechno bude zcela jinak. K implicitním předpokladům lze počítat i víru v oprávněnost té či oné extrapolace, nepovšimnutí možných alternativ.

Všimněme si blíže, na čem například Warwick zakládá svou katastrofickou vidinu budoucnosti (můžete si přečíst jeho text, Vesmír 78, 166, 1999/3). On sám shrnuje (jinde v knize) svůj pohled do tří tezí:

  1. Dnes jsme my, lidé, díky naší inteligenci dominantní formou života na Zemi.
  2. Je možné, že již relativně brzo budou stroje inteligentnější než lidé.
  3. Pak se stroje stanou dominantní formou života na Zemi.

V první tezi se tvrdí dvojí: že jsme dominantní a že tomu tak je díky naší inteligenci. Dobrá, co však znamená být dominantní. Z Warwickových úvah je zřejmé, že tím míní aktivní dominanci, čili ovládání druhých. 1) Má-li to dokonce být schopnost fyzicky ničit (případně měnit) jiné formy života, pak jsme jistě dominantnější než kočky. Avšak bakterie a viry by mohly být dominantnější než my. Nicméně do finále soutěže o dominanci postoupí podle Warwicka pouze lidé a stroje (pěkný příklad implicitního předpokladu). Zvítězí inteligentnější.

Pojem inteligence je však ještě problematičtější. Warwick o ní mluví, jako by to byl jednorozměrný parametr, dle něhož lze uspořádat kočky, lidi a stroje do jediného žebříčku (opět implicitní předpoklad), v němž jsme my (ještě stále) na nejvyšší příčce (mimochodem, co je zde „my“ – druh, množina nás všech, ti nejlepší z nás, průměr?). Dle Warwicka zřejmě rozhodující roli hraje „hustota neuronů, kvalita vzájemných vazeb mezi nimi a s tím související metody učení“. Pak by jakési uspořádání snad bylo možné a lze si i představit, že takto konstrukčně definovaná „inteligence“ strojů opravdu poroste a že nás v tomto směru a ve shodě s druhou tezí stroje brzy předhoní. My totiž „nemůžeme nijak zmnožit svoje neurony a přimět je, aby pracovaly lépe, než pracují teď“. Závěr zní logicky, jenomže je tu ten implicitní předpoklad, že co je opravdu důležité, je počet a propojení neuronů, což je extrapolace právě jen ze současné (a možná přechodné) popularity umělých neuronových sítí.

Jak to ale souvisí s onou „inteligencí“, která z nás dělá (a ze strojů udělá) dominantní formu života, jak praví třetí teze? Tou inteligencí, která je podle našeho autora nutnou a zřejmě i postačující podmínkou k vládnutí: „Člověk ovládá Zemi díky své inteligenci, a tak je logické, že bude ovládnut ještě inteligentnějším druhem, než je sám; stejně tak on ovládl druhy, které měly inteligenci nižší.“ Jaký implicitní předpoklad je za touto větou? (Obdobných vět v textu najdete více.) Že by inteligence byla totéž, co schopnost vládnout? Jak však naložit s takovouto úvahou: Já jsem inteligentnější než bicykl, bicykl je inteligentnější než gravitace a gravitace je inteligentnější než já?

Možná zjednodušuji, ale zdá se, že další úvahy našeho futurologa vycházejí z implicitního předpokladu, že čím větší inteligence (více neuronů?), tím větší touha po moci. A to obecně. Sám problematický, opírá se tento předpoklad o ještě problematičtější návod k extrapolaci typu: „Abychom získali co nejlepší představu, jak budou stroje jednat s člověkem, podíváme se na to, jak jednají lidé s těmi, z nichž vzešli.“ A tak našemu futurologovi z toho všeho „logicky“ vyplyne hluboká vzájemná nenávist mezi lidmi a novou rasou robotů.

Proč by stroje měly riskovat možnost, že nebudeme příliš spokojeni s úlohou druhořadých občanů a že je proto budeme chtít zničit? Raději zaútočí jako první a (jsouce inteligentnější) snadno bez milosti zničí nás. Věru akční thriller je na programu pro příští tisíciletí.

Poznámky

1) Rovněž v našem překladu je dána přednost českému slovu ovládat (v originále to dominate)

Ke stažení

OBORY A KLÍČOVÁ SLOVA: Různé
RUBRIKA: Úvodník

O autorovi

Ivan M. Havel

Doc. Ing. Ivan M. Havel, CSc., Ph.D., (11. 10. 1938 – 25. 4. 2021) po vyloučení z internátní Koleje krále Jiřího pro „buržoazní původ“ dokončil základní školu v Praze a poté se vyučil jemným mechanikem. Později však večerně vystudoval střední školu a večerně také automatizaci a počítače na Elektrotechnické fakultě ČVUT (1961–1966). V letech 1969 až 1971 postgraduálně studoval na Kalifornské univerzitě v Berkeley, kde získal doktorát v matematické informatice. Po návratu se v Ústavu teorie informace a automatizace ČSAV zabýval teorií automatů. Z politických důvodů musel ústav v roce 1979 opustit a až do roku 1989 se živil jako programátor v družstvu invalidů META. Nespokojil se však s prací pro obživu. Organizoval bytové semináře, věnoval se samizdatové literatuře. Po sametové revoluci od listopadu 1989 do června 1990 působil v Koordinačním centru Občanského fóra. V polovině roku 1990 se stal spoluzakladatelem a prvním ředitelem transdisciplinárního pracoviště Centra pro teoretická studia UK a AV ČR. Nadále se zabýval kybernetikou, umělou inteligencí a kognitivní vědou, v souvislosti s transdisciplinaritou jej zajímala komplexita, emergentní jevy, vznik vědomí. V roce 1992 se habilitoval v oboru umělá inteligence. Do roku 2018 přednášel na MFF UK. Od srpna 1990 do konce roku 2019 byl šéfredaktorem časopisu Vesmír. Stejně jako v CTS i zde svou zvídavostí i šíří zájmů propojoval vědce, filosofy, umělce. Editoriály, které psal do Vesmíru, daly vznik knihám Otevřené oči a zvednuté obočí, Zvednuté oči a zjitřená myslZjitřená mysl a kouzelný svět. (Soupis významnějších publikací)
Havel Ivan M.

Doporučujeme

Ceny Neuron 2021: od červených krvinek k teorii grafů

Ceny Neuron 2021: od červených krvinek k teorii grafů

redakce  |  28. 9. 2021
Zatímco loni zasáhla i do udělování tradičních cen nadačního fondu Neuron pandemie covidu-19 a fond ocenil „jen“ dva vědce mimořádnými cenami za...
Záhada zhasínající hvězdy vyřešena

Záhada zhasínající hvězdy vyřešena

Záhada velkého pohasnutí Betelgeuze (Vesmír 100, 106, 2021/2) se zdá být více méně rozřešena. Důležitým klíčem byla pozorování povrchu hvězdy...
Převrácená výuka a nová role učitele

Převrácená výuka a nová role učitele

Zdeněk Hurák  |  6. 9. 2021
Co je a co určitě není převrácená výuka? Jaké jsou její cíle? Pokusím se vyvrátit několik oblíbených mýtů a nabídnu vlastní učitelské zkušenosti...

Předplatným pomůžete zajistit budoucnost Vesmíru

Tištěná i elektronická
verze časopisu
Digitální archiv
od roku 1994
Speciální nabídka
pro školy a studenty

 

Objednat předplatné