Budoucnost jako akční thriller

Zlom tisíciletí bude velká příležitost pro futurology, aby nás, zvědavé, co se s námi stane, uklidnili anebo vystrašili. Pro toto číslo Vesmíru jsme vybrali čtyři úvahy, které byly loni předneseny na plenárním zasedání Učené společnosti a které si berou budoucnost za téma. Jejich autory jsou fyzik (Jiří Bičák), demograf (Martin Hampl), sociolog města (Jiří Musil) a molekulární biolog (Vladimír Vonka). Snad vás tito pánové v něčem uklidní, možná vás však v jiném vystraší.

Pak zde máme další text, zkrácený překlad jedné kapitoly z knihy Kevina Warwicka „Pochod strojů“ . Ta kniha je z kategorie spíše strašící, a to již svým podtitulem: „Proč nová rasa robotů ovládne svět“ – čili ovládne, jde jen o to, co ji k tomu povede. Nehodlám Warwickovy vize podporovat ani popírat, rád bych si je pouze vzal za záminku k zamyšlení nad logikou odvážně dlouhodobých předpovědí, které – podobně jako nápady sci-fi žánru – vůbec nejsou snadné, pokud nemají být hloupé.

Každá futurologická myšlenka je založena na určitých předpokladech, a to hned dvojího typu. Především jsou to explicitní předpoklady, zpravidla extrapolace ze současného stavu a současných znalostí. Z těch futurolog vychází a zakládá na nich své prognózy. Druhým typem jsou rozličné implicitní předpoklady, které si často ani sám futurolog dost dobře neuvědomuje. Někdy lze tyto druhé předpoklady z jeho argumentů dodatečně vytušit a já je považuji za nejzajímavější, protože skrytě ale podstatně rozhodují o validitě celé předpovědi.

Explicitní předpoklady mají přímý vztah k tomu, zda se nám předpovídaná věc dnes zdá neuvěřitelná, nebo naopak banální. Naproti tomu přehlédnutí implicitních předpokladů může vést k velkým překvapením, až se budoucnost skutečně dostaví a všechno bude zcela jinak. K implicitním předpokladům lze počítat i víru v oprávněnost té či oné extrapolace, nepovšimnutí možných alternativ.

Všimněme si blíže, na čem například Warwick zakládá svou katastrofickou vidinu budoucnosti (můžete si přečíst jeho text, Vesmír 78, 166, 1999/3). On sám shrnuje (jinde v knize) svůj pohled do tří tezí:

1. Dnes jsme my, lidé, díky naší inteligenci dominantní formou života na Zemi.
2. Je možné, že již relativně brzo budou stroje inteligentnější než lidé.
3. Pak se stroje stanou dominantní formou života na Zemi.

V první tezi se tvrdí dvojí: že jsme dominantní a že tomu tak je díky naší inteligenci. Dobrá, co však znamená být dominantní. Z Warwickových úvah je zřejmé, že tím míní aktivní dominanci, čili ovládání druhých. ¹⁾ Má-li to dokonce být schopnost fyzicky ničit (případně měnit) jiné formy života, pak jsme jistě dominantnější než kočky. Avšak bakterie a viry by mohly být dominantnější než my. Nicméně do finále soutěže o dominanci postoupí podle Warwicka pouze lidé a stroje (pěkný příklad implicitního předpokladu). Zvítězí inteligentnější.

Pojem inteligence je však ještě problematičtější. Warwick o ní mluví, jako by to byl jednorozměrný parametr, dle něhož lze uspořádat kočky, lidi a stroje do jediného žebříčku (opět implicitní předpoklad), v němž jsme my (ještě stále) na nejvyšší příčce (mimochodem, co je zde „my“ – druh, množina nás všech, ti nejlepší z nás, průměr?). Dle Warwicka zřejmě rozhodující roli hraje „hustota neuronů, kvalita vzájemných vazeb mezi nimi a s tím související metody učení“. Pak by jakési uspořádání snad bylo možné a lze si i představit, že takto konstrukčně definovaná „inteligence“ strojů opravdu poroste a že nás v tomto směru a ve shodě s druhou tezí stroje brzy předhoní. My totiž „nemůžeme nijak zmnožit svoje neurony a přimět je, aby pracovaly lépe, než pracují teď“. Závěr zní logicky, jenomže je tu ten implicitní předpoklad, že co je opravdu důležité, je počet a propojení neuronů, což je extrapolace právě jen ze současné (a možná přechodné) popularity umělých neuronových sítí.

Jak to ale souvisí s onou „inteligencí“, která z nás dělá (a ze strojů udělá) dominantní formu života, jak praví třetí teze? Tou inteligencí, která je podle našeho autora nutnou a zřejmě i postačující podmínkou k vládnutí: „Člověk ovládá Zemi díky své inteligenci, a tak je logické, že bude ovládnut ještě inteligentnějším druhem, než je sám; stejně tak on ovládl druhy, které měly inteligenci nižší.“ Jaký implicitní předpoklad je za touto větou? (Obdobných vět v textu najdete více.) Že by inteligence byla totéž, co schopnost vládnout? Jak však naložit s takovouto úvahou: Já jsem inteligentnější než bicykl, bicykl je inteligentnější než gravitace a gravitace je inteligentnější než já?

Možná zjednodušuji, ale zdá se, že další úvahy našeho futurologa vycházejí z implicitního předpokladu, že čím větší inteligence (více neuronů?), tím větší touha po moci. A to obecně. Sám problematický, opírá se tento předpoklad o ještě problematičtější návod k extrapolaci typu: „Abychom získali co nejlepší představu, jak budou stroje jednat s člověkem, podíváme se na to, jak jednají lidé s těmi, z nichž vzešli.“ A tak našemu futurologovi z toho všeho „logicky“ vyplyne hluboká vzájemná nenávist mezi lidmi a novou rasou robotů.

Proč by stroje měly riskovat možnost, že nebudeme příliš spokojeni s úlohou druhořadých občanů a že je proto budeme chtít zničit? Raději zaútočí jako první a (jsouce inteligentnější) snadno bez milosti zničí nás. Věru akční thriller je na programu pro příští tisíciletí.