Roboty – prokletí, vykoupení, nebo něco mezi tím?

Oblíbenou činností jednoho druhu intelektuálů je nahánění hrůzy. Mohla by to být i užitečná činnost, kdyby její kořeny vedly hluboko, k mravní povinnosti varovat před reálnými riziky. Často jsou však plytce zapuštěny v touze společensky se zviditelnit. V konkurenci bavičů, kteří dnes postupně vytlačují ze společenské scény intelektuály, není snadné lidi zaujmout. Novodobé strašení začalo ideologizovanými opisy globálního atomového holokaustu. Dnes jsou – vedle genetického inženýrství a mezinárodního terorizmu – jedním z nejvděčnějších témat stroje, zejména roboty. Ochotně se vnořujeme do technologického pohodlí, které nám připravuje západní civilizace. Na druhé straně se svět pro nás stává stále méně srozumitelným.

Apokalyptické a skeptické vize

Máme možná pocity blízké pocitům našich středověkých předků, hrozících se téměř všeho a věřících téměř všemu. Špatný pocit z intelektuální dezorientace si rádi potvrzujeme čtením knih, které nám v podstatě dávají za pravdu – jistě nám leccos hrozí, jestliže nám i páni profesoři popisují, ¹⁾ jak nás budou za pár let honit po zdevastovaných labyrintech včerejších velkoměst hordy nenávistných robotů… (tomu, kdo si to nedovede představit, pomůže kinematografie třeba několika úvodními metry filmu Terminátor).

Jiný druh intelektuálů nám namlouvá, abychom si žádné hrozby nepřipouštěli. Představitel zmíněného druhu bývá založen filozoficky a hlásá nemožnost toho či onoho. Kolik bylo argumentů, proč např. počítač nikdy nemůže porazit mistra světa v šachu! Kolik je jich nyní uváděno pro nemožnost inteligence a emocí strojů nebo beznadějnost pokusů technicky se zmocnit vědomí! Z jistého hlediska je až zábavné číst některá díla autorů, kteří bez sebemenšího pocitu potřeby obeznámit se s problematikou příslušného směru alespoň na úrovni univerzitního absolventa vyslovují závěry o jeho perspektivách.

Zmíněné dvě skupiny intelektuálů se doplňují: Strach, který první naženou apokalyptickými vizemi, druzí rozptylují (byť jen dočasně) vizemi skepse. Show must go on... Co však, jsou-li hrozby reálné? Co když představa zpomalení technologického vývoje patří do říše neuskutečnitelných snů? Co když mají pravdu ti, podle nichž je život člověka západní civilizace bezprostředně závislý na technice, kterou si vytvořil, a jeho přežití v budoucnu na té, kterou si teprve vytvoří? Nebylo by v takové situaci vhodnější lidi prostě objektivně informovat, a ne je strašit nebo odsouvat hrozby do říše neskutečna? Neexistuje třetí skupina, jejíž členové neusilují o statut mediální hvězdy, ale chtějí informovat spoluobčany o tom, co, proč a jak dělají ve svých laboratořích?

Rodney A. Brooks je profesorem počítačové vědy a inženýrství a ředitelem Laboratoře umělé inteligence na Massachusettské technice (MIT) v Cambridži. Krom toho založil společnost iRobot Corporation a je jejím hlavním projektantem; též je zakládajícím členem Americké asociace pro umělou inteligenci. Když píše o robotech, má to všechno „z první ruky“. Jestliže píše o budoucnosti, dává to do souvislosti s tím, co se děje v jeho laboratoři nebo v oddělení vývoje jeho společnosti. Zmínky o společenských důsledcích toho, co se svými kolegy dělá, jsou reflexemi stavu komerční podpory jednotlivých výzkumných projektů. Brooks patří mezi vědce, jimž je užitečné naslouchat: je realistou.

Živé bytosti a stroje

To, co odlišuje člověka od zvířete, je syntax a technologie, začíná Brooks první kapitolu své první knihy pro laické čtenáře. Pak nás upozorní na to, co všichni implicitně cítíme: V našich myslích existuje zřetelná hranice mezi stroji, jakým byl HAL 9000 v proslulém filmu 2001: A Space Odyssea, a třeba operačním systémem Windows 2000. Ty první existují v naší fantazii, ty druhé jsou reálné, denně je používáme. Z hlediska Brookse je podstatné, že hranice mezi těmito dvěma světy strojů posouvá. Kdo ví, klade si autor v závěru 1. kapitoly otázku, kde budeme za deset let, když před deseti lety tu ještě nebyl web?

Druhá kapitola knihy připomene – na evropský vkus snad příliš stručně – dějiny napodobování živých bytostí a konstrukce strojů. Začíná zmínkou o době vzniku prvních kreseb na stěnách francouzských a španělských jeskyň, připomene mechanické hříčky, které byly populární v 18. století, pak věk kybernetických zařízení typu GrayWalterovy elektromechanické želvy (ta si již uměla najít zdroj elektrické energie, když jí sláblo napětí v bateriích). Přehled končí počátky umělé inteligence a novodobé digitální robotiky na evropských i amerických pracovištích v 60. a 70. letech minulého století. ²⁾

Ve třetí kapitole jsou místy až s dokumentaristickou pečlivostí odhaleny zákulisní přípravy organizací jako BMDO (Ballistic Missile Defense Organization) a o něco později i NASA k robotické misi na Mars. Brooks naznačuje i svůj osobní podíl na formování koncepce a na technické realizaci uskutečněné výpravy. Je to svým pojetím dost ojedinělý a podmanivý dokument o tom, jak se dnes rodí velké sny, jak dostávají kontury konkrétních technických projektů a jak se pak uskutečňují. Brooks ukazuje jednu velice perspektivní aplikaci výsledků umělé inteligence a pokročilé robotiky i (mezi)lidskou, institucionální, organizační a konkurenční dimenzi jednoho ambiciózního projektu. Čtenář se dostává intimně blízko k mechanizmům rozhodování, o nichž předtím asi ani nepřemýšlel. Dozví se, kdo, proč a kde stál při zrodu pionýrského projektu, který ve své realizační fázi fascinoval civilizovaný svět přistáním sondy Pathfinder a dobrodružnou misí mobilního robůtka Sojourneru na Chryse Planitia, pánvi ležící na severních nížinách Marsu. ³⁾ Druhou dimenzí je charakterizace inovací, jež do umělé inteligence vnesl sám R. Brooks, a přiblížení práce, kterou v Laboratoři umělé inteligence MIT odváděli po léta členové jeho ambiciózního a profesionálně úspěšného týmu. Jde o princip subsumpčí architektury – postupného budování robotů „zdola nahoru“, od jednoduchých modulů zabezpečujících základní sebezáchovné reakce systémů, k nimž se oportunisticky přidávají nové moduly, postupně zdokonalující kvalitu chování (tedy zvyšující inteligenci robotů). ⁴⁾ Čtenář by něco takového zbytečně hledal ve fantaziích technoskeptiků nebo technotěšitelů. Kapitola je lekcí o technickém pokroku. Dokládá, že nejen emotivní apely technopesimistů, ale i technologický pokrok je tu díky aktivitě, osobnímu nasazení, tvořivosti a často i emotivnímu vypětí nejen myslících, nýbrž i cítících lidí.

Jako příklad výzkumu uvádí Brooks příběh vytvoření insektoidního šestinohého kráčejícího a „útočícího“ robota Genghis, ⁵⁾ schopného překonávat překážky na povrchu, po němž se pohybuje. Řešení – místy až překvapivě jednoduchá – která byla při konstrukci použita, poskytují vhodný kontext pro diskusi o vyvstávání (emergenci) kvalitativně nových charakteristik chování umělých systémů z jednoduššího chování jejich součástí. Ve skupinkách jednoduchých robůtků pozorovala Brooksova doktorandka Maja Mataricová vyvstávání společenských jevů a zkoumala jejich spjatost s přirozenými kolektivními jevy, např. v hmyzích společenstvech. Tak se ryze robotické výzkumy postupně přiblížily problematice umělého života. Má hmyz duševní stavy, intence, nebo jde jenom o nenáležitou antropomorfizaci a na broučky se můžeme klidně dívat jako na strojky? A co plazi, savci, lidoopi? A nakonec co lidská duše? To jsou otázky kladené dnes v kognitivní vědě. ⁶⁾ „Zatímco filozofové stěží odepřou intencionalitu lidem, odepřou ji mnozí snadno jiným představitelům naznačeného spektra. Jestliže pozorujeme chování robota Genghis, jeví se nám jako chování hmyzu. Filozofové, profesionální i ti lidoví (v naší klasifikaci jde vesměs o těšitele), se pak ocitají v ještě vážnějších těžkostech, mají-li takovým strojům přiřknout intencionalitu,“ píše Brooks. Proč? A z jakého důvodu ji všichni odpírají dokonce i strojům budoucím? Víme toho již tolik o intencionalitě, nebo zatím tak málo o strojích?

Jak vypadá stroj začátku třetího tisíciletí?

Splnila se představa Stanleyho Kubricka a Arthutra C. Clarka o umělé superinteligenci počítače HAL 9000 z filmu (a z knihy zpracované podle filmového scénáře), ⁷⁾ na který se, jak se Brooks přiznává na začátku 4. kapitoly, ani dnes nedovede dívat, aniž by se mu dojetím tlačily slzy do očí? Ne, nesplnila! Na druhé straně se však splnil sen Cynthii Breazealové, která v průběhu 90. let v Brooksově laboratoři zkonstruovala robotickou hlavu Kismet, schopnou nabývat emotivních stavů v důsledku (neverbální) komunikace s člověkem. ⁸⁾ Kismet není HAL. Zatímco HAL je chladně vypočítavý intelekt, který nikdy nebude vaším přítelem, Kismet je postaven na základě určitého pochopení přirozených lidských sociálních interakcí. Zatímco reakce superinteligentního systému HAL lidé nedovedou pochopit, Kismet nedovedeme nechápat, píše Brooks v závěru 4. kapitoly.

Emotivita strojů je důležitá zejména v souvislosti se snahou konstruovat roboty, jež jsou člověku podobné, tzv. humanoidní roboty. Pod Brooksovým vedením se plní sen těch, kteří touží po robotech s podobnými těly, jaká mají lidé. V Laboratoři umělé inteligence MIT postupně vzniká robot Cog. Je to zkratka angl. cognitive, nebo je to angl. cog, zub na ozubeném kole představujícím techniku a její pokrok, postupující zub za zubem po koleji horské ozubené železnice k vysněnému cíli? Nakonec se zdá, že k tomu, abychom měli roboty, jež budou schopny s námi smysluplně komunikovat, je zapotřebí nejen vybavit je vhodným softwarem – stejně důležité je dát jim odpovídající těla. Tělo jako technický problém je tématem, jímž se bude muset zabývat věda začátku nového století. HAL neumí najít ten správný vztah k lidem možná právě proto, že mu chybí lidské tělo, které by ho vnořovalo do lidského prostředí alespoň přibližně tak, jako nás do našeho prostředí vnořují naše těla. Nebo alespoň do té míry, s níž se do svých prostředí vnořují svými těly humanoidní roboty.

Žijeme s našimi stroji. To není jenom tvrzení pro rozpoutání filozofické diskuse nebo téma kavárenských rozhovorů. Hovoří o tom mezi sebou naše možná ještě ani ne školou povinné děti. Nejde jen o to, kdy budeme mít ve svých domech inteligentní vysavače, chladničky nebo v autech umělé řidiče. Jde i o hříčky typu proslulých Tamagochi. Nebo o robůtky Aibo, připomínající roztomilé (pro mnohé spíše roztodivné) psíky, které uvedla firma Sony na trh před několika lety. O takovéto stroje jde – a o žádné vize! Brooks byl spoluautorem jedné z prvních takovýchto hříček – interaktivní panenky My Real Baby. Na předvánoční trh ji r. 2000 uvedla firma Hasbro. Jak se to stalo a proč, o tom vypráví v 5. kapitole autor nejen jako konstruktér robotů, ale i jako úspěšný podnikatel.

Vize se objevují v 6. kapitole. Kde jsem? ptá se Brooks již v nadpisu, a pak rozvíjí myšlenku teleprezence, technicky uskutečněné „přítomnosti na dálku“. Představa, že z pohodlí svých domovů řídíme činnost robotů pracujících kdesi daleko v podmínkách pro nás těžkých nebo nebezpečných, je technicky reálná. Brooks s přehledem a srozumitelně líčí technická úskalí i možnosti jak je překonat. Dají-li se však prostřednictvím takových technických inovací řešit problémy nízké míry reprodukce obyvatelstva v některých částech světa, popř. problémy s imigrací, které Brooks zmiňuje, to zůstává otevřenou otázkou i po přečtení jeho úvah na tato témata. Představa rodin nejrozvinutějších krajin světa o pohodlném životě se dá dnes vyjádřit heslem: „Děti ne, zajištěné stáří ano.“ Postoj dnes technicky nejcivilizovanějších krajin světa k imigraci nejlépe vymezuje heslo: „Cizí práce ano, cizí pracovníci ne.“ Nedokážu se zcela ztotožnit s představou, že teleprezence toto dilema vyřeší. (Východiskem by mohla být spíše jistá obroda tradičních hodnot Západu v novém vědeckém a technickém kontextu 21. století. ⁹⁾ )

Lidská výlučnost

Výlučnost člověka je předmětem úvah v sedmé kapitole. Jsme jediní, kteří máme emotivní stavy, nebo je mají i zvířata? Pociťuje bolest třeba rybka v akváriu, krysa nebo komár stejně jako pejsek nebo kočička? Připisujeme emoce jenom těm zvířatům, o nichž se domníváme, že se nám v mnohém podobají, protože s námi sdílejí naše prostředí a do určité míry, třeba jenom pasivně, i naši civilizaci? Co uděláme, budou-li se nám v lecčem podobat i naše stroje? Nepřipustíme si evidentní podobnosti jednoduše proto, že se nám jeví jako ideologicky nepřípustné? Nejsou třeba Joseph Weizenbaum a podobní kritici umělé inteligence představitelé té dnešní, historicky však vždy přítomné vrstvy pilířů právě dominující ideologie, s nimiž v minulosti vedl spor třeba Galileo? Všichni, kteří se několik desetiletí věnujeme umělé inteligenci, máme v živé paměti dnes již anekdoticky znějící argumentace někdejších znalců toho, co je a co není možné. Pamatuji se, jak jsem někdy na sklonku dětství kdesi četl, že k chlazení počítače, který by byl tak veliký, že by mohl porazit velmistra v šachu, by nestačila ani voda Niagarských vodopádů. Brooks zmiňuje zprávu z roku 1963, podle níž čínsko-americký účetní vyzbrojený abakusem porazil v rychlosti počítání elektronický počítač. Dnes se jenom pousmějeme...

Nad čím se pousmějí naši vnuci? Budou se usmívat našemu přesvědčení o naší vlastní výjimečnosti? Nebo tomu, jak jsme se domnívali, že jsme stroje? Jsme stroje, tvrdí Brooks. Můžeme mu dát za pravdu, a nemusíme. Neznáme přesný obsah pojmu stroj. Co si pod ním představují třeba Roger Penrose, ¹⁰⁾ David Chalmers nebo John Searle, ¹¹⁾ a dnes snad nejvlivnější odmítači strojové inteligence a vědomí strojů? Co si o jejich názorech myslí R. Brooks? Na jedné straně lidé jako on sestrojují stále dokonalejší, šikovnější a svému prostředí ve svých reakcích přiměřenější stroje. Konkrétní stroje, jejichž schopnosti a dovednosti můžeme vyzkoušet, dáme-li si s tím práci. Na druhé straně jsou hypotézy zahalující vědomí do spekulativní komplikovanosti kvantových dějů (R. Penrose), transformující vysvětlování vědomí na hledání čehosi zásadně nového v univerzu (D. Chalmers) nebo dogmaticky tvrdící, že nic kromě člověka vědomí mít nemůže (J. Searle). Kdo hledá pravdu o lidech a strojích a kdo způsob obrany převládající ideologie vypjatého antropocentrizmu? Nejsme výjimeční. O tom je 8. kapitola.

Budeme zbyteční?

Přibližně dva a půl tisíciletí rozvíjíme vědu, abychom pochopili svět kolem nás i uvnitř nás samých jako jeho součásti. A jsme úspěšní. Budeme úspěšní i v odhalování principů sebereprodukce námi vytvořených systémů? Nebo stojí v cestě uskutečnění tohoto snu něco zásadně nepřekonatelného? Brooks odpovídá na první otázku „ano“, na druhou „ne“. Otázkou není, jestli vytvoříme sebereprodukující systémy, nýbrž kdy je vytvoříme. Otázkou je, bude-li to pro nás prokletí, či vykoupení. Nebo existuje i třetí cesta? Cesta soužití s technikou, jemuž se postupně a někdy zcela nepostřehnutelně učíme již dnes? Cesta „stáhnutí“ veškerých prvků naší lidskosti na stroje podobně, jako dnes stahujeme na naše osobní počítače data z jiných, výkonnějších počítačů? Nebo cesta postupného sbližování člověka a stroje? Takové jsou otázky, jimiž se zabývá 9. kapitola. Poslední, desátá, je pak hlavně o tom, jak si to sbližování můžeme představovat. Zabývá se – stejně jako celá Brooksova kniha – velice konkrétními, srozumitelnými problémy současné umělé inteligence a robotiky, možnými technickými řešeními a společenskými dopady. Zkrátka tím vším, co by měl o soudobé robotice a umělé inteligenci vědět každý technorealista a alespoň tušit každý technoskeptik a technotěšitel.