Aktuální číslo:

2017/12

Téma měsíce:

Kontakty

Patří Čapkovi Roboti do říše sci-fi?

Předstírané a téměř nepředstírané lidství
 |  11. 5. 2006
 |  Vesmír 85, 264, 2006/5

Hra Karla Čapka R. U. R. (Rossum’s Universal Robots) dala celému světu slovo „robot“. Jací byli Čapkovi Roboti 1) a jací roboti vznikají dnes? Kteří jsou živí a které jsou pouze stroje? Pokusíme se blíže podívat na Čapkovy Roboty a roboty, kterými se zabývá umělá inteligence a technika, a naznačit odpovědi na podobné otázky.

V R. U. R. se Karel Čapek dle vlastních slov pokusil hlavně o ukázku lidského heroizmu, neopakovatelnosti lidského bytí. Roboti byli jakousi vědeckofantastickou kulisou a také výsledkem vědy, o kterou šlo Čapkovi též. Vědou, a právě Roboty, se budeme zabývat i my. Je až neuvěřitelné, kolik inspirace může současná umělá inteligence 85 let po R. U. R. a po přibližně 50 letech vlastní existence v Čapkových Robotech nalézt.

Robotům dal vzniknout starý Rossum, materialista 19. století, který objevil novou chemickou substanci, jež se chovala podobně jako živá hmota. 2) S touto umělou živou hmotou se brzy pustil do dělání člověka. Chtěl podat důkaz, že Boha nebylo zapotřebí. Ukousl si však příliš velké sousto – jeho výtvory umíraly po několika dnech.

Vida neúspěchy starého, zvolil mladý Rossum diametrálně odlišný přístup: chtěl vyrábět inteligentní pracovní stroje. Po inženýrsku a masově. Ředitel Rossumových závodů Domin přibližuje jeho počínání Heleně Gloryové, která přijela bránit práva Robotů: „Mladý Rossum vynalezl dělníka s nejmenším počtem potřeb. Musel ho zjednodušit. Vyhodil všechno, co neslouží přímo práci. Tím vlastně vyhodil člověka a udělal Robota. Drahá slečno Gloryová, Roboti nejsou lidé. Jsou mechanicky dokonalejší než my, mají úžasnou rozumovou inteligenci, ale nemají duši.“

První generace Rossumových Robotů a emergentizmus

Filozofií mladého Rossuma se řídila i produkce Robotů v závodech po smrti obou Rossumů. Drobně upravení Roboti mladého Rossuma byli vyráběni a exportováni do celého světa. Nazvěme je první generací Robotů. Jak vlastně vznikali?

Z připravené živé hmoty se vyráběly kosti, žíly, nervy a jednotlivé orgány. Další postup nechme opět popsat Domina: „Pak je montovna, kde se to dává dohromady, víte, jako automobily… Pak přijde sušárna a skladiště, kde čerstvé výrobky pracují… Zvykají si na existenci. Jaksi uvnitř srůstají či co. Mnoho v nich dokonce nově narůstá. Rozumíte, musíme nechat drobet místa pro přirozený vývoj.“ (viz obrázek 1) Nakonec se ve škole Roboti učili vše, co mohli v práci potřebovat.

Jestliže se zamyslíme nad tím, jak Roboti vznikali, s překvapením zjistíme, že Karel Čapek prostřednictvím svých postav o půlstoletí dříve popsal postup, který bychom dnes nazvali emergentizmus (též konekcionizmus). Ten vysvětluje mnohé složité jevy jako emergentní vlastnosti (vlastnosti, jež vyvstanou) paralelních dějů v rozsáhlé síti aktivních prvků, mezi nimiž existují interakční vazby. Dobrým příkladem je lidský mozek – obrovská síť neuronů (aktivních, paralelně pracujících prvků) spojených synapsemi (interakčními vazbami). Emergentním jevem pak mohou být naše mentální procesy, například naše vědomí. To je jev zřetelný až na „vyšší“ úrovni; vyvstává ale díky vlastnostem a chování prvků „nižší“ úrovně – zde neuronů. 3) V případě Rossumových Robotů bychom za „nižší“ úroveň mohli považovat orgány vyrobené z živé hmoty, ze kterých se montovali Roboti. Po období vnitřního srůstání najednou z pouhých smontovaných orgánů vyvstaly celky: Roboti schopní práce.

Nezapomeňme ještě, že člověk byl pro montování vzorem jen do určité míry. Vše, co nebylo bezprostředně k práci zapotřebí, bylo vyřazeno. A jak se první generace Robotů chovala?

Roboti byli úspěšní pracanti, zvládli dokonce i nemanuální práci. Robotka Sulla byla tak přesvědčivou sekretářkou, že ji Helena považovala za člověka. Zkrátka poté, co srostli a prošli školou, byli schopni bezvadně vykonávat předepsané činnosti. Inteligentně, avšak přece jen mechanicky. Ředitelé závodů říkají o první generaci Robotů, že nikdy nepřijdou na nic nového a „Jsou to jen Roboti. Bez vlastní vůle. Bez vášní. Bez dějin. Bez duše“. A bez lásky a vzdoru. Necítí ani bolest, čehož dosáhl mladý Rossum omezením nervového systému.

Kognitivističtí roboti

Srovnejme nyní Rossumovy Roboty s roboty, které známe z dneška. Ti nejlepší humanoidní roboti vznikají v Japonsku, např. robot Asimo nedávno doprovázel na státní návštěvě v ČR japonského premiéra. Takoví roboti by již mohli zastávat některé činnosti jako jejich kolegové z Rossumových závodů.

Nahlédněme ale pod pokličku robotů vyráběných dnes. Většinu robotů, které vyvinula umělá inteligence ve spolupráci s technikou, můžeme charakterizovat jako kognitivistické roboty. Představme si krátce kognitivizmus, nejstarší paradigma (tzv. tradiční) umělé inteligence. Jeho historie se spolu s historií samotné umělé inteligence začala psát ve čtyřicátých letech 20. století. Kognitivizmus (též funkcionalizmus, počítačový funkcionalizmus či silná umělá inteligence) chápe kognici (vnímání, myšlení) jako výpočetní proces se symboly, které reprezentují svět. Klíčovými slovy jsou tedy algoritmická povaha, symbolické výpočtyreprezentace, vůdčí metaforou digitální počítač, který provádí výpočty se symboly, jež představují nějaké vlastnosti světa. Výpočetní proces je nezávislý na materii, na fyzickém substrátu; podstatná je pouze funkce koleček v soukolí, ne jejich fyzická realizace. Myslet tedy de facto znamená realizovat správný program. Teoreticky (to tvrdí silná umělá inteligence) je pak mysl člověka možno realizovat na křemíkovém čipu nebo pomocí tyček a pružinek. Stačí, když dostatečně porozumíme, jak mozek operuje se symboly jako „hlad“ či „bolest“. Takový program pak může být vykonáván libovolným hardwarem.

Roboti konstruovaní v duchu tohoto paradigmatu jsou do posledního šroubku dílem svých návrhářů, kteří robota sestrojí na míru požadovaného úkolu (viz obrázek 2 vpravo). Na základě čeho centrální procedura rozhoduje jak splnit daný cíl? Na základě robotovy vnitřní reprezentace světa. Ta je rovněž dílem jeho návrháře. Jde-li o průmyslového robota, který kontroluje výrobky, pak se jeho vnitřní svět skládá například z těchto symbolů: vadný výrobek, dobrý výrobek. Robot pak z vnějšího světa přijímá podněty, přeměňuje je na symboly (vadný / dobrý), upravuje interní reprezentaci světa a rozhoduje se, jakou akci provést, aby splnil nějaký cíl. Takový robot je předem daný, nepotřebuje vnitřně srůstat a v tom se liší od emergentistických robotů (viz obrázek 2 vlevo), u kterých se mohou objevit i schopnosti, které jim tvůrce explicitně nepředepsal.

A co je vlastně lepší? Inu těžko říci. Jestliže navrhnu kognitivistického robota, aby například kontroloval výrobky, bude dělat přesně to, co jsem naprogramoval. Nepostaví si hlavu; pokud dělá něco špatně, mohu to prostě opravit. A co emergentistický robot? Tomu mohu pouze prostřednictvím zpětné vazby naznačit, co bylo dobré a co ne. Budu-li mít štěstí, jeho struktura se trochu pozmění a výsledkem bude žádané chování, které vyvstalo ze změn na „nižší“ úrovni. Té ale nerozumím, nemohu již přímo opravovat jeho vnitřnosti. Bude těžší měnit jeho chování žádaným směrem, na druhou stranu může robot zvládnout i některé situace, pro něž nebyl přímo naprogramován.

Není tělo jako tělo

Zaměřme se ještě na tělo robotů. Tělo nějakého průmyslového či humanoidního robota je souborem neživých částí a mechanizmů, které jsou jen volně integrovány. Takové tělo bylo navrženo a vyrobeno jiným procesem, zvnějšku. I smysl, identitu, mu dodává lidský konstruktér či pozorovatel.

Odlišnost těl živých organizmů vysvětlují H. Maturana a F. Varela 4) na konceptu autopoiesis (sebe-tvorby). Autopoietický systém si udržuje vlastní organizaci, je autonomní. Jádrem autopoiesis je autonomie jednotlivých buněk. „Sebetvorbou“ druhé úrovně je pak vzájemná solidarita buněk, které tvoří organizmus. N. Sharkey a T. Ziemke 5) píšou: „I jednobuněčné organizmy bez nervového systému vykazují větší tělesnou integraci a ,intimitu‘ s prostředím než současní roboti.“

A jak je to s Rossumovými Roboty? Tělo Rossumových Robotů bylo uplácáno z umělé živé hmoty, a poté srostlo. Jde tedy o zvláštní kombinaci. Nevyrostlo odstředivě z jedné umělé buňky, ale bylo spíše dostředivě smontováno (jak si Jakob von Uexküll všímá rozdílů mezi konstrukcí živých organizmů a mechanizmů). Přesto však bylo z umělé živé hmoty a jednak mohlo být autonomní na úrovni jednotek živé hmoty, jednak mohlo srůstáním získat „solidaritu“. To mohlo být příčinou jejich úspěchu.

Upozorňoval na to i sám Čapek, když zdůrazňoval, že Roboti byli uděláni chemickou, nikoli technickou cestou. V reakci na interpretace hry jako varování před technikou řekl, že si nemyslí, že by Rossumovi Roboti mohli vzniknout dílem techniky. Přesto se věda ve spolupráci s technikou pokouší dokázat opak. Zatím se jí to však, myslím, nepodařilo.

Velkou škodou pro Roboty první generace bylo, že jim byl redukován nervový systém a nebyla jim dána bolest. To představovalo hlavní překážku v tom, aby mohli využít potenciál svého těla a skutečně si osahat svět kolem.

Filozofie skrytá za tvorbou robotů

Zkusme se podívat na filozofii, jež je podkladem jednotlivých přístupů (nejen) k robotům. Skrytou oporou kognitivizmu, který se uplatňoval a uplatňuje nejen v tradiční umělé inteligenci, je karteziánský dualizmus. Descartes rozdělil svět na res cogitans, mysl, a res extensa, kam kromě okolního světa zahrnul i tělo. Rozprostraněný svět je jaksi bez duše a řídí se pouze fyzikálními zákony. Naopak veškerý smysl a svobodná vůle jsou vlastní pouze lidské nehmotné duši. A zastánci kognitivizmu podobně vyčleňují mysl z přirozeného biologického světa. Podle nich lze mysl specifikovat čistě formálně, abstraktně. Pak je již jedno, v jakém hardwaru ji „spustíme“.

Ukazuje se však, že systémy, u kterých je mysl nahrazena výpočetním strojem operujícím se symboly, stačí jen na určité problémy. Jsou to právě takové úlohy, které lze efektivně algoritmicky řešit prohledáváním nějaké databáze nebo prostoru stavů (úlohy). Expertní systém může například na základě přesně zadaných pacientových symptomů navrhnout diagnózu. Těžko ale zvládne si s pacientem promluvit, získat potřebné informace, a poté třeba provést operaci. Vnímání a akce robota ve skutečném světě či porozumění přirozenému jazyku jsou pro tradiční umělou inteligenci tvrdé oříšky. Otázkou je, zda příčiny malých úspěchů jsou principiální (tj. tímto způsobem nelze zmíněných věcí dosáhnout), anebo jde pouze o nedostatečně vyspělou konstrukci pravidel, podle nichž stroj operuje, či o málo výkonný hardware.

Podívejme se nyní na jiný přístup, který nám pomůže vysvětlit některé nové myšlenky, jež nacházejí uplatnění v umělé inteligenci a robotice. Naším průvodcem bude francouzský fenomenolog Maurice Merleau-Ponty. Podle něj nelze u živého organizmu oddělit mysl od těla a ani samotný organizmus od světa. Lidské chování je možné vysvětlit pohledem na fyzické struktury těla a nervového systému v jejich neustálé interakci se světem. Při sledování takové interakce se pohybujeme v kruhu, protože taková už naše existence ve světě je. Vnímání a jednání jsou v každém okamžiku provázány, a to nejen na vědomé úrovni. Jednotlivé části těla a paralelně pracující neuronové sítě konají ve světě, a tím vnímají, a v závislosti na tom opět konají. Naše oko například rychlým těkáním nepřetržitě sleduje vše kolem, pohybuje se, jedná, a tím vnímá. Podle Merleau-Pontyho je kognice vtělená v našem těle a nervovém systému.

Jde tedy o celostní pohled na život. Není možné oddělit subjekt a objekt. M. Merleau-Ponty tak kritizuje jak empirizmus, tak idealizmus, které tento dualizmus potřebují. Empiričtí filozofové pak nadřazují objekt, svět, který determinuje naše chování. Této představě loutek v rukou světa – loutkáře – ale namítneme, že jsme neustále aktivní, sami (a to opět nejen na vědomé úrovni) prostředí nabízíme své senzory a vybíráme si tak, co budeme vnímat. Idealisté zase nadřazují subjekt, svět je podle nich pouze v naší hlavě. Merleau-Ponty ale nakonec považoval subjekt a objekt, vědomí a svět, za dvě strany jedné mince. 6)

Zjednávání

Na základech položených Merleau-Pontym stavějí F. Varela, E. Thompson a E. Roschová ve své knize The Embodied Mind [Vtělená mysl], 1991. Organizmus si představují jako síť složenou z mnoha úrovní vzájemně propojených senzoricko-motorických podsítí. Taková síť pak jedná ve svém prostředí. Protože je však síť plastická (představme si neuronovou síť v našem mozku, kde se neustále bouřlivě mění synapse), v „dialogu“ se světem se stále mění, a tím mění i své vidění světa. Jednáním ve světě si tak organizmus průběžně zjednává, přetváří svůj svět (tedy ne objektivní svět!). Tato idea dala jméno i celému přístupu: zjednávací přístup. 7)

Jak vznikají kognitivní struktury organizmu? Organizmus si svým jednáním a vnímáním ve světě udržuje svou organizaci (autopoiesis). Vznikají různé senzoricko-motorické vzorce; organizmus je svou strukturou spřažený se svým prostředím. A jeho kognitivní struktury vznikají z takových vzorců na základě historie strukturního spřažení. Tato historie se týká jak druhu, tak jednotlivého organizmu, který část této historie (a zjednaného světa) zdědil v genech a dále si bude svět přetvářet.

V čem se tedy liší zjednávací přístup od kognitivizmu? V tom, že kognitivistický agent je vysazen do předem daného světa, který se snaží (s pomocí svého tvůrce) interně reprezentovat a na této symbolické reprezentaci provádět výpočty. Do jisté míry to platí i pro emergentistického kolegu, u kterého však interní reprezentace „vyvstane“ např. po určitém období učení s lidským učitelem. V obou případech však správnost reprezentace hodnotí tvůrce robota: je to tedy svět jeho tvůrců, který bude robot obývat. 8) Zjednávací agent si naproti tomu zjednává svůj vlastní svět, který závisí na jeho struktuře a historii jednání a vnímání v prostředí. I u takového agenta mohou vzniknout struktury pracující se symboly. Představme si to ale spíše jako špičku ledovce. Abstraktní myšlení a práce s jazykem mohly vzniknout jako nová doména neuronální aktivity v nesmírně složité lidské nervové soustavě.

Druhá generace Robotů si zjednává svůj svět

Po možná obtížné teoretické pasáži se vraťme zpět k Čapkovým Robotům. Je fascinující, že i v zjednávacím pohledu nám mohou podat pomocnou ruku (a vůbec nevadí, že ji měli z umělé živé hmoty). Helena Gloryová, ochránkyně práv Robotů, intuitivně vycítila, co první generaci Robotů schází. „Oh, myslím, že… kdyby se jim ukázalo trochu lásky –“ „Proč jim nestvoříte duši?“ Jak ale na to? První krok správným směrem udělal fyziolog Rossumových závodů Dr. Gall: aby si Roboti dávali na sebe pozor, zavedl jim nervy na bolest. A Roboti si při své práci, svým jednáním ve světě, mohli najednou opravdu osahat své prostředí. Nebo alespoň to, co způsobovalo bolest. Mohli si začít zjednávat, co je to nebezpečí a kde číhá!

K dalšímu kroku ho přesvědčila Helena. Gall později vysvětluje, jak vznikla druhá generace Robotů: „Změnil jsem povahu Robotů. Změnil jsem jejich výrobu. Totiž jen některé tělesné podmínky, rozumíte? Hlavně – hlavně – jejich – iritabilitu.“ A Roboti přestali jen mechanicky vykonávat příkazy lidí. Začali vnímat a jednat ve světě a cítit, jaké to je. Jeden z Robotů to podává takto: „Byli jsme stroje, pane; ale z hrůzy a bolesti stali jsme se – … Stali jsme se dušemi.“ Příkazy lidí je nakonec začaly „iritovat“ a proti lidem se vzbouřili.

Patří Roboti do říše sci-fi?

A nyní se pokusme odpovědět na otázku, zda Čapkovi Roboti patří do říše sci-fi i dnes. Pokud jde o první generaci Rossumových Robotů, domnívám se, že ti již do sci-fi nepatří. Přesněji řečeno: my sice nemáme umělou živou hmotu, ale téměř tak dokonalé inteligentní pracovní stroje již věda ve spolupráci s technikou vyrobit dokáže – byť jiným způsobem než Rossumovy závody. Cenou však s chemií Rossumů ještě soutěžit nemůžeme.

A jak je to s druhou generací Robotů? S Roboty, kteří provedli revoluci proti svým pánům, s Roboty, kteří byli nakonec schopni opravdové lásky, jak v závěru ukazují Primus a Helena? Karel Čapek si myslel, že takoví Roboti mohou technickou cestou vzniknout jen těžko. „Proč? Vždyť dnešní humanoidní roboti jsou již tak věrohodní,“ namítnete. Protože u humanoidních robotů, které vyrábíme, jde pouze o předstírané lidství. Jsou důmyslně naprogramovaní tak, aby v příhodný okamžik vykouzlili na své kovové tváři úsměv. Nemyslím si však, že jsou vevnitř veselí. Jejich konstruktéři je zkrátka vytvořili a natrénovali tak, aby nás v našem lidském světě imitovali. Ale tak jako má každý organizmus svůj svět, měl by být jejich vlastní zkušenostní svět, s těly a senzory, jaké mají, úplně odlišný od našeho. Proto nemůžeme říci, že žijí svým životem ve vlastním světě a že jsou schopni například opravdové lásky (nějaké robotí, nikoli imitované lidské).

Druhá generace Rossumových Robotů si naproti tomu svým tělem z živé hmoty a nervovým systémem opravdu zjednává svůj svět. Navíc má tu vlastnost, že jejich tělo, jejich struktura a pohybové schopnosti jsou velmi podobné těm lidským. A tak si svým jednáním a vnímáním v lidském světě zjednávají podobný svět jako ten náš. A staviteli Alquistovi připomínají lidi. Oni ale na rozdíl od dnešních humanoidních robotů nepředstírají! Zůstávají tak pro nás science fiction.

Literatura

Havel I. M.: Přirozené a umělé myšlení jako filozofický problém. In: Mařík V., Štěpánková O., Lažanský J. et al.: Umělá inteligence 3, Academia, Praha 2001
Markoš, A., Kelemen, J.: Berušky, andělé a stroje, Dokořán, Praha 2004
Varela, F. J., Thompson E., Rosch, E.: The Embodied Mind, The MIT Press, Cambridge, Massachusetts, London 1991
Warwick, K.: Úsvit robotů, soumrak lidstva, Vesmír, Praha 1999

Další literatura
Buriánek F.: Karel Čapek. Československý spisovatel, Praha 1988
Čapek K.: R. U. R.. (Rossum’s Universal Robots). In: Čapek K.: Loupežník, R. U. R.., Bílá Nemoc, Československý spisovatel, Praha 1983
Havel I. M.: Přirozené a umělé myšlení jako filozofický problém. In: Mařík V., Štěpánková O., Lažanský J. et al.: Umělá inteligence 3, Academia, Praha 2001
Hoffmann M., Brom C.: Agents vs. Rossum’s Robots: Towards Intelligent Living Machines. In: Proceedings of the 1st Czech – Argentine Biennale Workshop „e-Golems“, ČV UT, Praha 2005
Maturana H. R., Varela F. J.: Autopoiesis and cognition – The realization of the living, Dordrecht: D. Reidel 1980
Mingers J.: Embodying information systems: the contribution of phenomenology. In: Information and Organization 11, 103–128, 2001
Searle John R.: Mysl, mozek a věda. Mladá fronta, Praha 1994
Sharkey Noel E., Ziemke T.: Mechanistic versus phenomenal embodiment: Can robot embodiment lead to strong AI? In: Journal of Cognitive Systems Research 2, 251–262, 2001
Varela F. J., Thompson E., Rosch E.: The Embodied Mind, The MIT Press 1991  Ziemke T.: The ‘Environmental Puppeteer’ Revisited: A Connectionist Perspective on ‘Autonomy’. In: Proceedings of the 6th European Workshop on Learning Robots (EWLR-6), Brighton 1997

Poznámky

1) V souladu s textem hry budu pro Roboty z R. U. R. používat velké „R″.
2) Na místě tohoto pojmu, který se v textu hry běžně používá, bychom dnes snad řekli organická hmota či buňky.
3) Tím, že celá věc může být ještě složitější, se zabývá I. Havel (Havel I. M.: Přirozené a umělé myšlení jako filozofický problém, 2001). Úrovní může být více a mohou být vzájemně provázány. Navíc sám pojem úrovně je problematický; nebývá jasné, kde která úroveň končí, ani kauzalita vztahů mezi úrovněmi. O to zajímavější pak ale možná mohou být jevy, které z této spletité sítě vyvstanou!
4) Maturana H. R., Varela F. J.: Autopoiesis and cognition – The realization of the living, 1980.
5) Sharkey N. E., Ziemke T.: Mechanistic versus phenomenal embodiment: Can robot embodiment lead to strong AI?, 2001.
6) Mingers J.: Embodying information systems, 2001.
7) O zjednávání a vtělené kognici viz též I. Havel: Zjednaný svět, Vesmír 78, 363, 1999/7.
8) Viz též I. Havel: Skryté dilema robotiky, Vesmír 83, 663, 2004/12.

Ke stažení

OBORY A KLÍČOVÁ SLOVA: Technické vědy

O autorovi

Matěj Hoffmann

Doporučujeme

Tajemná „Boží země“ Punt

Tajemná „Boží země“ Punt uzamčeno

Břetislav Vachala  |  4. 12. 2017
Mnoho vzácného zboží starověkého Egypta pocházelo z tajemného Puntu, kam Egypťané pořádali časté obchodní výpravy. Odkud jejich expedice...
Hmyz jako dokonalý létací stroj

Hmyz jako dokonalý létací stroj

Rudolf Dvořák  |  4. 12. 2017
Hmyz patří k nejdokonalejším a nejstarším letcům naší planety. Jeho letové schopnosti se vyvíjely přes 300 milionů let a předčí dovednosti všech...
Hranice svobody

Hranice svobody uzamčeno

Stefan Segi  |  4. 12. 2017
Podle listiny základních práv a svobod, která je integrovaná i v Ústavě ČR, jsou „svoboda projevu a právo na informace zaručeny“ a „cenzura je...

Předplatným pomůžete zajistit budoucnost Vesmíru

Tištěná i elektronická
verze časopisu
Digitální archiv
od roku 1994
Speciální nabídka
pro školy a studenty

 

Objednat předplatné