mff2024mff2024mff2024mff2024mff2024mff2024

Aktuální číslo:

2024/3

Téma měsíce:

Elektromobilita

Obálka čísla

Skryté dilema robotiky

 |  15. 12. 2004
 |  Vesmír 83, 663, 2004/12

V jedné z dramaticky napjatých scén filmu „Já, robot“, který právě běží v kinech, mrkne titulní robot výmluvně okem, aby nenápadně naznačil, že řečené nemusí být bráno vážně. Toto mimické gesto neměl naprogramováno, sám je odkoukal od lidí a vůbec poprvé použil právě v dotyčné scéně.

Víme, co dovedou filmové střihy, triky a digitální editace. Dovolují mísit realitu s imaginací v libovolném poměru a zhotovovat bytosti, jejichž inteligenci, intuici a emoce nelze než obdivovat. Ale i ti opravdoví roboti z plechu, drátů a čipů, s nimiž se lze setkat v laboratořích světových univerzit, jsou každým dnem sofistikovanější a napohled se čím dále tím méně liší od humanoidních robotů ze sci-fi filmů. Příkladem je robot „Kismet“ Massachusettské techniky v USA, který výrazem tváře, pozicí těla, gesty a směrem pohledu předvádí klid nebo hněv, odpor, údiv či zaujetí, veselost nebo zármutek. Obdobně expresivní roboti dílem existují, dílem jsou vyvíjeni na univerzitě Waseda v Japonsku. 1)

Dnes již není problém vsadit (či vysadit) robota do reálného světa a naprogramovat nebo nacvičit jej, aby se choval tak, jak by se v dané situaci choval člověk, či přesněji jak si experimentátor myslí, že by se choval člověk. Robota lze naučit nejen správně tahat figurkami po šachovnici, ale i vyhrávat. Roboti dokážou kráčet po schodech, hrát fotbal, montovat automobily, vozit se po Marsu, tvářit se nešťastně, mluvit. Něco však chybí. Jaksi je nedovedeme – či ještě hůř: nevíme, zda nedovedeme – přimět, aby to vše prožívali vnitřně tak jako my, či aspoň podobně jako my: nejen kráčet, ale i chtít kráčet, něco opravdu zakoušet ve chvíli, kdy dají mat, dostanou gól nebo smontují automobil. Aby je toulky po Marsu opravdu bavily. Aby se nešťastně nejen tvářili, ale aby při tom nešťastní byli. Říkají-li něco, aby to mínili. A vůbec, aby věděli, že jsou.

Stvořitelé robotů umisťují své důmyslné výtvory do světa lidí, do světa, který si zjednáváme naší myslí, který vnímáme našimi smysly, o němž mluvíme a rozmýšlíme pomocí našich, lidských pojmů. Všeobecně se soudí, že robot je tím lepší, čím více přijme tento náš svět za svůj a kdoví, snad i včetně pocitů při jeho prožívání. Nezdá se, že by se někdo trápil případným konfliktem mezi tímto naším, lidským světem (do něhož ovšem náleží i fyzické tělo robota) a světem nutně ne-lidským (pokud vůbec nějakým), který by si zjednával – a snad i prožíval – robot sám. 2) Obvyklý přístup odborníků je ovlivněn novověkou vědou: snažme se naše pojmy a výpovědi formulovat pokud možno „objektivně“, nezávisle na subjektu, dokonce nezávisle na typu subjektu (zda je to člověk, robot, mimozemšťan či chobotnice).

Pokud oproti tomuto objektivistickému přístupu postavíme subjektivní zkušenost, objeví se charakteristická dualita pohledů na ten či onen aspekt dané situace: vnitřní oproti vnějšímu, čili subjektivní oproti objektivnímu. Tak například čas, který vnitřně prožíváme v asymetrické triádě minulost–přítomnost–budoucnost, v níž „čistá přítomnost je neuchopitelným postupem minulosti hlodající budoucnost“ (Henri Bergson), považujeme vnějšně za něco objektivního, absolutního, homogenního a měřitelného. Stejně vnějšně lze pohlížet i na prostor, přičemž vnitřně prožíváme týž prostor spíše jako individuální pole otevřených možností. Podobná dualita mezi subjektivním a objektivním uchopením se dá předvést i pro mnohé jiné situační modality, jako jsou například tělesnost, jednání, smysl situace a vztah k druhým.

Tato dualita vede ke čtyřem alternativním postojům vůči ideálu dokonalého robota jako něčeho, co má být člověku podobné. První postoj se omezuje jen na vnější podobu (vzhled) a na obdobné chování v obdobných situacích. Vnitřní, psychická stránka je pak buď irelevantní, nebo se o ní prostě nedá rozumně mluvit. Tento postoj je objektivistický: vše jako by mělo absolutní (nikoliv jen intersubjektivní) význam, nezávislý na tom, kdo se nachází v dané situaci, ba ani na tom, zda jde o robota nebo o člověka.

Dle druhého postoje by se ideální robot měl člověku podobat i v tom, jak vnitřně prožívá svět a jaký je svět, který prožívá. Měl by ho prožívat stejně jako my. Nehledě na obtíže s ověřováním to ovšem musí někde narazit na již zmíněný konflikt mezi ne-lidskou zkušeností robota a lidskou zkušeností člověka.

V třetím postoji má robot rovněž své vlastní vnitřní prožitky, ty však nemohou a nemají být podobné prožitkům lidským. Spíše by měly být v souladu se specifickou kovovou tělesností robota a s jeho životní minulostí (podoba s člověkem by spočívala v samotné existenci tohoto souladu). Co by to ale bylo za prožitky, to nevím.

Konečně dle čtvrtého postoje nic nebrání tomu, abychom mluvili o vnitřních prožitcích robota, pokud je umíme popisovat zcela objektivně, nezávisle na typu prožívajícího subjektu. Pak by principiálně mělo smysl srovnávat svět robota a svět člověka, v obou případech včetně světa vnitřního. Problém je v něčem jiném: kdoodkud posoudí tento vnitřní svět?

Dilema zůstává. Je tu ale jiná otázka, kterou si schovám na jindy: co nás, lidi, vůbec svádí k tomu, abychom se pokoušeli – ať už ve fantazii nebo ve skutečnosti – vyrábět něco, co je nám podobné?

Poznámky

2) K tomuto konfliktu viz též můj úvodník ve Vesmíru 81, 63, 2002/2.

Ke stažení

RUBRIKA: Úvodník

O autorovi

Ivan M. Havel

Doc. Ing. Ivan M. Havel, CSc., Ph.D., (11. 10. 1938 – 25. 4. 2021) po vyloučení z internátní Koleje krále Jiřího pro „buržoazní původ“ dokončil základní školu v Praze a poté se vyučil jemným mechanikem. Později však večerně vystudoval střední školu a večerně také automatizaci a počítače na Elektrotechnické fakultě ČVUT (1961–1966). V letech 1969 až 1971 postgraduálně studoval na Kalifornské univerzitě v Berkeley, kde získal doktorát v matematické informatice. Po návratu se v Ústavu teorie informace a automatizace ČSAV zabýval teorií automatů. Z politických důvodů musel ústav v roce 1979 opustit a až do roku 1989 se živil jako programátor v družstvu invalidů META. Nespokojil se však s prací pro obživu. Organizoval bytové semináře, věnoval se samizdatové literatuře. Po sametové revoluci od listopadu 1989 do června 1990 působil v Koordinačním centru Občanského fóra. V polovině roku 1990 se stal spoluzakladatelem a prvním ředitelem transdisciplinárního pracoviště Centra pro teoretická studia UK a AV ČR. Nadále se zabýval kybernetikou, umělou inteligencí a kognitivní vědou, v souvislosti s transdisciplinaritou jej zajímala komplexita, emergentní jevy, vznik vědomí. V roce 1992 se habilitoval v oboru umělá inteligence. Do roku 2018 přednášel na MFF UK. Od srpna 1990 do konce roku 2019 byl šéfredaktorem časopisu Vesmír. Stejně jako v CTS i zde svou zvídavostí i šíří zájmů propojoval vědce, filosofy, umělce. Editoriály, které psal do Vesmíru, daly vznik knihám Otevřené oči a zvednuté obočí, Zvednuté oči a zjitřená myslZjitřená mysl a kouzelný svět. (Soupis významnějších publikací)
Havel Ivan M.

Doporučujeme

Jak to bylo, jak to je?

Jak to bylo, jak to je? uzamčeno

Ondřej Vrtiška  |  4. 3. 2024
Jak se z chaotické směsi organických molekul na mladé Zemi zrodil první život? A jak by mohla vypadat jeho obdoba jinde ve vesmíru? Proč vše živé...
Otazníky kolem elektromobilů

Otazníky kolem elektromobilů uzamčeno

Jan Macek, Josef Morkus  |  4. 3. 2024
Elektromobil má některé podstatné výhody. Ale samotné vozidlo je jen jednou ze součástí komplexního systému mobility s environmentálními dopady a...
Návrat lidí na Měsíc se odkládá

Návrat lidí na Měsíc se odkládá uzamčeno

Dušan Majer  |  4. 3. 2024
Tragédie lodi Apollo 1 nebo raketoplánů Challenger a Columbia se již nesmí opakovat. Právě v zájmu vyšší bezpečnosti se odkládají plánované cesty...