Siemens2024Siemens2024Siemens2024Siemens2024Siemens2024Siemens2024

Aktuální číslo:

2024/10

Téma měsíce:

Konzervace

Obálka čísla

Člověk k obrazu počítače

 |  5. 10. 2002
 |  Vesmír 81, 543, 2002/10

Jsou to celkem vzácné případy, kdy se odborník osmělí plísnit svůj vlastní obor. Kolegové to nesnášejí a snadno uhádneme proč. Hlas zasvěcence něco znamená, a proto může ublížit stokrát víc než kritika odjinud. A vůbec, to se přece nedělá. Vím, že se to nedělá, to však nic nemění na mém pocitu, že kdykoliv se takový hlas ozve, je dobré snažit se mu porozumět bez ohledu na to, zda se nám chce souhlasit či nikoliv. Zaslouží si větší pozornost než hlasy oslavné, o něž nikdy nouze není. A ocenit toho, kdo se osmělil.

V oboru s dráždivým názvem umělá inteligence se ostře kritický hlas ozval uprostřed sedmdesátých let, ve zlaté éře této disciplíny. Joseph Weizenbaum, počítačový vědec působící tehdy na Massachusettské technice (jednom z hlavních světových center výzkumu v umělé inteligenci), se odvážil znevážit své kolegy v jejich přesvědčení, že počítačové programy adekvátně reprezentují, a tedy i vysvětlují duševní procesy živého člověka. Ba co víc, ostře napadl i samu touhu podobné programy tvořit něco, s čím bychom si dle něj neměli zahrávat. Za odvahu upozornit na filozofické a etické souvislosti, které zpravidla unikají právě těm nejúspěšnějším badatelům v oboru, je tento měsíc oceňován cenou Vize 97. 1)

Názor, že počítačové programy (přesněji řečeno programy založené na klasickém pojetí algoritmu a na symbolické reprezentaci znalostí) jsou vhodným prostředkem k vysvětlení lidské mysli, byl značně oslaben pozdějším vývojem umělé inteligence a kognitivní vědy a také ostře kritizován některými filozofy mysli. To však nebylo Weizenbaumovo hlavní téma. Šlo mu především o ono zahrávání.

Začalo to v šedesátých letech, kdy Weizenbaum vytvořil svou Elizu proslulý konverzační program, jímž chtěl předvést, jak lze na jisté primitivní úrovni zdánlivě smysluplný rozhovor vést bez jakéhokoliv vztahu k obsahu. Zkušebním příkladem byla varianta programu pro konverzaci domnělého psychoterapeuta (stroje) s klientem (člověkem). Weizenbauma ohromilo chování testovaných osob, které si vyvinuly až citově důvěrný vztah k počítači jako by to byl živý člověk. Nejvíc ho však šokovaly reakce psychiatrů, z nichž někteří uvítali Elizu jako slibný krok k úplné automatizaci psychoterapie. (Více si o Weizenbaumovi a jeho Elize můžete přečíst v článku Jiřího Fialy v tomto čísle viz Vesmír 81, 554, 2002/10.)

Od zmíněného ohromení a šoku se odvíjejí Weizenbaumova hloubková reflexe vlastního oboru i varovné úvahy o nebezpečí záměny stroje s člověkem. Své myšlenky pak sepsal v knize Počítačová moc a lidský rozum z roku 1976. 2)

Kdo chce hlasitě debatovat o společenských důsledcích umělé inteligence (potažmo informatiky), může si zvolit jeden ze tří extrémních postojů. Může být skeptikem (veškeré snahy napodobit lidské myšlení počítačem musí selhat), optimistou (podaří se to a připraví nám to šťastnou budoucnost), nebo pesimistou (podaří se to a bude to naše neštěstí). Ke každému postoji někoho znám, dokonce osobně. 3)

Weizenbaum je skeptik i pesimista. Skeptikem je vůči bombastickým tvrzením svých současníků o úspěšném modelování lidské mysli. Pesimistou je v nepřímém, spíše humanitním smyslu: zahráváme si nikoliv s počítači, ale se samotným lidstvím. Otázkou dle něj není, co počítače dokážou, ale co bychom jim vůbec měli dovolit. Říká, že vzhledem k tomu, že dnes nemáme žádné způsoby, jak učinit počítače moudrými, neměli bychom jim dávat úkoly, které moudrost vyžadují. Některé projekty (například symbiózu živého oka či mozku s počítačem) dokonce považuje za obscénní.

Jakkoliv je mi Weizenbaumova starost o lidství sympatická, mám za to, že jeho argumentace není vždy zcela důsledná. Již i ten jeho šok z nadšených reakcí psychiatrů na Elizu byl poněkud přehnaný. Jednak by nadšení asi stejně brzy opadlo (což se i stalo), jednak a to považuji za důležité i parodie může odhalit něco, co stojí za povšimnutí. Cožpak k rozmluvě s terapeutem nepatří občas i to, že si pacient ve snaze o verbální vyjádření sám pro sebe něco důležitého ujasní? Nazval bych to efektem vrby: dutá vrba rezonuje a předstírá, že slyší. Eliza také předstírá, že slyší. Abyste mi rozuměli: vůbec nejde o to, že by snad mohla terapeuta nahradit. Jen poukazuje na jistý jev, který stojí za teoretikovu pozornost.

U Weizenbauma není vždy jasně vidět, kdy varuje před aplikacemi a kdy před teorií. Právě v tom druhém směru jsou podle mne jeho úvahy závažnější. V jeho době umělá inteligence ovšem žádnou opravdovou teorii neměla (a nemá dodnes) pokud za teorii nepovažujeme (Weizenbaumem rovněž napadnutou) tezi, že prostým slepováním efektních programů pro dílčí intelektuální výkony lze vymodelovat lidský intelekt jako celek.

Teorie, před kterou zvlášť varoval, nebyla už teorie umělé inteligence, nýbrž teorie člověka. Od drobných metafor, které vznikly přenosem z člověka na stroj nebo ze stroje na člověka, není dle Weizenbauma daleko ke ztotožněni člověka se strojem.

Dokáže ten, kdo povýší stroj na člověka, nestat se sám strojem?

Poznámky

1) Laureáty této ceny v předchozích letech byli: Karl Pribram (1999), Umberto Eco (2000), Zdeněk Neubauer (2001), viz Vesmír 78, 543, 1999/10; 79, 483, 2000/9; 80, 423, 2001/880, 452, 2001/8.
2) J. Weizenbaum: Computer Power and Human Reason: From Judgment to Calculation, W. H. Freeman, San Francisco 1976. Několik kapitol této knihy právě vychází v překladu J. Fialy jako 4. svazek knihovny Ceny Nadace VIZE 97 (J. Weizenbaum: Mýtus počítače počítačový pohled na svět, Praha 2002). V tomto českém vydání je přetištěna také zmíněná práce o Elize z r. 1966.
3) Za skeptiky Huberta Dreyfuse, za optimisty Billa Hibbarda, za pesimisty Kevina Warwicka (o něm viz Vesmír 78, 123, 1999/3).

Ke stažení

RUBRIKA: Úvodník

O autorovi

Ivan M. Havel

Doc. Ing. Ivan M. Havel, CSc., Ph.D., (11. 10. 1938 – 25. 4. 2021) po vyloučení z internátní Koleje krále Jiřího pro „buržoazní původ“ dokončil základní školu v Praze a poté se vyučil jemným mechanikem. Později však večerně vystudoval střední školu a večerně také automatizaci a počítače na Elektrotechnické fakultě ČVUT (1961–1966). V letech 1969 až 1971 postgraduálně studoval na Kalifornské univerzitě v Berkeley, kde získal doktorát v matematické informatice. Po návratu se v Ústavu teorie informace a automatizace ČSAV zabýval teorií automatů. Z politických důvodů musel ústav v roce 1979 opustit a až do roku 1989 se živil jako programátor v družstvu invalidů META. Nespokojil se však s prací pro obživu. Organizoval bytové semináře, věnoval se samizdatové literatuře. Po sametové revoluci od listopadu 1989 do června 1990 působil v Koordinačním centru Občanského fóra. V polovině roku 1990 se stal spoluzakladatelem a prvním ředitelem transdisciplinárního pracoviště Centra pro teoretická studia UK a AV ČR. Nadále se zabýval kybernetikou, umělou inteligencí a kognitivní vědou, v souvislosti s transdisciplinaritou jej zajímala komplexita, emergentní jevy, vznik vědomí. V roce 1992 se habilitoval v oboru umělá inteligence. Do roku 2018 přednášel na MFF UK. Od srpna 1990 do konce roku 2019 byl šéfredaktorem časopisu Vesmír. Stejně jako v CTS i zde svou zvídavostí i šíří zájmů propojoval vědce, filosofy, umělce. Editoriály, které psal do Vesmíru, daly vznik knihám Otevřené oči a zvednuté obočí, Zvednuté oči a zjitřená myslZjitřená mysl a kouzelný svět. (Soupis významnějších publikací)
Havel Ivan M.

Doporučujeme

O konzervování, zelené dohodě i konzervatismu

O konzervování, zelené dohodě i konzervatismu

Michal Anděl  |  30. 9. 2024
Vesmír přináší v tomto čísle minisérii článků, které se zabývají různými aspekty konzervování. Toto slovo má různé významy, které spojuje...
Životní příběh Nicolase Apperta

Životní příběh Nicolase Apperta uzamčeno

Aleš Rajchl  |  30. 9. 2024
Snaha prodloužit trvanlivost potravin a uchovat je pro období nedostatku je nepochybně stará jako lidstvo samo. Naši předci jistě brzy...
Izotopy odhalují původ krovu z Notre-Dame

Izotopy odhalují původ krovu z Notre-Dame uzamčeno

Anna Imbert Štulc  |  30. 9. 2024
Požár chrámu Matky Boží v Paříži (Cathédrale Notre‑Dame de Paris) v roce 2019 způsobil ikonické památce velké škody. V troskách po ničivé pohromě...