Aktuální číslo:

2017/12

Téma měsíce:

Kontakty

Člověk k obrazu počítače

 |  5. 10. 2002
 |  Vesmír 81, 543, 2002/10

Jsou to celkem vzácné případy, kdy se odborník osmělí plísnit svůj vlastní obor. Kolegové to nesnášejí a snadno uhádneme proč. Hlas zasvěcence něco znamená, a proto může ublížit stokrát víc než kritika odjinud. A vůbec, to se přece nedělá. Vím, že se to nedělá, to však nic nemění na mém pocitu, že kdykoliv se takový hlas ozve, je dobré snažit se mu porozumět bez ohledu na to, zda se nám chce souhlasit či nikoliv. Zaslouží si větší pozornost než hlasy oslavné, o něž nikdy nouze není. A ocenit toho, kdo se osmělil.

V oboru s dráždivým názvem umělá inteligence se ostře kritický hlas ozval uprostřed sedmdesátých let, ve zlaté éře této disciplíny. Joseph Weizenbaum, počítačový vědec působící tehdy na Massachusettské technice (jednom z hlavních světových center výzkumu v umělé inteligenci), se odvážil znevážit své kolegy v jejich přesvědčení, že počítačové programy adekvátně reprezentují, a tedy i vysvětlují duševní procesy živého člověka. Ba co víc, ostře napadl i samu touhu podobné programy tvořit něco, s čím bychom si dle něj neměli zahrávat. Za odvahu upozornit na filozofické a etické souvislosti, které zpravidla unikají právě těm nejúspěšnějším badatelům v oboru, je tento měsíc oceňován cenou Vize 97. 1)

Názor, že počítačové programy (přesněji řečeno programy založené na klasickém pojetí algoritmu a na symbolické reprezentaci znalostí) jsou vhodným prostředkem k vysvětlení lidské mysli, byl značně oslaben pozdějším vývojem umělé inteligence a kognitivní vědy a také ostře kritizován některými filozofy mysli. To však nebylo Weizenbaumovo hlavní téma. Šlo mu především o ono zahrávání.

Začalo to v šedesátých letech, kdy Weizenbaum vytvořil svou Elizu proslulý konverzační program, jímž chtěl předvést, jak lze na jisté primitivní úrovni zdánlivě smysluplný rozhovor vést bez jakéhokoliv vztahu k obsahu. Zkušebním příkladem byla varianta programu pro konverzaci domnělého psychoterapeuta (stroje) s klientem (člověkem). Weizenbauma ohromilo chování testovaných osob, které si vyvinuly až citově důvěrný vztah k počítači jako by to byl živý člověk. Nejvíc ho však šokovaly reakce psychiatrů, z nichž někteří uvítali Elizu jako slibný krok k úplné automatizaci psychoterapie. (Více si o Weizenbaumovi a jeho Elize můžete přečíst v článku Jiřího Fialy v tomto čísle viz Vesmír 81, 554, 2002/10.)

Od zmíněného ohromení a šoku se odvíjejí Weizenbaumova hloubková reflexe vlastního oboru i varovné úvahy o nebezpečí záměny stroje s člověkem. Své myšlenky pak sepsal v knize Počítačová moc a lidský rozum z roku 1976. 2)

Kdo chce hlasitě debatovat o společenských důsledcích umělé inteligence (potažmo informatiky), může si zvolit jeden ze tří extrémních postojů. Může být skeptikem (veškeré snahy napodobit lidské myšlení počítačem musí selhat), optimistou (podaří se to a připraví nám to šťastnou budoucnost), nebo pesimistou (podaří se to a bude to naše neštěstí). Ke každému postoji někoho znám, dokonce osobně. 3)

Weizenbaum je skeptik i pesimista. Skeptikem je vůči bombastickým tvrzením svých současníků o úspěšném modelování lidské mysli. Pesimistou je v nepřímém, spíše humanitním smyslu: zahráváme si nikoliv s počítači, ale se samotným lidstvím. Otázkou dle něj není, co počítače dokážou, ale co bychom jim vůbec měli dovolit. Říká, že vzhledem k tomu, že dnes nemáme žádné způsoby, jak učinit počítače moudrými, neměli bychom jim dávat úkoly, které moudrost vyžadují. Některé projekty (například symbiózu živého oka či mozku s počítačem) dokonce považuje za obscénní.

Jakkoliv je mi Weizenbaumova starost o lidství sympatická, mám za to, že jeho argumentace není vždy zcela důsledná. Již i ten jeho šok z nadšených reakcí psychiatrů na Elizu byl poněkud přehnaný. Jednak by nadšení asi stejně brzy opadlo (což se i stalo), jednak a to považuji za důležité i parodie může odhalit něco, co stojí za povšimnutí. Cožpak k rozmluvě s terapeutem nepatří občas i to, že si pacient ve snaze o verbální vyjádření sám pro sebe něco důležitého ujasní? Nazval bych to efektem vrby: dutá vrba rezonuje a předstírá, že slyší. Eliza také předstírá, že slyší. Abyste mi rozuměli: vůbec nejde o to, že by snad mohla terapeuta nahradit. Jen poukazuje na jistý jev, který stojí za teoretikovu pozornost.

U Weizenbauma není vždy jasně vidět, kdy varuje před aplikacemi a kdy před teorií. Právě v tom druhém směru jsou podle mne jeho úvahy závažnější. V jeho době umělá inteligence ovšem žádnou opravdovou teorii neměla (a nemá dodnes) pokud za teorii nepovažujeme (Weizenbaumem rovněž napadnutou) tezi, že prostým slepováním efektních programů pro dílčí intelektuální výkony lze vymodelovat lidský intelekt jako celek.

Teorie, před kterou zvlášť varoval, nebyla už teorie umělé inteligence, nýbrž teorie člověka. Od drobných metafor, které vznikly přenosem z člověka na stroj nebo ze stroje na člověka, není dle Weizenbauma daleko ke ztotožněni člověka se strojem.

Dokáže ten, kdo povýší stroj na člověka, nestat se sám strojem?

Poznámky

1) Laureáty této ceny v předchozích letech byli: Karl Pribram (1999), Umberto Eco (2000), Zdeněk Neubauer (2001), viz Vesmír 78, 543, 1999/10; 79, 483, 2000/9; 80, 423, 2001/880, 452, 2001/8.
2) J. Weizenbaum: Computer Power and Human Reason: From Judgment to Calculation, W. H. Freeman, San Francisco 1976. Několik kapitol této knihy právě vychází v překladu J. Fialy jako 4. svazek knihovny Ceny Nadace VIZE 97 (J. Weizenbaum: Mýtus počítače počítačový pohled na svět, Praha 2002). V tomto českém vydání je přetištěna také zmíněná práce o Elize z r. 1966.
3) Za skeptiky Huberta Dreyfuse, za optimisty Billa Hibbarda, za pesimisty Kevina Warwicka (o něm viz Vesmír 78, 123, 1999/3).

Ke stažení

RUBRIKA: Úvodník

O autorovi

Ivan M. Havel

Doc. Ing. Ivan M. Havel, Ph.D., (*1938) absolvoval FEL ČVUT v Praze. V letech 1969–1971 studoval Ph.D. (počítačové vědy) na University of California v Berkeley. Několik let pracoval jako výzkumný pracovník v Ústavu teorie informace a automatizace ČSAV. V současné době je docentem na Univerzitě Karlově v Praze a působí v Centru pro teoretická studia (společném pracovišti UK v Praze a AV ČR), jehož byl v letech 1990 – 2008 ředitelem. Přednáší na MFF UK.
Havel Ivan M.

Doporučujeme

Jak si delfíni ucpávají uši

Jak si delfíni ucpávají uši audio

Jaroslav Petr  |  17. 12. 2017
Hluk v mořích a oceánech produkovaný člověkem ohrožuje kytovce. Může je dočasně ohlušit nebo jim trvale poškodit sluch. Nově objevený fenomén by...
Tajemná sůva šumavská

Tajemná sůva šumavská

Jan Andreska  |  17. 12. 2017
Byl vyhuben a vrátil se. Na Šumavu lidskou snahou a do Beskyd vlastním přičiněním. Puštík bělavý teď žije opět s námi, ale ohrožení trvá.
Hmyz jako dokonalý létací stroj

Hmyz jako dokonalý létací stroj

Rudolf Dvořák  |  4. 12. 2017
Hmyz patří k nejdokonalejším a nejstarším letcům naší planety. Jeho letové schopnosti se vyvíjely přes 300 milionů let a předčí dovednosti všech...

Předplatným pomůžete zajistit budoucnost Vesmíru

Tištěná i elektronická
verze časopisu
Digitální archiv
od roku 1994
Speciální nabídka
pro školy a studenty

 

Objednat předplatné