Člověk k obrazu počítače

Jsou to celkem vzácné případy, kdy se odborník osmělí plísnit svůj vlastní obor. Kolegové to nesnášejí a snadno uhádneme proč. Hlas zasvěcence něco znamená, a proto může ublížit stokrát víc než kritika odjinud. A vůbec, to se přece nedělá. Vím, že se to nedělá, to však nic nemění na mém pocitu, že kdykoliv se takový hlas ozve, je dobré snažit se mu porozumět bez ohledu na to, zda se nám chce souhlasit či nikoliv. Zaslouží si větší pozornost než hlasy oslavné, o něž nikdy nouze není. A ocenit toho, kdo se osmělil.

V oboru s dráždivým názvem umělá inteligence se ostře kritický hlas ozval uprostřed sedmdesátých let, ve zlaté éře této disciplíny. Joseph Weizenbaum, počítačový vědec působící tehdy na Massachusettské technice (jednom z hlavních světových center výzkumu v umělé inteligenci), se odvážil znevážit své kolegy v jejich přesvědčení, že počítačové programy adekvátně reprezentují, a tedy i vysvětlují duševní procesy živého člověka. Ba co víc, ostře napadl i samu touhu podobné programy tvořit něco, s čím bychom si dle něj neměli zahrávat. Za odvahu upozornit na filozofické a etické souvislosti, které zpravidla unikají právě těm nejúspěšnějším badatelům v oboru, je tento měsíc oceňován cenou Vize 97. ¹⁾

Názor, že počítačové programy (přesněji řečeno programy založené na klasickém pojetí algoritmu a na symbolické reprezentaci znalostí) jsou vhodným prostředkem k vysvětlení lidské mysli, byl značně oslaben pozdějším vývojem umělé inteligence a kognitivní vědy a také ostře kritizován některými filozofy mysli. To však nebylo Weizenbaumovo hlavní téma. Šlo mu především o ono zahrávání.

Začalo to v šedesátých letech, kdy Weizenbaum vytvořil svou Elizu proslulý konverzační program, jímž chtěl předvést, jak lze na jisté primitivní úrovni zdánlivě smysluplný rozhovor vést bez jakéhokoliv vztahu k obsahu. Zkušebním příkladem byla varianta programu pro konverzaci domnělého psychoterapeuta (stroje) s klientem (člověkem). Weizenbauma ohromilo chování testovaných osob, které si vyvinuly až citově důvěrný vztah k počítači jako by to byl živý člověk. Nejvíc ho však šokovaly reakce psychiatrů, z nichž někteří uvítali Elizu jako slibný krok k úplné automatizaci psychoterapie. (Více si o Weizenbaumovi a jeho Elize můžete přečíst v článku Jiřího Fialy v tomto čísle viz Vesmír 81, 554, 2002/10.)

Od zmíněného ohromení a šoku se odvíjejí Weizenbaumova hloubková reflexe vlastního oboru i varovné úvahy o nebezpečí záměny stroje s člověkem. Své myšlenky pak sepsal v knize Počítačová moc a lidský rozum z roku 1976. ²⁾

Kdo chce hlasitě debatovat o společenských důsledcích umělé inteligence (potažmo informatiky), může si zvolit jeden ze tří extrémních postojů. Může být skeptikem (veškeré snahy napodobit lidské myšlení počítačem musí selhat), optimistou (podaří se to a připraví nám to šťastnou budoucnost), nebo pesimistou (podaří se to a bude to naše neštěstí). Ke každému postoji někoho znám, dokonce osobně. ³⁾

Weizenbaum je skeptik i pesimista. Skeptikem je vůči bombastickým tvrzením svých současníků o úspěšném modelování lidské mysli. Pesimistou je v nepřímém, spíše humanitním smyslu: zahráváme si nikoliv s počítači, ale se samotným lidstvím. Otázkou dle něj není, co počítače dokážou, ale co bychom jim vůbec měli dovolit. Říká, že vzhledem k tomu, že dnes nemáme žádné způsoby, jak učinit počítače moudrými, neměli bychom jim dávat úkoly, které moudrost vyžadují. Některé projekty (například symbiózu živého oka či mozku s počítačem) dokonce považuje za obscénní.

Jakkoliv je mi Weizenbaumova starost o lidství sympatická, mám za to, že jeho argumentace není vždy zcela důsledná. Již i ten jeho šok z nadšených reakcí psychiatrů na Elizu byl poněkud přehnaný. Jednak by nadšení asi stejně brzy opadlo (což se i stalo), jednak a to považuji za důležité i parodie může odhalit něco, co stojí za povšimnutí. Cožpak k rozmluvě s terapeutem nepatří občas i to, že si pacient ve snaze o verbální vyjádření sám pro sebe něco důležitého ujasní? Nazval bych to efektem vrby: dutá vrba rezonuje a předstírá, že slyší. Eliza také předstírá, že slyší. Abyste mi rozuměli: vůbec nejde o to, že by snad mohla terapeuta nahradit. Jen poukazuje na jistý jev, který stojí za teoretikovu pozornost.

U Weizenbauma není vždy jasně vidět, kdy varuje před aplikacemi a kdy před teorií. Právě v tom druhém směru jsou podle mne jeho úvahy závažnější. V jeho době umělá inteligence ovšem žádnou opravdovou teorii neměla (a nemá dodnes) pokud za teorii nepovažujeme (Weizenbaumem rovněž napadnutou) tezi, že prostým slepováním efektních programů pro dílčí intelektuální výkony lze vymodelovat lidský intelekt jako celek.

Teorie, před kterou zvlášť varoval, nebyla už teorie umělé inteligence, nýbrž teorie člověka. Od drobných metafor, které vznikly přenosem z člověka na stroj nebo ze stroje na člověka, není dle Weizenbauma daleko ke ztotožněni člověka se strojem.

Dokáže ten, kdo povýší stroj na člověka, nestat se sám strojem?