Lze dokázat, že počítače nemohou myslet?

V dubnovém čísle (Vesmír 73, 190, 1994/4) jsme uveřejnili příspěvek J. Záworky „Mohou počítače myslet?“ spolu s poznámkou (v rámečku) I. M. Havla „Je možné se ptát, zda mohou počítače myslet?“. Oba autoři si poté vyměnili dopisy, které zde uveřejňujeme v plném rozsahu.

Vážený pane kolego,

děkuji Vám za poznámky k mé úvaze o myšlení počítačů. Dovolte, abych je chápal jako podnět k dialogu a v tom smyslu na ně reagoval.

Nabízíte tři „zákruty a odbočky“, které jsem ve své úvaze přehlédl a pro něž je neprůkazný závěr mé úvahy, že: „počítač není ničím více než mechanizmem sestrojeným jako prostředí pro modelování, v němž lze dílčí projevy myšlení pasivně simulovat, který však sám nemyslí“.

• Konstatujete, že „myšlení, rozumí se pravé myšlení, se vyznačuje tou zvláštností, že kromě vnějších projevů ... k němu patří i cosi, co prožívám zevnitř v oněch vzácných chvílích, když myslím sám“, a kladete otázku, „zda vůbec lze modelovat i vnitřní aspekty myšlení ...“.

  Je-li odpověď záporná, tedy nelze-li „vnitřní aspekty myšlení modelovat“, pak toto konstatování není v rozporu s mým názorem, že počítač nemyslí, ale naopak mu přitakává a podporuje jej; pokud je odpověď kladná, pak k předmětu mé úvahy ztrácí relevanci: jde prostě jen o jeden z modelovatelných způsobů myšlení.

• Proti mému názoru, že v činnosti počítače „únik z předem zadané logiky, z přísných sekvencí příčin a následků, není ničím jiným než chybou, která je živelná a musí být opravena“, nabízíte, pane kolego, možnost chápat takový únik jako projev emergentního chování. K modelování emergence však vzápětí uvádíte „... jsem dalek se domnívat, že takové modely myslí či že jednou budou myslet ...“ – tedy stran myšlení počítačů vyslovujete názor shodný s mým.
• V jednom místě své úvahy konstatuji, že modely, jimiž poznáváme, se popisované skutečnosti mohou jen blížit, nikdy ji však v úplnosti nepopíší. Vyslovujete svůj pocit, že úvahu lze rozšířit na tvrzení, že „letadla nelétají, lodě neplují, parfémy nevoní a počítače nepočítají – k popisovaným skutečnostem ‘se mohou jen blížit, nikdy je však v úplnosti nepopíší’“. Letadla, lodě, parfémy a počítače nepopisují skutečnosti, jsou skutečností samy o sobě. Proto Vámi nabízená extenze mé úvahy o modelech se mně jeví jako neoprávněná a nevidím souvislost s mou argumentací.

Myslím tedy, že žádná ze tří „ožehavostí“, na něž mne upozorňujete, není v rozporu se závěrem, k němuž jsem došel. Prvé dvě jej podporují, třetí se zdá být výsledkem nedorozumění. Nicméně Váš text mne inspiruje ke dvěma poznámkám, které připojuji.

Prvá je reakcí na Vaši otázku, „zda vůbec lze modelovat i vnitřní aspekty myšlení ...“. Na takto obecně formulovanou otázku odpovídám kladně. Myslím, že prostředkem pro modelování takových aspektů či způsobů myšlení, které máte, pane kolego, na mysli, je umění. Netvrdím, ani nepopírám, že všech.

Pro potřebu úvahy o “myšlení počítačů“ je nutno otázku zúžit: lze vnitřní aspekty myšlení modelovat na počítači? Na takovou otázku odpovídám záporně. Nemyslím, že tento způsob modelování lze v jeho plné šíři provádět na počítači.

Moje druhá poznámka se týká emergentních jevů. Začnu trochu odjinud. Co znamená výrok, že nějaká součást světa je složitá? Je to pouze výrok o potížích mé mysli zabývající se předmětnou entitou, nikoliv o ní samé. Odhlédneme-li od pozorovatele, pozbývá výrok o složitosti čehokoli smyslu. Složitost je kategorie založená na našem vztahu k realitě, na způsobu, kterým ji modelujeme.

Analogicky lze chápat kategorie náhody, pravděpodobnosti, chaosu. Lze vyloučit, že náhodnými se nám jeví takové události, jejichž příčiny neznáme, že pravděpodobností pouze dovedně nahrazujeme popis souvislostí, které pro složitost nelze či není praktické popisovat deterministicky, a že chaotickým se jeví to, co se vymyká naší dosavadní představě řádu? Pak náhoda, pravděpodobnost, chaos jsou kategorie založené na našem vztahu k realitě, na způsobu, kterým ji modelujeme. (Nechci s Laplacem tvrdit, že ve světě není místa pro náhodu, ale úloha najít ji a prokázat se mně jeví stále otevřená.)

Podobně se nabízí otázka, jak je to s emergentními jevy. Jsou vlastní světu, nebo je to opět kategorie dějů, které se vymykají našemu způsobu popisu světa a nám se jako emergentní jeví?

Aby mně bylo správně rozuměno: nechci brát v pochybnost obor pravděpodobnosti, ani význam studia chaosu či emergence. Snažím se jen upozornit na otázku, zda jde o vlastnosti světa, či o způsob, jak jej nahlížíme. Jestliže „lidé dnes na počítačích simulují nebo do nich přímo montují modely neuronových sítí, které zdaleka nejsou ‘vytvořeny na základě přísných sekvencí příčin a následků’“, jak, pane kolego, uvádíte, jde, myslím, o využití počítače, který stále pracuje na základě přísných sekvencí příčin a následků, leč tak, aby emergentní děje simuloval.

Ještě jednou Vám, pane kolego, děkuji za poznámky k mé úvaze. Svěřuji zcela Vašemu rozhodnutí, zda se rozhodnete tuto moji odpověď otisknout; přiznávám, že bych tomu byl rád.

S přátelským pozdravem

Vážený pane kolego,

Váš dopis jsem si přečetl se zájmem a současně s obavou, že jste si mou poznámku v rámečku špatně vyložil: v dopise totiž bráníte jen svůj závěr (že počítač nemyslí), jako kdybych ho byl zpochybňoval. To jsem však (prokazatelně) nečinil a ani nehodlal činit – co mi nicméně dělalo (a stále dělá) starosti, je nápadná snadnost a rychlost, s níž jste k dotyčnému závěru dospěl.

Je ovšem možné, že jsem si naopak já špatně vyložil Váš cíl: třeba jste se jen chtěl čtenáři svěřit se svým intuitivním názorem (že počítač nemyslí), a bez úmyslu nějak hlouběji argumentovat trochu tento názor podpořit svým pohledem na omezenost lidských modelů. Je-li tomu tak, pak je vše v pořádku a ani můj tehdejší rámeček, ani zbytek tohoto dopisu není k Vašemu článku jako takovému relevantní (můj vlastní intuitivní názor, byť podporován trochu jiným způsobem, je totiž podobný Vašemu).

Pokud jste však chtěl opravdu argumentovat (formulace typu “docházíme tedy k závěru“ tomu nasvědčují), je namístě Vaše argumenty (nebo jejich absenci) zkoumat, a to zcela nezávisle na tom, zda s tezí v závěru souhlasím či nikoliv. To byl tak trochu tehdy můj úmysl.

Nyní k Vašemu dopisu. Začíná třemi puntíky, po nichž následují dvě poznámky.

V prvním puntíku rozlišujete dvě možné odpovědi na otázku po modelovatelnosti vnitřních aspektů myšlení. Na první možnou odpověď citujete můj názor, což mě těší, avšak nepovažuji to za argument, protože je to pouhý názor. Navíc, ač můj, není obecně zastáván. V druhém případě nerozumím, co přesně míníte „modelovatelným“ a co „způsobem myšlení“, a vyvstává tak problém rozdílu mezi modelovatelností a realizovatelností. Jinak, je-li druhá odpověď irelevantní, jak tvrdíte, pak je irelevantní i první; je-li však kterákoli relevantní, je nutno se s ní vypořádat. Což zdánlivě činíte v první poznámce ve druhé části dopisu. Zdánlivě proto, že jde jen o Vaše domněnky („Myslím, že...“, „Nemyslím, že...“), uvedené bez argumentace. (Konečně je tu i otázka, zda dotyčné dvě odpovědi vůbec lze ostře odlišit – zda nemohou být mezilehlé případy.)

Váš druhý puntík vlastně nic neříká, jen potvrzuje můj dojem, že jste si účel mého rámečku špatně vyložil. Váže se k tomu však Vaše druhá poznámka v druhé části dopisu, kde nadhazujete otázku reality náhody, respektive emergence. Ale to poukazujete jen na další problém, kterým se ve svém původním článku nezabýváte. Vyjdete-li jen z teze, že pomocí počítače, „který pracuje na základě přísných sekvencí příčin a následků“, se dají simulovat i emergentní, nahodilé a jiné „neukázněné“ děje, ztížíte si svou úlohu, protože budete muset dokázat, že i v takovém případě „počítač postrádá jakoukoliv analogii lidské intuice“, jak s jistotou tvrdíte ve svém původním článku.

K Vašemu třetímu puntíku: Uznávám, že sveden snahou Vás co nejvíce citovat, jsem nevhodně užil slovo „nepopíší“. Zajisté: letadla, lodě, parfémy a počítače (normálně) nic nepopisují, to už spíše něco realizují, napodobují, či se jako něco chovají. Nicméně to, co jsem chtěl říci, platí i tak, protože otázka, zda počítače myslí, je obvykle chápána jako otázka, zda počítače realizují myšlení (to nejčastěji, přičemž zastánci tzv. „silné AI“ na to odpovídají kladně), případně zda napodobují (lidské) myšlení, případně zda se chovají, jako by myslely. (Mimochodem, sám ve svém článku píšete, že model se z jistého hlediska „chová stejně jako zobrazovaný ‘originál’“.) Ať tak či onak, je tu problém, se kterým je nutno se vypořádat před jakoukoliv argumentací, – totiž zda a jak ostře jsou rozlišitelné případy, kdy něco nějakou věc nebo vlastnost popisuje, modeluje, napodobuje, nebo dokonce realizuje. A co míníme, řekneme-li, že to činí v úplnosti, anebo naopak, že se k tomu jen blíží?

Všimněte si, pane kolego, že jsem k meritu věci (zda počítač myslí) vlastně nic neřekl. Pohyboval jsem se víceméně v metarovině ve snaze naznačit, oč mi tehdy šlo: že věci mohou být složitější, než by se na první pohled zdálo.

Se srdečným pozdravem

...Velmi mě v posledním čísle Vesmíru zaujaly články věnované počítačové problematice, zejména pak otázce, zda počítač může myslet. Z obou článků, Záworkova i Havlova, celkem plyne, že nikoli. Zdá se, že některé molekulárněbiologické i genetické skutečnosti mluví také v tomto smyslu. O počítačích vím jen zcela málo a o neurofyziologii toho také moc nevím (jsem internista s biochemickou „zátěží“), ale myslím si asi toto:

Sebedokonalejší počítač, podobně jako lidský mozek, realizuje vazby, zpětné vazby a všechny další interakce stejnými mechanizmy, jako u člověka fantastická síť neuronů, spoje korových center, oblastí subkortikálních; to všechno počítač dovede anebo zanedlouho zvládne. Neuron má, jak se domnívám, proti počítači jednu zvláštnost – jeho čipy jsou proteinové a už se ví, že fungují rychleji, než námi vyráběné elementy v počítačích. Pokud si pamatuji, existují snahy a pokusy takové proteinové čipy vytvořit v superpočítačích.

Ale ten proteinový čip je, jako každá bílkovina a funkční struktury našeho organizmu, určován genetickým kódem, nukleotidovým genem. A tím je asi dáno, že mozkové funkce jsou řízeny vlastnostmi paměťových a jiných proteinů. Každý lidský počítač tedy nutně musí mít svůj geneticky určený podklad, který rozhoduje o kvalitě paměti i o všech ostatních mozkových počítačových spojích. A je tu další složitá hra neurohumorálních a neuroendokrinních regulací, které sotva bude moct jakýkoli počítač i v budoucnu realizovat.

V tom tkví, jak se domnívám, rozdíl mezi „lidským“ a uměle konstruovaným počítačem a je patrně i příčinou toho, že počítač nemůže samostatně myslet, chybí mu možnost adaptovat se tak rychle a složitě, jak to dovede mozek. Je tu tolik obtížně postřehnutelných a prakticky realizovatelných pochodů, jako jsou změny proteinové molekuly (konformace), pohyby iontů, AMP dependentní proteinkinázy atd. atd. A proto asi také nebude schopen reagovat na hudbu a výtvarné umění.

Omlouvám se za své uvažování a těším se, že nám Vesmír někdy něco poví o těch proteinových čipech i o vyhlídkách na další úspěchy počítačů.