Strach

Když se před desetiletími objevily první programovatelné elektronické počítače, psali o nich poetičtější novináři jako o elektronkových mozcích. Kdoví proč, snad proto, že uměly poměrně rychle počítat, dokonce i dosti složité výpočty (samozřejmě podle podrobného návodu, ale i to dodnes připadá mnoha lidem jako náročná duševní činnost). Slovo mozek pak vedlo k myšlenkové zkratce a k úvahám, v jakém vztahu asi tak jsou a budou tyhle nové mozky vůči oněm již existujícím, hlavně pak našim lidským, protože ty považujeme za nejkvalitnější (nikdo se neporadil s delfíny). Je odrazem historicky pochopitelného pesimizmu a asi i něčeho v našem mentálním uspořádání, že lidé od nových „mozků“ čekali spíš to horší. Alespoň jen moc málo úvah se neslo směrem k představě, jak nám elektronické mozky, až budou dost chytré, budou pomáhat. Mnohem častěji se autoři starali o to, jak nám naši noví uměle inteligentní partneři budou klást nástrahy, a také o to, jak vlastně poznáme, že už jsou dost inteligentní na to, aby je příslušné podlosti mohly napadnout.

Pak to nějakých dvacet let vypadalo, že se vášně uklidnily. Počítače v té době udělaly pokrok, který bral dech, nicméně se zdálo, že nikoho zas až tak moc netrápí, je-li to pokrok k zničení lidstva, nebo jemu ku pomoci. Počítače začaly být chápány jako to, co ve skutečnosti jsou, tedy jako nástroje – něco na způsob mopedů. Myšlenka na jejich vzpouru právem odešla do říše vzbouřených kafemlejnků a začalo se zdát, že si prodavači iracionálního strachu našli nové zboží, třeba takové MacDonaldy.

Teprve v posledních několika letech jako by se strach z počítačů a z jejich odvozeniny – robotů – vrátil nejen na stránky sci-fi, ale i do reálněji pojatých knih a časopisů. Možnost jakési vzpoury počítačů nebo robotů se znovu stala předmětem úvah – i seriózní rozumní lidé se k ní vyjadřují s vážnou tváří (viz Vesmír 78, 166, 1999/3 a Vesmír 78, 268, 1999/5). Jedna z příčin je nejspíš v prudkém rozvoji metod umělé inteligence, druhá v tom, že počítače a informační elektronika už opustily klimatizované sály a bydlí s námi. Obojí k počítačům obrací pozornost a oživuje dávno zapomenuté strachy.

Především si řekněme, že přes všechny úspěchy umělé inteligence současné počítače v tom našem lidském smyslu inteligentní nejsou. Nemohou mít nové nápady a ani poměrně nezávislá řešení, k nimž docházejí například expertní systémy, rozhodovací metody, optimalizační algoritmy a podobné rafinovanosti, nejsou vlastně tak docela nezávislá. Jsou to řešení a nápady, o která si napřed někdo (člověk) řekl. Nevylíhly se samy od sebe a z vnitřní potřeby počítače. V tomto smyslu jsou i ty nejlepší počítače jen mrtvé stroje. To samozřejmě nemění nic na skutečnosti, že i ony mohou lidem ubližovat, to může konec konců i motyka, jen jim k tomu ubližování musel napřed někdo dát pokyn, ať už záměrně (vzpomeňme si třeba na virus ILOVEYOU) nebo chybou ve vlastním lidském uvažování.

Předchozí odstavec je ale jako argument o neškodnosti počítačů a robotů tak trochu podvod na čtenáři. Jen málokdo z těch rozumnějších uvažuje o vzpouře dnešních počítačů, o robotech ani nemluvě – jejich dnešní průmyslové verze nemají ani inteligenci řetězce aminokyselin. Obavy a strachy se týkají budoucnosti, pro někoho možná ani ne moc vzdálené. Ona totiž ta rychlost růstu schopností počítačů opravdu dost bere dech a některé z jejich projevů se zdají (dnes ale opravdu jen zdají!) být na hranici inteligentního chování. Máme se tedy bát agrese počítačů někdy v budoucnu?

Odpověď asi bude trochu záležet na nátuře odpovídajícího. Potíž je v tom, že bychom si napřed měli říci, kde se agrese vůbec bere – v lidech, ale i v ostatních živých tvorech (a co v rostlinách, nepřipadá vám plevel na zahrádce někdy až moc agresivní?). Je to něco, k čemu organizmus dojde opravdu sám od sebe, nebo je to něco, co je do něj vloženo výchovou, pudy, evolučním procesem či samotným faktem, že ke svému přežívání musí využívat (porušovat) své okolí? Odpovědět na to možná umějí psychologové, sotva však odborníci na počítače. Kdyby ale měli kteroukoli z předchozích možností říci svým jazykem, asi by se v jejich podání někde vyskytlo slovo „naprogramování“, nebo snad „architektura systému“. Ať už bylo autorem programu živých tvorů cokoli, já jsem pro evoluci, vložila do něj agresivitu jaksi zvenčí. Možná jako nutný prvek, ale stejně. Pokud chceme o něčem takovém uvažovat u počítačů, zdá se, že i do nich by schopnost dostávat agresivní nápady musel napřed někdo vložit. Ten někdo by samozřejmě musel být člověk (i když nemyslím, že by se takový nenašel). Nekřivděme svým strachem počítačům! Nemusíme se bát jich, nýbrž nás samých.

Nevím, jestli lze následující výrok chápat jako projev pesimizmu, nebo naopak optimizmu: Osobně věřím, že počítač nebo robot se proti člověku sám od sebe nevzbouří ani v budoucnu, jako se proti němu nikdy samo od sebe nevzbouří auto. I když to nic nemění na tom, že obětí „vzbouřených“ aut každý den přibývá.