Aktuální číslo:

2017/12

Téma měsíce:

Kontakty

Strach

 |  5. 12. 2000
 |  Vesmír 79, 668, 2000/12

Když se před desetiletími objevily první programovatelné elektronické počítače, psali o nich poetičtější novináři jako o elektronkových mozcích. Kdoví proč, snad proto, že uměly poměrně rychle počítat, dokonce i dosti složité výpočty (samozřejmě podle podrobného návodu, ale i to dodnes připadá mnoha lidem jako náročná duševní činnost). Slovo mozek pak vedlo k myšlenkové zkratce a k úvahám, v jakém vztahu asi tak jsou a budou tyhle nové mozky vůči oněm již existujícím, hlavně pak našim lidským, protože ty považujeme za nejkvalitnější (nikdo se neporadil s delfíny). Je odrazem historicky pochopitelného pesimizmu a asi i něčeho v našem mentálním uspořádání, že lidé od nových „mozků“ čekali spíš to horší. Alespoň jen moc málo úvah se neslo směrem k představě, jak nám elektronické mozky, až budou dost chytré, budou pomáhat. Mnohem častěji se autoři starali o to, jak nám naši noví uměle inteligentní partneři budou klást nástrahy, a také o to, jak vlastně poznáme, že už jsou dost inteligentní na to, aby je příslušné podlosti mohly napadnout.

Pak to nějakých dvacet let vypadalo, že se vášně uklidnily. Počítače v té době udělaly pokrok, který bral dech, nicméně se zdálo, že nikoho zas až tak moc netrápí, je-li to pokrok k zničení lidstva, nebo jemu ku pomoci. Počítače začaly být chápány jako to, co ve skutečnosti jsou, tedy jako nástroje – něco na způsob mopedů. Myšlenka na jejich vzpouru právem odešla do říše vzbouřených kafemlejnků a začalo se zdát, že si prodavači iracionálního strachu našli nové zboží, třeba takové MacDonaldy.

Teprve v posledních několika letech jako by se strach z počítačů a z jejich odvozeniny – robotů – vrátil nejen na stránky sci-fi, ale i do reálněji pojatých knih a časopisů. Možnost jakési vzpoury počítačů nebo robotů se znovu stala předmětem úvah – i seriózní rozumní lidé se k ní vyjadřují s vážnou tváří (viz Vesmír 78, 166, 1999/3 a Vesmír 78, 268, 1999/5). Jedna z příčin je nejspíš v prudkém rozvoji metod umělé inteligence, druhá v tom, že počítače a informační elektronika už opustily klimatizované sály a bydlí s námi. Obojí k počítačům obrací pozornost a oživuje dávno zapomenuté strachy.

Především si řekněme, že přes všechny úspěchy umělé inteligence současné počítače v tom našem lidském smyslu inteligentní nejsou. Nemohou mít nové nápady a ani poměrně nezávislá řešení, k nimž docházejí například expertní systémy, rozhodovací metody, optimalizační algoritmy a podobné rafinovanosti, nejsou vlastně tak docela nezávislá. Jsou to řešení a nápady, o která si napřed někdo (člověk) řekl. Nevylíhly se samy od sebe a z vnitřní potřeby počítače. V tomto smyslu jsou i ty nejlepší počítače jen mrtvé stroje. To samozřejmě nemění nic na skutečnosti, že i ony mohou lidem ubližovat, to může konec konců i motyka, jen jim k tomu ubližování musel napřed někdo dát pokyn, ať už záměrně (vzpomeňme si třeba na virus ILOVEYOU) nebo chybou ve vlastním lidském uvažování.

Předchozí odstavec je ale jako argument o neškodnosti počítačů a robotů tak trochu podvod na čtenáři. Jen málokdo z těch rozumnějších uvažuje o vzpouře dnešních počítačů, o robotech ani nemluvě – jejich dnešní průmyslové verze nemají ani inteligenci řetězce aminokyselin. Obavy a strachy se týkají budoucnosti, pro někoho možná ani ne moc vzdálené. Ona totiž ta rychlost růstu schopností počítačů opravdu dost bere dech a některé z jejich projevů se zdají (dnes ale opravdu jen zdají!) být na hranici inteligentního chování. Máme se tedy bát agrese počítačů někdy v budoucnu?

Odpověď asi bude trochu záležet na nátuře odpovídajícího. Potíž je v tom, že bychom si napřed měli říci, kde se agrese vůbec bere – v lidech, ale i v ostatních živých tvorech (a co v rostlinách, nepřipadá vám plevel na zahrádce někdy až moc agresivní?). Je to něco, k čemu organizmus dojde opravdu sám od sebe, nebo je to něco, co je do něj vloženo výchovou, pudy, evolučním procesem či samotným faktem, že ke svému přežívání musí využívat (porušovat) své okolí? Odpovědět na to možná umějí psychologové, sotva však odborníci na počítače. Kdyby ale měli kteroukoli z předchozích možností říci svým jazykem, asi by se v jejich podání někde vyskytlo slovo „naprogramování“, nebo snad „architektura systému“. Ať už bylo autorem programu živých tvorů cokoli, já jsem pro evoluci, vložila do něj agresivitu jaksi zvenčí. Možná jako nutný prvek, ale stejně. Pokud chceme o něčem takovém uvažovat u počítačů, zdá se, že i do nich by schopnost dostávat agresivní nápady musel napřed někdo vložit. Ten někdo by samozřejmě musel být člověk (i když nemyslím, že by se takový nenašel). Nekřivděme svým strachem počítačům! Nemusíme se bát jich, nýbrž nás samých.

Nevím, jestli lze následující výrok chápat jako projev pesimizmu, nebo naopak optimizmu: Osobně věřím, že počítač nebo robot se proti člověku sám od sebe nevzbouří ani v budoucnu, jako se proti němu nikdy samo od sebe nevzbouří auto. I když to nic nemění na tom, že obětí „vzbouřených“ aut každý den přibývá.

Ke stažení

OBORY A KLÍČOVÁ SLOVA: Počítače, internet

O autorovi

Milan Mareš

Prof. RNDr. Milan Mareš, DrSc., (*1943) vystudoval Matematicko-fyzikální fakultu UK. V Ústavu teorie informace a automatizace AV ČR, v. v. i., se zabývá teorií rozhodování a teorií fuzzy množin. V letech 1993–1997 byl členem Akademické rady AV ČR. Je autorem knihy Slova, která se hodí aneb Jak si povídat o matematice, kybernetice a informatice (Academia, Praha 2006), a knihy Příběhy matematiky (nakladatelství Pistorius, Praha 2008).

Doporučujeme

Tajemná „Boží země“ Punt

Tajemná „Boží země“ Punt uzamčeno

Břetislav Vachala  |  4. 12. 2017
Mnoho vzácného zboží starověkého Egypta pocházelo z tajemného Puntu, kam Egypťané pořádali časté obchodní výpravy. Odkud jejich expedice...
Hmyz jako dokonalý létací stroj

Hmyz jako dokonalý létací stroj

Rudolf Dvořák  |  4. 12. 2017
Hmyz patří k nejdokonalejším a nejstarším letcům naší planety. Jeho letové schopnosti se vyvíjely přes 300 milionů let a předčí dovednosti všech...
Hranice svobody

Hranice svobody uzamčeno

Stefan Segi  |  4. 12. 2017
Podle listiny základních práv a svobod, která je integrovaná i v Ústavě ČR, jsou „svoboda projevu a právo na informace zaručeny“ a „cenzura je...

Předplatným pomůžete zajistit budoucnost Vesmíru

Tištěná i elektronická
verze časopisu
Digitální archiv
od roku 1994
Speciální nabídka
pro školy a studenty

 

Objednat předplatné