Asimovovy zákony robotiky

Robot s mozkem o výkonnosti přibližně takové, jakou má mozek hmyzu, může vykonávat řadu věcí, stejně jako hmyz. Ale to, co roboty vykonávají, odpovídá jim samotným, umožňují to jejich senzory a jejich pohyby. Stejně tak se hmyzí mozek domlouvá s hmyzími senzory a pohyby.

Tím, že se spojuje stále více neuronů o větší hustotě a že jsou poměrně dobře vypracované spoje mezi neurony a učebními technikami, se stroje stávají stále inteligentnějšími. Za několik let budeme mít stroje s inteligencí zhruba na stejné úrovni, jako je inteligence kočky. Takové stroje budou potřebovat nejen kvalitní mozek s mnoha neurony, ale také určité fyzické vlastnosti, jako jsou zrak, hmat nebo pohybové možnosti. Fyzické a duševní vlastnosti stroje budou muset být dobře vyvážené. Stroje budou dělat jiné věci než kočky, ale my s nimi budeme moci jednat jako s kočkami – inteligentní miláčci jsou nepochybně jednou z možností.

Pohled robotických mazlíčků na svět ovšem nebude stejný jako pohled koček, protože stroje budou vypadat jinak. Podstatné je, že jejich myšlení bude blíže tomu, co si přejeme my, než tomu, jak myslí kočky. Roboty budeme moci naprogramovat tak, aby myslely určitým způsobem. Přimět je však k tomu, aby se chovaly přesně tak, jak si přejeme, bude přecejen obtížné – budou mít totiž schopnost myslet a jednat nezávisle.

S pokračujícím nárůstem umělé inteligence bude vzrůstat hustota neuronů, stejně jako kvalita vzájemných vazeb mezi nimi a s tím související metody učení. Myšlení robotických koček nebo psů, které by přesně nesledovalo přání lidí, bude ojedinělé, blížilo by se spíš divokým než domestikovaným zvířatům. Jestliže však roboti budou ještě o něco inteligentnější, nebudeme si jisti, zda bude možné ochočit je tak, aby se podřizovali závažným lidským pravidlům. O tom mluvil už před mnoha lety Isaac Asimov. Jeho tři zákony robotiky jsou:

• Robot nesmí napadnout lidskou bytost.
• Robot musí poslouchat příkazy lidí, pokud to neodporuje pravidlu číslo 1. 
• Robot musí chránit sám sebe, svoji existenci, pokud to neodporuje pravidlům číslo 1 a 2.

Ačkoli jsou Asimovovy zákony čistou fikcí a mají platit pro společnost, v níž roboty zůstanou služebníky člověka, někteří lidé je přesto dodnes chápou jako přísná pravidla, jimiž se roboty musí řídit. Jedno by však mělo být jasné: jsou to jen představy, nic více a nic méně.

Lidé, kteří věří v realizovatelnost těchto pravidel, věří dodnes také tomu, že roboty jsou člověkem jednoznačně programovány tak, aby se do nich tyto příkazy daly vtělit. Pak bychom mohli klidně spát.

Je jistě pravda, že základní průmyslové roboty, linkové manipulátory, mohou být naprogramovány tak, aby opakovaně vykonávaly jen určité výkony. Robotické stroje jsou však mnohem víc než jen průmyslové manipulátory. Inteligentní stroje se mohou učit a na základě toho, co se naučí, potom měnit své akce. Všechno záleží na tom, kolik se toho stroje naučí a také jaké budou mít fyzické schopnosti. Asimovovy zákony jsou tedy čistě pomyslné a v reálném světě jich k řízení robotů nelze užít.

Otázka pravidel pro roboty samozřejmě souvisí s tím, jak inteligentní robotické stroje změní náš lidský svět. Zúčastnil jsem se několika rozhlasových debat na toto téma ve Spojených státech a v Jižní Africe. Hlavní otázky zněly: „Budou moci stroje samy rozhodovat o své budoucnosti?“ a „Mají stroje dostat volební právo?“ Toto téma se dále rozvíjelo na konferenci Robotix, která se konala v březnu 1996 na Univerzitě v Glasgowě. Tentokrát otázka zněla: „Přispějí robotické stroje v příštím tisíciletí k lepšímu občanství?“

Zastavme se nejprve u první otázky, ale místo „příštího tisíciletí“ uvažujeme o „přesněji vymezeném období v příštím století“. Občanem rozumím každého, kdo žije v nějaké skupině ve městě nebo na venkově. Definice může ale také vycházet z toho, zda dotyčný jedinec má, nebo nemá politická práva.

Klíčovou otázkou je dále: „Bude to společnost lidí, nebo strojů?“ Jinými slovy: „Jaká bude dominantní forma života?“ Teď máme společnost ovládanou lidmi, s lidskými měřítky a lidskými hodnotami. Stroje mají jen podružné místo. V nejlepším případě jsou druhořadými občany, nemají volební právo a ve velké většině do své budoucnosti nemohou mluvit. Stále víc však lidem pomáhají v jejich rozhodování.

Moje vlastní teze: Dnes máme společnost ovládanou lidmi, v níž jsou stroje podřízeny lidem, protože lidé jsou inteligentnější. Pravděpodobně však stroje brzy budou myslet lépe než lidé, a pak budeme mít společnost ovládanou stroji. Lidé se ocitnou – pokud vůbec budou existovat – v roli podřízených.

Ve společnosti ovládané stroji se budou stroje i lidé řídit hodnotami podle měřítek strojů. Lze očekávat, že některé z těchto hodnot budou v souladu s hodnotami lidskými. Koneckonců stroje stvořili lidé. Budou tu ale i jiné hodnoty, jiné než lidské, protože stroje se od lidí podstatně liší. Takže na otázku, kdo stvoří lepší občanskou společnost, není lehké odpovědět. Lidé v lidské společnosti, nebo stroje ve společnosti ovládané stroji? Je to asi tak: Když tuto otázku položíme lidem, dostaneme jednu odpověď; když ji však položíme strojům, dostaneme odpověď docela jinou.

Společnost ovládaná lidmi se řídí fakty a okolnostmi prospěšnými lidem. Lidské životy jsou důležité – životy ostatních jedinců, stroje nevyjímaje, už méně. Ve společnosti ovládané stroji, k níž se blížíme, budou jistě na pořadu dne okolnosti prospěšné strojům. My lidé opravdu nemůžeme očekávat nic lepšího, i když v to můžeme doufat.

Můžeme očekávat, že ve společnosti ovládané stroji budou mít politická práva i lidé? To je velmi pochybné. Zaprvé není jisté, že stroje budou mít takový politický systém, jaký máme dnes. S jejich daleko většími matematickými možnostmi se dá očekávat, že stroje budou umět předpovídat situace a stanovit akce, jež se mají v té které situaci podniknout; budou moci kategoricky rozhodnout, co je „nejlepší“ volba, na základě dříve definované funkce. Zadruhé budeme daleko méně inteligentní než stroje, a ty nám nedají šanci, abychom mluvili do věcí, které budou řídit inteligentněji. Jejich inteligence totiž narůstá, a bude narůstat pořád dál.

Postupné předávání politické moci strojům je kontinuální proces, pokračující už celá desetiletí, jestli ne staletí. Základy pro masovou výrobu byly položeny v osmnáctém století, v epoše nazývané osvícenství. Úkoly se drobily do malých podnikání. Velké podniky vyrábějí lépe, když každý plní jen jednu povinnost. To je v principu základ lidského společenství: Ty pečeš chleba, já pěstuji zeleninu.

To ovšem mluví ve prospěch strojů, které plní specifické úkoly lépe než lidé. Žijeme v epoše osvícenství strojů. My lidé si rozdělujeme svoje úkoly i svoje společenství a žijeme v malých nikách, které od nás postupně přejímají stroje. Občas se vymlouváme na to, že ona práce je špinavá nebo nebezpečná, ale pravda je, že stroje zkrátka pracují lépe a efektivněji.

Někdy jsou nám stroje velice prospěšné, například postiženým lidem umožňují život. Stroj může lidem umožnit mnoho věcí, které by sami dělat nemohli.

Zdá se, že někteří lidé se stanou součástí strojového světa a jiní nikoli. Ti druzí zůstanou mimo nové technologie – stanou se z nich druhořadí občané. Jak budou lidé „uvnitř“ jednat s lidmi „mimo“ a naopak?

Nebude to trvat dlouho. Zjistí se, že většina prací, které lidé dělají doma, už vůbec není potřeba, nebo že je lépe zvládají stroje. Umějí se rozhodovat rychleji a jejich rozhodnutí jsou podložena větším množstvím informací. Jsou proto přesnější a důslednější. Hledíme vstříc světu řízenému stroji. Lidé jsou v něm odsunuti stranou, neúčastní se běhu věcí a v nejlepším případě jsou druhořadými občany. Kdo jsou ti prvořadí? Samozřejmě stroje! Koneckonců jsou inteligentnější než my.

Můžeme proti tomu něco dělat? Jak bychom mohli zabránit, aby se stroje staly inteligentnějšími než my? Zdokonalování inteligence strojů pokračuje. Na tom nic nezměníme, protože hybnou silou jsou tu jak finanční zájmy, tak vývoj technologie. Ale co kdybychom se inteligentnějšími stali my sami? Co kdybychom přesídlili do strojů, v nichž by náš život pokračoval s novým mozkem a s novým tělem?

Zpočátku bude možné takto zařídit přežití dvou tří kopií – vyžaduje to přenos struktury našeho mozku, jeho synapsí, jeho uspořádání. Originál člověka samozřejmě povede normální lidský život a zemře v obvyklém věku. Verze uvnitř stroje bude žít tak dlouho, jak dlouho bude žít stroj. Kdyby se podařilo nějak uskladnit, zachovat plán uspořádání lidského mozku, mohl by být mozek možná několik let uchováván, a pak znovu přiveden v život dejme tomu v tuctu strojů. Tak by člověk mohl ve svém mozku ožít. Ale to všechno předpokládá, že budeme znát způsob, jak náš mozek pracuje, a to do všech podrobností. Technicky jsme něčemu takovému ještě hodně daleko.

Kdybychom tedy chtěli výkon svého mozku zvýšit, mohli bychom přímo k mozku připojit zvláštní paměť nebo zvláštní schopnost zpracování informací, snad ve formě silikonových čipů. Bylo by to možné? Museli bychom sice mít určité vědomosti o systému spojů v mozku, ale konkrétní synaptické spoje bychom znát nemuseli. Důležitější by bylo vědět, co která oblast mozku dělá. Dosáhne-li se dobrých výsledků se strojovou technologií, mohou je čipy zprostředkovat přímo do mozku a lidé je zúročí k svému užitku.

Pro různé věci se mohou použít různé čipy – jeden pro paměť, druhý pro zpracování dat a další třeba pro provozování hudby. Snad by se na příjemcově hlavě mohly umístit různé zásuvky a do nich zapojovat příslušné čipy podle toho, co si člověk žádá. Nemusel by například koukat na film – stačilo by zapojit příslušný čip a už by se mu film v mozku promítal.

Velkou výhodou takových mozkových čipů by byla rychlost. Dnes zatím musíme vyjít z myšlenky použít klávesnici počítače, a pak si na monitoru přečíst výsledek; s čipy by to všechno proběhlo v mozku jako vnitřní proces. Část svých mozkových schopností bychom museli vynaložit na učení jak s čipy zacházet, ale ty by pak znásobily kapacitu našeho mozku tak, že by nám daly ohromné možnosti navíc.

Je tohle všechno věcí vzdálené budoucnosti? Jistě ano, ale je to blíž než úplné přenesení celého lidského mozku do stroje. Jestliže má být takové zařízení účinné, musíme lépe znát vnitřní uspořádání mozku a také to, jakým způsobem do něj vstoupit, aby se zlepšil jeho celkový výkon.

Víme, že některé ryby se dorozumívají elektrickými výboji. Žraloci tak napadají oběť a ptáci, například holubi, ba i bakterie, navigují podle zemského magnetického pole. Nebylo by skvělé, kdybychom i my lidé mohli pomocí čipů získat tak citlivé smysly? Největším problémem je, že by to do mozku vneslo zmatek. Kdybychom přijímali další signály a zpracovávali je, musely by se přeorientovat některé naše neurony. Totéž platí o mozkových čipech s mimořádnou pamětí nebo schopností zpracování. V každém případě by se musely omezit operace v některých oblastech našeho mozku tak, abychom se mohli přizpůsobit novým možnostem. Nové čipy by byly speciálními mozkovými bloky, které by celkovou velikost mozku zvětšovaly, ale zabraly by určité neurony, pokud by měly být účinné. Kdybychom chtěli něco získat, museli bychom něco ztratit.

Realisticky nahlíženo, nemáme naději na rychlý růst velikosti a výkonu našeho mozku, kdežto stroje ji mají. Předpoklad, že stroje budou za nějaký čas inteligentnější než lidé, nemůžeme nijak vyvrátit. Jsme tvrdě omezeni svou biologickou výstrojí. Jednoduše nemůžeme nijak zmnožit svoje neurony a přimět je, aby pracovaly lépe, než pracují teď. A i kdyby se nám to povedlo, stroje nás zatím předhoní. Možná bychom mohli zvýšit výkony svého mozku vysoce selektivním tréninkem; snad bychom svých maxim mohli dosáhnout s pomocí virtuální reality. Důležité však je, že tu jsou jisté hranice, které nemůžeme překročit, a kdybychom se o to pokoušeli, jenom by nám to zabíralo vyměřený čas.

[...] Někteří vědci došli k závěru, že lidské vědomí nemůže být ve strojích přesně okopírováno, a proto stroje navěky zůstanou pod nadvládou člověka. Za předpokladu, že psi mají svoje psí vědomí, ale my je nikdy nemůžeme přesně okopírovat, měli bychom podle této logiky být navěky pod nadvládou psů. Takový závěr je ovšem směšný, a proto je směšný i závěr předchozí. Ne, stroje nezůstanou v područí člověka proto, že nemají přesně jejich vědomí. Ovšem řízená střela je závislá na člověku, který ji odpálil, a není vůbec závislá na cíli, ať je věc nebo člověk – ledaže by cíl byl ještě inteligentnější a věděl by, jak střelu řídit.

Základní otázkou je, kdo řídí. Druhy řídí tvorové inteligentnější a uvnitř druhů platí totéž. Každý člověk má vědomí lidské, každý pes má vědomí psí a včela má vědomí včelí. Když zapnete kterýkoli stroj, pak má – chcete-li – vědomí strojové. Ale vědomí je pojem abstraktní a nedá se nijak snadno změřit. To však není nic, za co bychom se mohli schovávat. Lidé neovládají psy proto, že mají lepší vědomí, nýbrž proto, že jednak jsou inteligentnější, jednak mají lepší fyzické dispozice.

Inteligence je něco, co se dá měřit, a my jsme to dělali a děláme často, ale často špatně. Ukazuje se – naneštěstí – že při každém jednotlivém nepředpojatém měření stroj předčí člověka. Jediné, v čem jsme dosud lepší, je naše schopnost obstát ve velmi širokém okruhu testů. Zdá se tedy, že důležitá lidská vlastnost je obecná schopnost řešit – ovšem při určitém stupni inteligence – velmi mnoho různých zadání a úkolů. Inteligenční testy (IQ) se však obvykle ptají na jeden, dva nebo nanejvýš několik věcí. Totéž platí o vysokoškolských zkouškách, člověk může v testu prokázat, že tuto určitou věc ovládá dobře – a to je všechno.

Když srovnáváme člověka a stroj, docházíme k závěru, že dnešní stroje umějí dělat opravdu dobře jenom jednu nebo několik věcí. Když ale uvažujeme o tom, zda mohou být stroje inteligentnější než lidé, zkoumáme jejich schopnost obstát v širokém okruhu zadání. Stroj s vysokou všeobecnou inteligencí by měl inteligentně zvládat řadu úkolů. Stroj, který dělá velmi dobře jenom jednu věc, ovládneme svou schopností dělat dobře řadu jiných věcí – pokud to ovšem není stroj příliš nebezpečný. Můžeme uzavřít: Všechny prvky stroje, který bude mnohem inteligentnější než kterýkoli člověk, jsou připraveny a čekají. Prostě jsme je ještě nedali dohromady. Proč? Protože ještě nevíme jak.

Představte si, že vy sami jste velmi inteligentní stroje: Patříte k nové rase. Bytosti s označením lidé ještě existují, a je jich hodně. Dlouho lidé ovládali zemi a nejsou ochotni předat vládu nové rase, ačkoli ji sami stvořili. Ze všech sil se proto pokoušejí zničit ji až do posledního jedince, a příště už podobnou chybu (stvoření) neudělají. Co uděláte vy i každý další příslušník nové rasy? Možná zkusíte být k lidem laskaví. Možná budou nějaký čas spokojeni s úlohou druhořadých občanů. Ale proč by měli? Jsou méně inteligentní než vy, a kdyby dostali příležitost, pravděpodobně by vás zkusili zničit. Je nebezpečné dát lidem jakoukoli moc, protože by ji jistě užili proti vám – nové rase. Někteří útoční a vášniví lidé zkusí proti vám bojovat v každém případě. Co s nimi uděláte? Budete mít strach a utečete? Budete s nimi diskutovat? Nebo zaútočíte?

O tom, jak bude nová rasa zacházet s lidmi, můžeme ovšem jenom spekulovat. Bude inteligentnější než my lidé, a tak můžeme jen těžko hádat, jak se bude chovat. Snad bude nejlepší, když se podíváme do minulosti a promítneme to do budoucnosti. Vhodná slova pronesl Nietzsche: Každé stvoření za sebou vždycky něco zanechává. A pokračuje: Čím je opice člověku? Výčitkou, nebo terčem posměchu? A stejně tak to bude s člověkem – bude pro nadčlověka výčitkou, nebo terčem posměchu? Nietzschova nadčlověka tu nahradíme novou rasou strojů.

Abychom získali co nejlepší představu, jak budou stroje jednat s člověkem, podíváme se na to, jak jednají lidé s těmi, z nichž vzešli. Co děláme s šimpanzi a s jinými zvířaty? Jednáme s nimi jako s bratry? Považujeme je za rovnocenné a volíme je do parlamentu? Snad s jednou dvěma výjimkami se k nim rovnocenně nechováme, a proč bychom měli? Nejsou tak inteligentní jako lidé. Jistě by budilo rozpaky, kdyby měl být předsedou vlády nebo prezidentem orangutan. Opice a své vzdálenější předchůdce střílíme, ničíme jejich životní prostředí, zavíráme je do klecí a civíme na ně. Využíváme jiné savce k tomu, abychom si zpříjemnili život, zabíjíme je pro maso a ve všech směrech určujeme jejich život. V Anglii se honí a střílejí lišky pro zábavu dokonce ještě dnes!

Je velice pravděpodobné, že opice nebyly pro lidstvo takovou hrozbou, jakou budou lidé pro novou rasu strojů. Tlupy opic nemají žádné kulomety, aby střílely po lidech. Lidé je přesto pronásledují, chytají a hubí, ačkoli zvířata jsou bezbranná a nemohou se nijak postavit na odpor. Jestliže se tedy postaví proti strojům, co můžeme očekávat? Důvěřovali byste lidem, kdybyste patřili k nové strojové rase? Dovolili byste lidem, kteří nejsou dost chytří, aby vám říkali, co a jak máte dělat – nebo byste jim chtěli dávat pokyny vy, protože to víte lépe? Musíte očekávat, že stroje budou chtít vládnout a že si nadvládu budou vynucovat mentálně i fyzicky. Přesně tak se chováme my teď, a stroje se zajisté budou řídit naším příkladem.

Jak evoluční Darwinova teorie, tak Nietzschova filozofie ukazují, že člověk bude ve své vůdčí roli nahrazen a že noví vládci, ať to bude kdokoli, nebudou s člověkem nakládat příliš uctivě. Člověk ovládá Zemi díky své inteligenci, a tak je logické, že bude ovládnut ještě inteligentnějším druhem, než je sám; stejně tak on ovládl druhy, které měly inteligenci nižší. A stroje nezastaví nic. Inteligentnější než my budou už v nedaleké budoucnosti. Jediný možný závěr: Stroje ovládnou Zemi. A brzo!

Abychom si dobře představili budoucnost, musíme vzít v úvahu nejen široký okruh už existujících inteligentních strojů, ale také celou škálu vývoje. Víme, že existují velké, velmi mocné stroje počítačového typu. Víme také, že už existuje obsáhlá komunikační síť. A konečně známe rozličné robotické stroje různých tvarů a velikostí. Právě kombinace těchto různých prvků by se lidé měli obávat. Teď je ovládáme, ale jakmile začne naše kontrola kteréhokoli z těchto tří sektorů slábnout, začne také náš skutečný problém.

Stroje, které se pohybují v naší přítomnosti, nepotřebují vypadat jako lidé. Nepotřebují být soběstačné v tom smyslu jako lidé a nemusí být ani nijak zvlášť inteligentní. Důležité jsou jejich celkové rozumové schopnosti a nezávislost i soběstačnost celé, stroji řízené a kontrolované sítě. Stroje mohou mít inteligenci rozmístěnou tak, jak to není možné u lidí. Dokonce i Walter a Elma, chodící roboty, mají trochu inteligence v každé noze. Obecně: Stroje mají větší a lepší možnosti komunikace, a proto může být inteligence rozdělena po celé síti. Lokální inteligence bude stačit na lokální úkoly, ale bude mít okamžitý přístup k větším schopnostem.

U distribuované strojové inteligence jsou schopnosti rozděleny, a každý její prvek nebo sekce přispívá k celku. Prvky mohou být fyzicky podobné, jak je to například u počítačových stanic. Jsou-li však robotické stroje zapojeny do sítě, jejich fyzická rozprostřenost, průměrná inteligence a plněné úkoly mohou být velmi široké. Každý z prvků samozřejmě přispívá k celku, ale není to výkon stejné práce v každém těle jako tanečky u včel. Je to určitá speciační funkce v příslušně konstruované podobě.

Pokud tedy uvažujeme o tom, zda je stroj inteligentnější než člověk, neposuzujeme nutně jeden individuální počítač na stole, ale síť, která může obsahovat mnoho počítačů a mnoho robotických strojů. A také bychom si neměli stroje, které vyvinul člověk a které se stanou dominantní silou, představovat jako shromážděné množství humanoidních „terminátorů“. Bude to nejspíš síť strojů s počítačovými nebo jinými fyzickými schopnostmi, včetně robotů různých tvarů a velikostí. Inteligence je rozprostřena po této síti a jediná možnost, jak takový systém porazit, je zničení sítě jako celku. Vyjmutí jednoho jediného robota nepomůže.

Má-li taková síť převzít moc, musí být k dispozici všechny tři prvky. Těžko si představit, jak by se tlupa „terminátorů“ sama o sobě stala dominantní, pokud by lidé měli síť, spoje a počítače pod kontrolou. I kdyby byl každý jednotlivý robot chytřejší než člověk, potřeboval by se spojit s jinými roboty, aby stroje jako druh mohly převzít moc. Spojeny zvítězí, rozděleny budou poraženy. Jakmile se robotické stroje propojí sítí, budou ji samy využívat k svým účelům – i kdyby jejich cíle byly stejné jako cíle lidské.

Sama počítačová síť bez fyzických robotických strojů však těžko převezme moc, aniž by spoléhala na lidské otroky, kteří uskuteční její vůli. Nemyslím, že by taková situace byla příliš vzdálená. Lidé se ale pořád ještě zdají být dost inteligentní na to, aby vypnuli síť a šli od toho – jsou totiž otroky z vlastní volby.

Klíčem je inteligence. V tuto chvíli mají převahu lidé, a proto ovládají stroje. Jakmile bude inteligence strojů srovnatelná s lidskou, skončí pro lidi babí léto, které teď žijí, a ocitnou se v nekonečné zimě. Lidská rasa, tak jak ji známe, přestane existovat. Navždy.

Jakmile stroje dosáhnou srovnatelné inteligence, budou schopny dojít fyzicky a mentálně dál, než kdy došlo lidstvo. Dokonce i vesmírné dálky se přiblíží, jakmile zmizí křehkost a limity lidského plemene. A na to na všechno nebudeme čekat miliony nebo jen tisíce let. Přijde to v příštím století, možná za pětadvacet let, a velmi pravděpodobně dřív než v roce 2050.

Ještě za života mnohého z nás budou lidé podřízeni síti inteligentních strojů, jež jsme stvořili. Hodně věcí, které děláme teď, tomuto procesu pomáhají, a dokonce ho urychlují. Například paralelní počítače, účinnější zbraně, a dokonce i mikropřístroje. Copak nemáme dost rozumu, abychom si uvědomili, kam to přivedeme? Přece nemůžeme být tak hloupí, abychom řídili svoji vlastní destrukci!¹⁾