Lze ovládat technologická rizika?

V knize Technologický úděl (Filosofia, Praha 1997) jsem nastolil otázku, za jakých podmínek je možné omezit, či dokonce vyloučit škody vyplývající z některých aplikací vědeckého a technického vývoje. Posláním vědy je vždy pokračovat v rozvíjení znalostí a vývoj technologií rozšiřuje naše možnosti zasáhnout do sfér přírodních i našich, lidských. Toto nejisté hledání je provázeno i škodami a riziky. Vidíme to na problémech, s nimiž přicházejí iniciativy hájící životní prostředí, a ještě výrazněji na velkých technologických katastrofách, jako byly Minamata, Seveso a Černobyl.

Pojem „sociální ovládání techniky“ znovu vyvolává diskusi o hranicích, které můžeme nebo chceme vymezit nejen následkům vědeckého výzkumu, ale i vědeckému výzkumu samotnému. Nelze brát na lehkou váhu, že jsou to diskuse z hlediska vědeckých požadavků rozporuplné a pro demokracii nebezpečné. Hrozby vedoucí k přehodnocení některých složek vědeckého a technického vývoje zároveň přinášejí otázku, jak daleko smíme zajít. Omezovat touhu po vědění, která je vědeckému výzkumu vlastní, která je vrozená a víme o ní již od Aristotela, která označuje člověka v jeho vlastních specifických rysech – to prostě nelze, alespoň v naší společnosti. Ostatně známe zlo, jímž by sounáležitost badatelů mohla být znásilněna, kdyby se totalitní prostředky uplatnily na celém světě. Proto byla otázka (kam až smíme) vyslovena.

Karteziánský projekt usiloval o to, aby z člověka učinil „pána a vlastníka přírody“. Úspěchy projektu se však obrátily proti člověku samotnému, a proto se začínáme zabývat tím, abychom člověku vrátili postavení pána nad technickými změnami, jež sám inicioval. To je smyslem amerického „technology assessment“, sociálního hodnocení techniky, což je nová funkce, kterou naše společnost musí vykonávat, protože technologická rizika nesmírně vzrostla. Tento nový jev vedl ke změně optimistické vize technického pokroku, přetrvávající od počátků průmyslové revoluce. Zjišťujeme, že je zde vcelku rovnováha prospěchu a škod, kterou ekonomové nazývají náklady a přínosy – negativní aspekty ohrožují význam aspektů pozitivních. V Praze, tomto krásném městě, se nepřestává vznášet přízrak Golema, jímž rabbi Löw připomněl, že produkt fantazie se může změnit v ničivou hrozbu.

Dosud se technická činnost – a to spíše díky vědeckému výzkumu – může rozvíjet bez rizika, pokud se předem pamatuje na ochranu proti zničujícím důsledkům. Soudilo se, že negativní důsledky byly odstraněny, když se nevyskytly v ověřovacích pokusech. Dnes nejsme daleko požadavku, aby už při ověřování byly dopady všech pokusů neškodné. Jde o změnu v našem nazírání, která odpovídá pojetí „technology assessment“ na konci šedesátých let.

Termín „assessment“ podobně jako francouzské „assises“ (sezení soudu) pochází od latinského slova „assidere“, tj. zasednutí do lavice soudců. Francouzský (a také český, pozn. překl.) překlad termínu „assessment“ jako „evaluation“ („hodnocení“) tedy neodpovídá tomu, co je míněno termínem „hodnocení techniky“. Jde o proces, o akci pohánějící před soud, která je zaměřena na určení povahy škod a podílu na odpovědnosti, avšak tento proces má tu zvláštnost, že bývá zahájen dříve, než by škody mohly vzniknout. Dlouhodobé následky technických změn se odhadují předem, protože se předvídají negativní jevy, aby zbyly jen technické procesy s pozitivními následky. Je to ambiciózní projekt, takže se lze ptát, zda není paradoxní a protikladný: lze u každé inovace předvídat všechny možné dopady? Legendární génius vystoupil z hliněné schránky a vidíme, že ho tam nelze znovu zavřít, avšak tváříme se, jako by jeho pohyby mimo schránku zůstávaly stále pod kontrolou. Jde zde však o něco dalšího: Mluvíme-li dnes o sociálním hodnocení techniky spíše než o hodnocení technologickém, je to proto, abychom zdůraznili fakt, že tento proces není jen záležitostí specialistů, ale že předpokládáme spoluúčast všech těch, kteří jsou povoláni vzdorovat následkům technických změn. Technologie před soudem, to je vstup celé společnosti do soudní síně, jež byla dosud rezervována jen expertům.

Povaha určitých typů technického vývoje dnes zahrnuje část rizik a ohrožení, která při změnách na počátku industrializace vůbec nebylo vidět. Vezměme si nejdramatičtější příklad: nukleární zbrojení. Počínaje Hirošimou se systémy atomového vyzbrojení kalkulují v tak přehnané nadbytečnosti megatun, že se nacházíme v situaci, které Američané říkají „overkill“ (ničivý potenciál mnohonásobně převyšuje množství potřebné k zničení lidstva na Zemi). Změna stupnice a změna moci: Je-li mohutnost soudobých technických systémů něčím, co nemá žádné předchůdce, jejich destrukční mohutnost to nezmenšuje. Během studené války Arthur Koestler řekl přibližně toto: Za všech věků každý člověk jako takový, jako individuum, věděl, že je mu souzeno zemřít. Dnes víme, že je třeba vzít v úvahu i  zánik celého lidského rodu. Jistě, konec komunizmu oddálil přízrak termonukleární války, nezpůsobil však vyklizení zásob jaderných zbraní.

Stín nejistoty a absolutní hrozby, který před nás staví možnost nukleární války, vytyčil nový rozměr ve vztahu člověka a společnosti k technologii. Zejména podnítil strach ne-li z iracionality, tedy alespoň z nedostatku rozumu. Prometheus byl dobrodružně odvážný, nikoli smyslů zbavený. Ze století bratří Lumiérů jsme zdědili ideu, že vědecký a technický pokrok umožňují cestu lidstva k lepšímu. Právě tento postulát, tato iluze racionalizmu, se zasloužil o oddálení přízraku nukleární války. Avšak nepoučili jsme se v tomto století již dost o tom, že technologie, a dokonce věda mohou sloužit destruktivnímu šílenství a barbarství? Spánek rozumu, říkal Goya, vytváří monstra. Nyní víme, že probuzený rozum je vytváří také.

Aniž bychom šli až do krajních mezí nukleární katastrofy, je jasné, že složitost určitých vývojových tendencí technologie a spěch, s nímž se je snažíme šířit, jsou rovněž těmi možnými negativními dopady, stejně jako dopady předchozí. Vidíme to na přehnaném zvětšování: od středních tankerů k supertankerům, od komunikačních systémů k dopravním systémům. Závady a rizika pokroku vedly k novým složkám technologie, a to od počátku aplikací k rozměrům dříve nevídaným a k rychlosti, s níž se šíří v sociálních strukturách. Rozsah znečištění a obtíže s omezením odpadů (například radioaktivních produktů s dlouhou životností) jsou zas jiným aspektem těchto přehmatů civilizace. Odtud plyne dvojí nová dimenze „rizik velkých technologií“: hrozby zatěžují tím, že se rozšiřují na zóny nesrovnatelně větší a na období nesrovnatelně delší. Zóny při katastrofě nejsou snadno izolovatelné a evakuovatelné: mraky z Černobylu ignorovaly státní hranice. Navíc pak toxické produkty (dioxin, radioaktivita) mohou mít následky, které nelze odstranit po dlouhá léta nebo, ještě hůře, mohou přetrvat mnoho generací.

Tyto problémy jsou dobře známé. Uváděl jsem je jako jeden příklad z mnoha, včetně těch, které se týkají informatiky, manipulací s databázemi. Ve většině průmyslových zemí je potřeba nová legislativa, aby se vytvořily prostředky kontroly a ochranných mechanizmů. Hrozby ohrožující soukromý život a svobody nejsou jen fantaziemi čtenářů Orwella: patří k nim centralizační trendy v informatice a policejní a totalitní pokušení.

Jiným příkladem, jehož následky jsou patrně vzdálenější, nicméně předvídatelné, jsou intenzivní výzkumy týkající se lidského genomu: zmapování genomu by nepochybně mohlo prospět prevenci nemocí, mohlo by však také vést k novým „programům eugenizmu“ a k obnovení nadějí vytvořit „nadřazenou rasu“. Aniž bychom došli až k tomuto scénáři, vidíme, že získání genetické informace může ohrozit individuální svobody tím, že vybaví pojišťovací společnosti a národní zdravotní systémy možností kontroly nad „rizikovými“ rodinami.

Navíc ještě, pokud jde o optimistickou vizi pokroku, je to věda samotná, která se stává nosičem problémů. Neznepokojuje nás jen technologický vývoj, tj. produkty výzkumu a inovací využívané a rozšiřované ve velkém měřítku. Také vědecký výzkum sám o sobě otevřel možnosti zneužití výsledků. Kontroverze, které byly od r. 1974 vyvolány výzkumem úprav DNA, jsou jedním z příkladů. Od té doby byly ve většině průmyslových zemí přijaty takové legislativní normy, které předepisují prostředky zajištění, obsahují plán fyzických instalací a biologických zkušeností i jejich potenciálních nebezpečí, aniž tím omezují výzkumy samotné. Celá kontroverzní sázka, která byla definována r. 1974 na konferenci v Asilomaru, tkví v rovnováze, jež má být ustavena mezi odhadem rizika proveditelných experimentů a odhadem účinnosti prahů jistoty.

Samotná povaha uvedených výzkumů, rozdílnosti v názorech mezi experty a tlaky veřejného mínění přeměnily tyto vědecké diskuse v politické debaty. Záležitost Asilomaru nebyla obecným opakováním série dotazů a sporů, pokrok biomedicínských technik nepřestal vyvolávat nové problémy sociální či etické. Přemýšlím o možnostech, které přineslo klonování ovce Dolly. Co se stane, přejde-li se ke klonování člověka? Z jedné strany se instituce, která uskuteční racionální výzkum, ptá na meze, jež má pro chod výzkumu vytyčit. Na druhé straně péče o sociální kontrolu výzkumu zasahuje do oblasti dosud příslušející výlučně diskusím odborníků. Totéž lze říci o vývoji, který chce procedury, bez nichž pokrok vědy není možný, podřídit vnější kontrole vědecké pospolitosti.

V zásadě platí, že tak jak se změnily lekce o pokroku, změnili se i lektoři. Díky zvýšení životní úrovně, rozsáhlému přístupu ke vzdělání a obrovskému šíření informací v médiích si je těchto rizik vědoma stále větší část populace. V diskusích průmyslové společnosti se sociální konflikty týkají požadavků, jež mají v podstatě ekonomický charakter. Část z nich je spojena se životem a životním prostředím. Mobilizační kapacity ekologických hnutí v některých zemích svědčí o tom, že se vztahy společnosti k přírodnímu prostředí změnily.

Příroda a rozměry určitých vědeckých a technických změn vyžadují regulaci, do níž by se v co největším rozsahu zapojily všechny společenské útvary. Ty by pomáhaly překonávat některé chyby jistou blokádou, jak se to již mnohde děje (viz nukleární záležitosti ve Spojených státech). Je patrná asymetrie mezi mocí rozhodující sféry (politiků, úředníků, vědců a techniků) a intervencemi či kontrolami, jimiž disponují jednotlivci a skupiny. Jak vyslyšet jejich hlas? Proces rozhodování se stává stále nezávislejším a uzavřenějším, protože závisí na znalostech a vědeckých praktikách. Požadavek spoluúčasti na rozhodování je výrazem potřeby průhlednosti, demokracie a kontroly, tj. pravidel hry, jejichž definice není výlučně doménou řídících pracovníků, vědců a techniků.

Vidíme tedy, proč pojem „sociálního“ hodnocení techniky vnesl do původního výrazu „technology assessment“ změny. Ty se týkají jak hodnocení expertů, tak hodnocení, do nichž má co mluvit veřejnost. To je předpokladem demokracie. Proč v totalitním systému není pro sociální hodnocení techniky místo? Není to jen tím, že takový systém ex definitione odmítá názor menšiny, ale také proto, že zakládá racionalitu svých rozhodnutí pouze na technické racionalitě expertů. Paradoxní je, že v zemích, které si činily nárok organizovat ekonomii na vědecké bázi rigorózního plánování, byly technologické katastrofy a ekologická zpustošení dosud nejdramatičtější. V zemích, v nichž se stále více uplatňovala Prozřetelnost, v nichž se tendence liberalizace a dereglementace nadále rozšiřovala, dosáhlo sociální hodnocení technologií značného pokroku, a to jak ve smyslu institucionálním, tak ve smyslu metodologickém.

Tento paradox zároveň ukazuje zranitelnost demokratických společností a jejich schopnost adaptace na technické změny. Společnosti, které se snaží minimalizovat ztráty a maximalizovat zisky, by na souhlas s veřejnými diskusemi doplatily. Jsou donuceny přizpůsobovat se, překonávat odstup mezi iniciativami politického i administrativního aparátu a aspiracemi sociálních útvarů. Cena, kterou je třeba zaplatit, se promítá do veřejných sporů, zpožďování a odmítání. Technokrati, podnikatelé a někteří politikové se rádi utíkají k zaklínadlu, že o tom nic nevědí, a svěřují projekty technikům, aby vše důležité bylo včas započato.

Je také třeba připomenout, že varování před odchylkou od normálu nebo technologickým rizikem většinou nepřišla od vedoucích činitelů, ale od jednotlivců či sociálních hnutí. Mám na mysli zejména Rachel Carsonovou, jejíž kniha učinila pro posílení vědomí o problémech životního prostředí více než všechny oficiální kampaně. Jinak řečeno, moudrost demokratické společnosti netkví pouze v tom, že diskutuje s experty (s výhradou dodatečného prozkoumání), ale také v tom, že poskytuje slovo disidentům, aniž je a priori obžalovává, a že může jejich odlišné mínění vyslechnout a vzít ho v úvahu.

Je třeba dodat, že uvědomění si závad a technologických rizik se stává záležitostí nejen národů a regionů, ale planety jako celku. Nezbytnost regulace technologických změn je téma, o němž se diskutuje v rámci politických záležitostí Spojených národů. Problémy jako skleníkový efekt a oteplování planety se dotýkají globální odpovědnosti lidstva. A tak jako nelze omezit vědecké záležitosti v rámci tradičních hranic, nelze je omezit na kompetence Spojených národů, ani třeba na tradiční suverénní celky.

Nedávná jednání o oteplování planety na konferenci Spojených národů v Tokiu ukázala smysl tohoto vývoje: navrhnout v rámci celé planety princip obezřetnosti, princip, který se vrací k doporučením, který na jedné straně bere v úvahu možnost nevratných rizik a na druhé straně respektuje, že prostě vědecký výzkum staví lidstvo před situace velmi nejisté. Nikdo nemluvil o změně našeho vztahu k vědomostem lépe než filozof Hans Jonas: Pán přírody-člověk objevuje, že již není pánem technických změn, které přírodě vnutil. Etika strachu není tou etikou, která v činnosti brání, ale etikou, jež ji podněcuje, ovšem za předpokladu nové formy odpovědnosti, starosti o budoucí generace, která se opírá o zdrženlivost, bdělost a odmítá přehánění. Ve světě, v němž vědecká racionalita převažuje, nás princip obezřetnosti vede k tomu, abychom brali v úvahu nezaručenost vědeckých poznatků samotných. To neznamená, že se máme vzdát inovační činnosti, nebo snad dokonce odmítnout dobrodiní, které technické směry mohou přinést. Jenom se musíme naučit lépe počítat s nejistotami v rozhodnutích, jež vedou k uskutečnění technických změn.

Dokonce ani ty technické systémy, které byly ověřeny a které se jeví jako dokonalé, nevylučují velké havárie. Ve všech případech platí, že ani zdánlivě dokonalé ovládání techniků a tím méně zdánlivá bdělost provozovatelů nejsou mimo hru. Od případu Three Mile Islands, Černobylu a havárií v Seveso a Bhopalu nešlo nikdy o fatální situaci, nýbrž o souhrn okolností, v nichž se projevilo spíš nedodržení bdělosti institucí než omyl individuálních zásahů. A právě v tom tkví rozdíl mezi technologickými katastrofami a přírodními živelnými pohromami. Živelné pohromy jsou přirozené, ať existuje jakýkoliv pokrok vědy. My je neovládáme, a proto je připisujeme osudu nebo Bohu. Proti tomu pohromy technologické, průmyslové či vojenské jsou výplodem člověka, jeho neschopnosti ovládat všechny prvky systémů, které zkonstruoval, jeho spěchu, s nímž aplikuje ve velkém nevyzkoušená řešení či produkty, jeho slabosti, jeho nevědomosti, prudkosti, nerozumnosti apod. Ať však zde je jakékoliv vysvětlení, vždy nějaké existuje. Neštěstí, říká Aristoteles, je nešťastné setkání tašky, kterou vítr shodil ze střechy, a chodce, jemuž dopadla na hlavu. Kdyby chodec nepřicházel právě v tom okamžiku, anebo kdyby dával pozor na sílu větru, k neštěstí by nedošlo. Smyslem činnosti organizací řídících rizikové technické systémy tedy není nic jiného než zabránit takovým střetům.

Žádný technický systém, jakkoliv z technického hlediska dokonalý, není schopen uniknout nepředvídaným chybám lidských zásahů a ani nadbytek bezpečnostních dispozic nezajistí dostatek času lidským operátorům. Studie a analýzy týkající se velkých technologických rizik a zvládnutí krizí vyvolaných haváriemi jsou poučné. Stroj, továrna, technický systém mohou být spolehlivé (za přesně stanovených podmínek, jejichž zachování je přísně zajištěno), nikdy však není spolehlivý systém člověk­stroj. Vinou složitosti a rozsáhlosti některých technologických směrů nelze všechny případy selhání redukovat na techniku samotnou ani na vztah člověka a stroje. Pro všechny velké průmyslové havárie po válce se řízení velkých technologických rizik soustředilo na tyto meze lidského zásahu. Všem haváriím předcházely události, které naznačily, co se chystá. Katastrofám bylo možno zabránit, kdyby byly včas předvídány. Arogance některých techniků, slepota řídících pracovníků, tlak politických nebo průmyslových zájmů, nedostatečná péče uživatelů nebo selhání operátorů se tak dlouho sčítaly, až dosáhly fatální úrovně (viz např. Flixborough, Seveso, Amoco-Cadiz, Three Mile Islands, a zejména Černobyl). Neexistuje však technologická zhouba, kterou by člověk nemohl předem prostřednictvím institucí nebo své odbornosti omezit, či dokonce jí předejít, ovládne-li události před havárií.

Vstoupili jsme do nové éry vztahů vědění k moci, do éry, v níž karteziánský požadavek metodického pochybování je třeba uplatnit při rozhodování v nejistotě. A provedení již není monopolem expertů. Tváří v tvář moci, jíž v moderní společnosti disponují technické lobbistické skupiny, není jiný způsob jak lze omezit havárie, než zprůhlednit rozhodování. To znamená posílit informační procedury, konzultace a vyjednávání, které garantují demokratičnost institucí. Ten, kdo to jménem demokratických principů požaduje v politické sféře, se musí obdobně prosadit ve sféře technologické. Z těchto hledisek dala vaše země obdivuhodný příklad (a není to tak dávno) disentem, který vedl lidi proti tolika překážkám, a tím, že znovu nalezla cestu k demokracii. Ve vztahu k technickým diskusím záleží vždy na tom, abychom naslouchali odlišným názorům a ty opodstatněné zahrnuli do rozhodování o vědeckém výzkumu a směrech technologického vývoje. ¹⁾