Aktuální číslo:

Ohlédnutí za dvacátým stoletím

Velké úspěchy a velké problémy. Budou etické problémy jedním z největších problémů techniky jednadvacátého století?

| 5. 5. 2001

| Vesmír 80, 262, 2001/5

Během několika posledních desetiletí se rozvíjí matematická teorie komplexních systémů. V porovnání s vysoce propracovanými matematickými nástroji, které užívá moderní technika, je to teorie dosud nezralá. Jedna věc je však jistá – dostatečně složité systémy budou vykazovat vlastnosti, které je a priori nemožné předpovědět!

Emergentní vlastnosti a intraktabilita

Řekl jsem, že teorie je dosud „nezralá“ – bohužel s sebou vleče nezasloužený balast. Termín užívaný pro tato nepředjímaná chování je „emergentní vlastnosti“. Objevil se původně ve 30. letech v sociologii jako „měkké“ vysvětlení skupinového chování. Někteří postmoderní kritikové vědy se tuto teorii pokusili použít k diskreditaci redukcionistického přístupu vědeckého výzkumu. Přes tento balast existují solidní výsledky a tato nemožnost (přesněji „intraktabilita“) je jedním z nich.

Nechci zacházet do detailů, ale chci vám ukázat, proč říkám nemožné. Uvažujme otázku, proč je software tak nespolehlivý. Důvodů je mnoho, ale nejsou mezi nimi „chyby“ v tom smyslu, jak toto slovo používáme. V těchto případech software dělá přesně to, k čemu byl určen. Problém spočívá v tom, že důsledkům určitého chování nebylo plně porozuměno, neboť existuje tolik potenciálních okolností, že je tvůrci softwaru jednoduše nemohou všechny předjímat. Nikoli že je neanticipují, ale nemohou! Je toho k analýze příliš mnoho.

Nechte mne, abych tuto myšlenku předvedl na velikosti čísel. Počet atomů ve vesmíru je okolo 10¹⁰⁰. Počet stavů v mém notebooku, tj. konfigurací 1 a 0 v jeho paměti, je kolem 10^{10 000 000 000 000 000 000}. To je počet stavů primární paměti, není v tom započten disk.

Kdyby byl každý atom ve vesmíru počítačem, který by mohl analyzovat 10¹⁰⁰ stavů za sekundu, neuplynula by od velkého třesku dostatečně dlouhá doba, aby bylo možné analyzovat všechny stavy mého notebooku. Když říkám, že není možné předpovědět chování komplexních systémů, nemyslím tím, že neexistuje proces, který by mohl uvážit všechny důsledky, kdyby bylo dost času. Myslím tím, že není dost času!

To je to, co se v technice změnilo. Můžeme projektovat a také projektujeme systémy, u nichž nemůžeme předpovědět veškeré chování. Víme však, že nějaké takové nepředpovězené chování existovat bude, pouze nevíme, jaké chování to bude. Otázka nyní zní: Jak můžeme eticky projektovat, když to víme, když předem víme, že tyto systémy budou mít chování někdy dokonce s negativními nebo katastrofálními následky, ale my nevíme, která chování to budou?

Poznamenejme, že by to nebyl etický problém, kdybychom tyto negativní vlastnosti systémů nepředjímali. Etikové, stejně tak jako soudy, se dlouho drželi toho, že když technik nemůže rozumně znát důsledky svých činů, je to v pořádku. Tady to ale víme! Takže jak se zachováme? Jak budeme „projektovat“? ¹⁾

Poznámky

1) Pozn. překladatele: William A. Wulf je prezidentem Americké technické akademie (National Academy of Engineering, NAE) a tento text je úryvek z jeho projevu na výročním zasedání NAE 22. října 2000, v němž se zabýval etickými otázkami techniky. Naši pozornost však neorientuje na etické problémy jednotlivce (jimž říká mikroetické), ale na etické problémy profese jako takové (těm říká makroetické). Uvádíme zde také 20 největších úspěchů techniky 20. století, jak je v únoru roku 2000 vybrala americká NAE (podrobněji viz www.greatachievements.org)

Ivan Boháček