Vesmírná škola 2Vesmírná škola 2Vesmírná škola 2Vesmírná škola 2Vesmírná škola 2Vesmírná škola 2

Aktuální číslo:

2024/12

Téma měsíce:

Expedice

Obálka čísla

Ohlédnutí za dvacátým stoletím

Velké úspěchy a velké problémy. Budou etické problémy jedním z největších problémů techniky jednadvacátého století?
 |  5. 5. 2001
 |  Vesmír 80, 262, 2001/5

Během několika posledních desetiletí se rozvíjí matematická teorie komplexních systémů. V porovnání s vysoce propracovanými matematickými nástroji, které užívá moderní technika, je to teorie dosud nezralá. Jedna věc je však jistá – dostatečně složité systémy budou vykazovat vlastnosti, které je a priori nemožné předpovědět!

Emergentní vlastnosti a intraktabilita

Řekl jsem, že teorie je dosud „nezralá“ – bohužel s sebou vleče nezasloužený balast. Termín užívaný pro tato nepředjímaná chování je „emergentní vlastnosti“. Objevil se původně ve 30. letech v sociologii jako „měkké“ vysvětlení skupinového chování. Někteří postmoderní kritikové vědy se tuto teorii pokusili použít k diskreditaci redukcionistického přístupu vědeckého výzkumu. Přes tento balast existují solidní výsledky a tato nemožnost (přesněji „intraktabilita“) je jedním z nich.

Nechci zacházet do detailů, ale chci vám ukázat, proč říkám nemožné. Uvažujme otázku, proč je software tak nespolehlivý. Důvodů je mnoho, ale nejsou mezi nimi „chyby“ v tom smyslu, jak toto slovo používáme. V těchto případech software dělá přesně to, k čemu byl určen. Problém spočívá v tom, že důsledkům určitého chování nebylo plně porozuměno, neboť existuje tolik potenciálních okolností, že je tvůrci softwaru jednoduše nemohou všechny předjímat. Nikoli že je neanticipují, ale nemohou! Je toho k analýze příliš mnoho.

Nechte mne, abych tuto myšlenku předvedl na velikosti čísel. Počet atomů ve vesmíru je okolo 10100. Počet stavů v mém notebooku, tj. konfigurací 1 a 0 v jeho paměti, je kolem 1010 000 000 000 000 000 000. To je počet stavů primární paměti, není v tom započten disk.

Kdyby byl každý atom ve vesmíru počítačem, který by mohl analyzovat 10100 stavů za sekundu, neuplynula by od velkého třesku dostatečně dlouhá doba, aby bylo možné analyzovat všechny stavy mého notebooku. Když říkám, že není možné předpovědět chování komplexních systémů, nemyslím tím, že neexistuje proces, který by mohl uvážit všechny důsledky, kdyby bylo dost času. Myslím tím, že není dost času!

To je to, co se v technice změnilo. Můžeme projektovat a také projektujeme systémy, u nichž nemůžeme předpovědět veškeré chování. Víme však, že nějaké takové nepředpovězené chování existovat bude, pouze nevíme, jaké chování to bude. Otázka nyní zní: Jak můžeme eticky projektovat, když to víme, když předem víme, že tyto systémy budou mít chování někdy dokonce s negativními nebo katastrofálními následky, ale my nevíme, která chování to budou?

Poznamenejme, že by to nebyl etický problém, kdybychom tyto negativní vlastnosti systémů nepředjímali. Etikové, stejně tak jako soudy, se dlouho drželi toho, že když technik nemůže rozumně znát důsledky svých činů, je to v pořádku. Tady to ale víme! Takže jak se zachováme? Jak budeme „projektovat“? 1)

Poznámky

1) Pozn. překladatele: William A. Wulf je prezidentem Americké technické akademie (National Academy of Engineering, NAE) a tento text je úryvek z jeho projevu na výročním zasedání NAE 22. října 2000, v němž se zabýval etickými otázkami techniky. Naši pozornost však neorientuje na etické problémy jednotlivce (jimž říká mikroetické), ale na etické problémy profese jako takové (těm říká makroetické). Uvádíme zde také 20 největších úspěchů techniky 20. století, jak je v únoru roku 2000 vybrala americká NAE (podrobněji viz www.greatachievements.org)

Ivan Boháček

Ke stažení

O autorovi

William A. Wulf

William A. Wulf je prezidentem Americké technické akademie (National Academy of Engineering, NAE).

Doporučujeme

Do srdce temnoty

Do srdce temnoty uzamčeno

Ladislav Varadzin, Petr Pokorný  |  2. 12. 2024
Archeologické expedice do severní Afriky tradičně směřovaly k bývalým či stávajícím řekám a jezerům, což téměř dokonale odvádělo pozornost od...
Vzhůru na tropický ostrov

Vzhůru na tropický ostrov

Vojtěch Novotný  |  2. 12. 2024
Výpravy na Novou Guineu mohou mít velmi rozličnou podobu. Někdo zakládá osadu nahých milovníků slunce, jiný slibuje nový ráj na Zemi, objevuje...
Je na obzoru fit pilulka?

Je na obzoru fit pilulka? uzamčeno

Stanislav Rádl  |  2. 12. 2024
U řady onemocnění se nám kromě příslušné medikace od lékaře dostane také doporučení zvýšit svoji fyzickou aktivitu. Lze ji nahradit „zázračnou...