Umělá inteligence posune medicínu

Termín singularita označuje jedinečný okamžik v jinak spojitě probíhajícím vývoji. V souvislosti s umělou inteligencí jde o zlomový bod technického pokroku, jenž by měl obrátit svět vzhůru nohama, neboť jím začíná období, kdy umělá inteligence po všech stránkách předčí lidskou. Podle některých odborníků se tento okamžik nezadržitelně blíží. Máme však těmto předpovědím věřit?

Před méně než padesáti lety očekávali naši předkové, že v tuto dobu budeme sedět v létajících autech či se dokonce teleportovat nebo cestovat nezávazně vesmírem. Přesto došlo místo k ohýbání fyzikálních zákonů k pokroku zcela jinému v oblasti, již nikdo nepředvídal – informační technologie.

Programování ve virtuálním prostředí nám otevřelo bránu do zbrusu nové říše divů. Je tedy vcelku možné, že v časovém rozmezí, ve kterém má technologická singularita nastat, objevíme zcela nový vědecký obor s nevídaným potenciálem, zasluhující větší pozornost než umělá inteligence (UI). Do té doby nám však zbývá jen polemizovat „Co kdyby?“. Jen tak pro jistotu.

Co kdybychom tedy, hypoteticky, vynalezli počítač, program, jehož inteligence by předčila jakéhokoliv člověka na této planetě? Jak bychom toto nekonečné vědění mohli využít a jaká úskalí v tomto vynálezu tkví? Pro to, abychom mohli použít UI+ jako nástroj, je třeba, abychom věděli, co vlastně dokáže. Co když však budou její vědomosti, moudrost a schopnosti nám zcela skryté a nebude možné je pochopit? Pominu-li tuto možnou překážku a představím si singulární UI jako všemocný nástroj, napadá mne v první řadě aplikace v lékařství. Přejdeme- li do filozofických úvah, je lidský život závislý na lékařské vědě, ergo je to jeden z nejdůležitějších oborů, ve kterém je třeba se neustále zdokonalovat. Na druhé straně ve spojení s vývojem medicíny lze očekávat problémy globálního rozsahu, jako je např. přelidnění nebo stárnutí obyvatelstva. Mluvíme- li o globálních problémech: Věřím, že je třeba obrátit naši pozornost i k planetě Zemi (pokud na ní stále budeme žít v době, kdy k technologické singularitě dojde) a klimatickým změnám a dalším jevům ztěžujícím zdejší pobyt.

I přesto, že je vývoj umělé inteligence teprve v plenkách, stalo se toto téma vděčným motivem pro sci-fi žánr, který využívá lidského strachu z neznáma a s oblibou obrací umělou superinteligenci (UI+) proti bezbrannému lidstvu. Šance, že by si sekvence kódu mohla znenadání říct, že je lidská rasa nepotřebná a je třeba ji vyhubit, se ale zdá být docela mizivá, pokud si uvědomíme podstatu UI. Za umělou inteligenci považujeme stroj schopný nejzákladnějšího prvku inteligence – učení. Tím se počítač může sám vyvíjet, na rozdíl od obyčejného programu, který jen plní příkazy člověka.

Větší riziko spočívá v obyčejném lidském pochybení při programování nebo i v chybě, kterou může stroj udělat, tak jako nám třeba v dnešní době čas od času zamrzne telefon či obyčejný počítač. Nelze tedy stoprocentně věřit výsledkům výpočetní technologie a před plným nasazením a využitím je třeba tyto chyby ošetřit a každý výstup řádně zkontrolovat například UI stejného principu, avšak jiného kódu. Regulace UI by také měla fungovat jako u každého jiného stroje. A to pomocí bezpečnostních pojistek a pravidelných kontrol, při kterých by bylo zaznamenáno nežádoucí chování a následně přerušen chod počítače.

I my bychom se měli krotit. Používat UI jako nástroj a nenechat se jí ovládat a ve všem na ni spoléhat. Využít ji jako zdroj poznatků a informací, které je možné využít u regulovatelných programů. Každý nástroj se také může stát v nevhodných rukách zbraní. Zkrátka a dobře, štěstí přeje připraveným (na nejhorší).

Názor odborníka

Jsme generací, která zrodila umělou inteligenci. Žasneme nad jejími možnostmi. Atakujeme hranice možného a prožíváme uspokojení z objevování dosud nepoznaného. Svým způsobem se chováme jako kůzlátko, která radostně skáče jen proto, že to jde, aniž by řešilo smysl svých skoků. Od UI zatím čekáme především to, že nás bude fascinovat.

Nová generace už bude k UI přistupovat mnohem pragmatičtěji – bude se pokoušet použít ji pro smysluplné projekty. Do popředí zájmu se dostane užitkovost tohoto nástroje. Esej Martiny Nguyenové je příkladem takového zralého přístupu k UI. Koneckonců, je psán autorkou patřící k nové generaci. Martina si správně všímá tří klíčových vlastností umělé inteligence, jimiž už nyní překonává člověka:

1. Umí pracovat s velkým množstvím znalostí lépe než člověk. V současné biomedicíně se UI využívá především pro zpracování velkoobjemových a často současně multidimenzionálních dat. Terabajty dat z magnetické rezonance či z výpočetních tomografů slouží po zpracování UI k odhalování demence, schizofrenie, mozkových degenerací a patologií. Medicína založená na „big data“ však neznamená náhradu konvenčního rozhodování lékařem. Naopak, úspěšný trénink neuronové sítě v UI vyžaduje jako povinnost sběr obrovského množství dat a jejich ohodnocení lidským expertem.

2. Umělá inteligence umí výrazně zkrátit čas potřebný pro rozhodování v kritických situacích. Okamžitost, se kterou UI dojde k řešení, může rozhodnout na jednotkách intenzivní péče či v ambulantních situacích o životě a smrti. Pokud k rychlosti připočteme i schopnost UI precizně pracovat „pod stresem“, která u lidí naráží na své limity, stane se z UI nepostradatelný pomocník pro záchranu lidských životů. Kromě toho UI dokáže v některých situacích poznat nemoc dřív než lékař na základě konvenčních metod. Příkladem je diabetická retinopatie diagnostikovaná pomocí UI ve snímcích očního pozadí.

3. Umělá inteligence umí – občas – diagnostikovat problém lépe než člověk. Při rozpoznávání srdeční arytmie dokázala nedávno diagnostikovat čtrnáct různých arytmií s úspěšností 80 %, zatímco medicínský expert dosáhl úspěšnosti „pouze“ 75 %. Jádro umělé inteligence – konvoluční umělá neuronová síť s 43 vrstvami – k tomu potřebovalo 64 121 EKG záznamů od 29 163 pacientů a k tomu pouze pár hodin tréninku. Rozdíl mezi člověkem a UI vynikne ještě více v rozvojových zemích s absencí školených lékařů. Jakmile superpočítač na základě přístupu k velkoobjemovým datům natrénuje UI, stačí ji pomocí internetu přenést na cílové zařízení, jímž může být např. mobil laického záchranáře.

Účastníci tematické dílny Vesmíru na téma biomedicína, konané počátkem listopadu 2018 v prostorách Fakulty elektrotechniky a komunikačních technologií VUT v Brně.Snímek Marek Janáč

Může nám být UI nebezpečná? Jak si Martina Nguyenová správně všímá, bojíme se neznámého. Chtěl bych autorce poděkovat, že střízlivě vyhodnotila apokalyptickou vzpouru strojů jako námět pro sci-fi, a namísto toho prozíravě obrátila pozornost čtenáře na skutečnou hrozbu – neschopnost člověka porozumět důvodům, proč UI udělala konkrétní rozhodnutí. Tato vlastnosti UI spočívající v neprůhlednosti jejího rozhodovacího systému, znemožňuje odhalit chybu předtím, než vznikne. A to je v medicíně velký problém. Zatímco nové léky procházejí klinickými testy, které hodnotí možné nežádoucí vedlejší účinky, pro UI zatím takový ověřovací systém standardizován nebyl. Aby bylo možné plně nasadit UI v medicíně, bude potřeba nejen získat důvěru lékařů v kompetenci umělé inteligence, ale především vyvinout nástroj pro ověření správnosti výsledků. Přeji si, aby autorka eseje v budoucnu mohla stát u vývoje takových nástrojů a umožnila tak nasazení umělé inteligence do širokého spektra medicínských problémů.