Svět, který není

Obrázek šestiprsté ruky na obálce tohoto čísla nenamaloval člověk. Není to ani obtisk skutečné lidské dlaně, které bychom v počítači domalovali prst navíc. A není to ani otisk ruky autenticky obdařené šesti prsty, jakkoli Vladimír Krylov ve svém článku vysvětluje, že vyvíjející se lidský plod se může takto přepočítat (s. 145).

Motiv šestiprsté ruky pro nás vygeneroval model strojového učení DALL-E 2 společnosti OpenAI, kterému kolega Marek Janáč slovně popsal, co bychom od něj potřebovali. Možná jste si s tímto nástrojem už také hráli. A pokud jste aktivní na sociálních sítích, nejspíš vás neminuly ukázky výtvorů, které umělou inteligenci nechali vytvořit jiní uživatelé. Služba totiž po svém zpřístupnění veřejnosti vzbudila velký zájem, podobně jako chatbot ChatGPT, o němž jsme v souvislosti s nástrojem Explainpaper psali v lednovém čísle (Vesmír 102, 10, 2023/1).

Nástroje využívající umělou inteligenci pomáhají s analýzou dat a s dalšími úkoly, na které jsou trénovány, už delší dobu. Nadnárodní korporace i nedávno založené start-upy (do nichž velcí hráči investují stamiliony dolarů) soutěží o to, kdo prudce se zdokonalující technologii zvládne lépe a rychleji. A stále častěji s takto vznikajícími službami může experimentovat i laická veřejnost. Zvukovou nahrávku rozhovoru s Erlingem Norrbym (s. 134) mi mimochodem pomohl přepsat nástroj Whisper, uvolněný jako open source opět společností OpenAI (a existují už i docela slušně fungující komerční aplikace).

S rozvojem umělé inteligence souvisí mnoho příležitostí, ale také řada rizik. Obrázek na obálce Vesmíru je nevinná hříčka, jejímž cílem není nikoho oklamat. Je to ale nahlédnutí do světa, který ve skutečnosti není, a přesto může působit zcela realisticky. Jak se schopnosti umělé inteligence zvyšují, začíná být obtížné rozpoznat, co je skutečnost, a co šalba, klam a mámení. Ani to není nic nového, s fotomontážemi a cíleně vypouštěnými dezinformacemi máme bohaté zkušenosti. Ale jak upozorňuje výzkumná organizace The Brookings Institution, falešná videa představují novou úroveň společenské hrozby (s. 131).

Jistě, nejspíš se naučíme obezřetnosti vůči pohybujícím se obrázkům stejně, jako jsme se jí naučili vůči fotografiím a psaným zprávám. Má to však dvě „ale“. Zaprvé: naučili jsme se to opravdu? Dnes a denně můžeme v přímém přenosu sledovat, čemu všemu jsou lidé ochotni nekriticky věřit a jak to ovlivňuje jejich chování. A za druhé: obezřetnost vůči viděnému lze nejspíš natrénovat, začít je třeba už na základních školách. Jenomže autoři falešných zpráv, obrázků a videí nás často nepotřebují přesvědčit o své verzi příběhu či události. Stačí jim vnést do našeho vnímání světa nejistotu a nedůvěru. „Kdo ví, kde je pravda, nejspíš někde uprostřed. čemu má dnes člověk věřit?“ Na elementární důvěře (v systém, ve státní instituce, mezi lidmi) přitom stojí stabilita demokratické společnosti.

(L)živý přenosKresba Ivan Steiger

Nejnověji jsme začátkem února mohli sledovat souboj gigantů Google a Microsoft o to, kdo lépe a rychleji zapojí umělou inteligenci do internetového vyhledávání. Nevlastníte-li akcie některé z těchto firem, může vám být asi jedno, která z tohoto souboje vyjde vítězně (první veřejně viditelné klání s převahou vyhrál Microsoft). Nemělo by vám ale být jedno, jak nový způsob hledání změní naše zacházení s informacemi. Přichází „jen“ další z řady stále chytřejších nástrojů, nebo s sebou přináší hlubší změnu?

Zatím těžko říct. Dosud představené nástroje umělé inteligence dělají chyby, a to poměrně nebezpečného typu. Nejsou totiž tak mizerné, abychom je mohli považovat za pouhé hříčky. Ale zároveň nejsou (zatím?) tak dobré, abychom se na ně mohli spolehnout. Na jejich dnešní schopnosti bychom před pěti lety hleděli s otevřenou pusou a je otázka, co budou umět za dalších pět let. Vyhledávače nám dosud nabízely pouze seznamy stránek, jimiž se musíme sami probrat a zvážit jejich hodnověrnost, i když Google se už nějakou dobu snaží shrnout základní informace a odpovědi na časté otázky přímo na stránce vyhledávání. Co se ale stane, až si s námi vyhledávač začne „povídat“, internet prohledá za nás a odpověď na dotaz nám sám shrne do nově vygenerovaného textu? Budeme si takové výsledky ověřovat? Připustíme si, že možná čerpá z falešných zdrojů, nebo že ve své interpretaci udělal chybu?

Hlad po lidštější komunikaci se stroji je zjevný a předpokládám, že na nový způsob vyhledávání si lidé rychle zvyknou. Stačí se podívat, jaké dotazy přivedly některé čtenáře na webové stránky Vesmíru. Tak například:

„Je v každém člověku vesmír? V které části těla“

„co je to za velkou jako černou včelu“

„může žena projevit zájem o muzeum“

„čím zničit brouky podobné slunéčku sedmitečnému“

„co mají ženy raději tenčí“

Čekají nás zajímavé časy.