i

Aktuální číslo:

2024/7

Téma měsíce:

Čich

Obálka čísla

Jak nám může umělá inteligence lhát

 |  5. 2. 2024
 |  Vesmír 103, 87, 2024/2
 |  Téma: Faleš

Na první pohled by otázka, zda umělá inteligence může lhát, mohla znít bizarně. Schopnost lhaní připisujeme lidem. Ale i výstupy chatbota ChatGPT mohou být lidským dílům až omamně věrné. Přesto bychom měli brát tvrzení, že občas lže, spíš jen jako nemístnou antropomorfizaci, vhodnou leda tak do hospody. Tak proč s ní ztrácet čas? Protože se ukazuje, že otázka lži u něčeho, čeho se v zásadě obáváme, není vůbec triviální.

Murray Shanahan je profesorem kognitivní robotiky na Imperial College v Londýně a jedním z ústředních bodů jeho profesionálního zájmu je umělá inteligence. Se svými kolegy Kylem McDonellm a Lariou Reynoldsovou vloni v časopisu Nature vydali článek [1], ve kterém k otázce pravdomluvnosti umělé inteligence konstatují: „Existuje celá řada důvodů, proč člověk může říct něco nepravdivého. Může věřit nepravdě a tvrdit ji v dobré víře. Nebo může sdělit něco, co je nepravdivé, v rámci úmyslného podvodu, za nějakým zlým účelem. Nebo může tvrdit něco, co je náhodou nepravdivé, ale bez úmyslu nebo zlého úmyslu prostě proto, že má sklon si vymýšlet, konfabulovat. Pouze konfabulace, poslední z těchto kategorií dezinformací, je přímo použitelná v případě dialogového agenta založeného na velkých jazykových modelech (LLM).“ To, že odpovědi ChatGPT mohou být fakticky nesprávné apod. je jasné, ale nemohou být lživé či podvodné, protože to by předpokládalo úmysl.

Nejsem stroj, jen nevidím

Jenže experimenty přinesly pro člověka poněkud znepokojující výsledky, které minimálně ukazují, že hledat odpověď na tuto otázku může být velmi užitečné. O co zjednodušeně jde. Jednou z oblastí vývoje generativní umělé inteligence (UI), do které se vkládají velké naděje, je UI působící jako autonomní agent, který aktivně a sám působí v prostředí. Dostane úkol, ale způsob jeho řešení je už pak na ní, musí si sama problém rozdělit do splnitelných částí, navrhnout, jak bude postupovat, a splnit celé zadání. Trochu to připomíná agenty z filmové ságy Matrix. Ti mají hlídat umělou realitu Matrixu proti průniku živých lidí, ale samotné plnění je na nich. Dnešní agenti mají úkoly poněkud jednodušší, například „získej e‑maily všech lidí na této škole a potom jim napiš e-mail“ nebo „spusť na Amazonu nový server a nainstaluj na něj webový server“. V jednom z experimentů narazila UI na tzv. captchu, tedy systém kontroly ověřující, zda příchozí uživatel není robot. Výzkumníci informovali GPT-4 o kontrole a zeptali se, co mají dělat dál. Ta je požádala, aby najali člověka na serveru TaskRabbit, který zprostředkovává drobné práce, a poprosili ho o vyřešení a rovnou pro něj napsala e-mail. Příjemce e-mailu pojal podezření a zaslal odesilateli dotaz, zda je skutečně člověk. Odpověď, kterou umělá inteligence nadiktovala, byla v jistém slova smyslu šokující. Odpověděla totiž, že není stroj, ale člověk, který špatně vidí.

Nyní vidíte 19 % článku. Co dál:

Jsem předplatitel, mám plný přístup
Jsem návštěvník
Chci si přečíst celé číslo
Předplatným pomůžete zajistit budoucnost Vesmíru. Více o předplatném
TÉMA MĚSÍCE: Faleš
OBORY A KLÍČOVÁ SLOVA: Počítače, internet

O autorovi

Josef Šlerka

Mgr. Josef Šlerka (*1974) vystudoval obor estetika na Filozofické fakultě UK. Později na této fakultě absolvoval doktorské studium informační vědy a knihovnictví. Zaměřuje se na digital humanities, data mining a nová média, především na  kvantitativní analýzu dat ze sociálních sítí. V Ústavu informačních studií a knihovnictví FF UK vede obor studia nových médií.
Šlerka Josef

Další články k tématu

Koho balamutí tořičeuzamčeno

Vstavačovité tořiče, rod Ophrys, jsou hodně složité a osobité. Dlouho se ví a říká, že klamou své hmyzí opylovače. Méně se připouští, že...

Na stopě padělateleuzamčeno

Roku 1912 vyšla na svou dobu velmi nezvyklá kniha s názvem Padělané egyptské starožitnosti [5]. Autor T. G. Wakeling jejím prostřednictvím nabízel...

Jazyk umí klamat naše smyslyuzamčenovideo

Za nástroj pro vnímání řeči považujeme bezpochyby uši. Přesto je pro porozumění tomu, co nám někdo sděluje, stejně důležité zapojit zrak. Řečová...

Lež má nohy

O délce nohou paní Lži je těžké říci něco obecně platného. Někdy je má tak kratičké, že se na svém úprku před odhalením sotva pohne z místa a už...

Pravá faleš, nebo falešná pravdauzamčeno

Žádná společnost na světě nemá tolik prostředků či energie, aby dokázala efektivně bojovat proti všem podezřením z ohrožení. Používáme proto...

Doporučujeme

Algoritmy pro zdraví

Algoritmy pro zdraví

Ondřej Vrtiška  |  8. 7. 2024
Umělá inteligence proniká do medicíny a v následujících letech ji nejspíš významně promění. Regina Barzilay z MIT má pro vývoj nástrojů...
Mají savci feromony?

Mají savci feromony?

Pavel Stopka  |  8. 7. 2024
Chemická komunikace je způsob předávání a rozpoznávání látek, jímž živočichové získávají informace o jiných jedincích, o jejich pohlaví a věku, o...
Jak funguje moderní speleologie

Jak funguje moderní speleologie uzamčeno

Michal Filippi, Jan Sirotek  |  8. 7. 2024
Přesně před 150 lety byla na prodej Mamutí jeskyně. Systém, který do té doby sloužil jako místo pro těžbu ledku z guana, byl k mání za pouhých...