Falešný Julius Lukeš varuje před parazity

Když někdo vypadá jako parazitolog Julius Lukeš, má hlas jako parazitolog Julius Lukeš a má na sobě tričko, které rád nosí Julius Lukeš, nejspíš to… vůbec nemusí být Julius Lukeš.

Podvodníci zneužili rozhovor Julia Lukeše pro NTK.

Printscreen Biologické centrum AV ČR

Před rokem jsme upozorňovali na rostoucí nebezpečí deepfake videí generovaných pomocí nástrojů umělé inteligence (Vesmír 102, 131, 2023/3). Na falešná videa s politiky si už začínáme zvykat (a to nás horká fáze americké prezidentské kampaně teprve čeká), ale podobné podvody už dorazily i do české vědy. Koncem loňského roku se na Facebooku objevilo video, v němž zdánlivý Julius Lukeš z Parazitologického ústavu Biologického centra AV ČR varuje před parazity, jimiž jsme všichni promořeni od temena po place u nohou. „Musíte okamžitě začít léčbu,“ naléhá. Následuje odkaz na podvodný web prodávající antiparazitika. Kdo Julia Lukeše zná, zarazí se. Tohle je přece v přímém rozporu s tím, co celý život říká. Působí navíc přece jen trochu roboticky, v jeho projevu schází pro něj tak charakteristická jiskra. Ale ne každému to musí být zřejmé. Video během krátké doby nasbíralo desítky tisíc zhlédnutí a desítky sdílení.

Podvodníci zmanipulovali videozáznam rozhovoru, který Julius Lukeš před časem poskytl Národní technické knihovně. Biologickému centru se falešné video podařilo stáhnout až poté, co Facebook upozornilo na porušení autorského práva, což doložilo originálem videa z YouTube. Všechna předchozí nahlášení (podvod, spam, krádež identity…) zůstala bez odpovědi. Což je obvyklý problém: podvodníci svůj obsah dostanou na sociální sítě snadno, obrana je obtížná či nemožná.

„Představa návštěv právníků, podávání žalob na neznámou osobu atd. jen proto, že si nějaký geek, téměř jistě na zakázku, pohrával s vaším záznamem, je přinejmenším bizarní. Asi to budeme muset přijmout jako novou realitu,“ říká Julius Lukeš. A bude hůř. Nástroje AI se vylepšují tak rychle, že i úplný amatér brzy pomocí volně dostupných nástrojů vytvoří libovolné falešné video působící zcela autenticky. Přirozenou obranou je nevěřit bezhlavě a bez ověření zdroje nejen psanému textu, fotografiím a zvukovým záznamům, ale ani pohybujícím se obrázkům. Jenomže zdaleka ne každý se bude touto radou řídit. Navíc ztráta důvěry v to, co vidím, znamená vítězství propagandistů, kterým vzrůstající společenská nejistota hraje do not.