Jsme připraveni na příchod realistických deepfake videí?

Několik dní po zahájení ruské invaze na Ukrajinu, 2. března 2022, se na webu ukrajinské televize Україна 24 krátce objevilo video, na němž Volodymyr Zelenskij ve svém dnes už ikonickém vojenském tričku vyzýval Ukrajince ke složení zbraní. Video se rychle rozšířilo po sociálních sítích a informovala o něm některá světová média.

Nic takového ale Zelenskyj nikdy neřekl, video bylo falešné. Jeho autoři využili rostoucí schopnosti umělé inteligence, výsledek vypadal poměrně realisticky.

Americká nezisková výzkumná organizace The Brookings Institution nyní vydala zprávu, v níž varuje před nebezpečími, která tato technologie přináší. Když chtěl Stalin odstranit z fotografie Ježova nebo Gottwald Slánského, dalo retušérům dost práce snímky upravit tak, aby se Ježov „rozplynul“ ve vodě Moskevského průplavu a Slánský se ztratil v temnotě za soudruhem prezidentem. A to šlo pouze o úpravu statických snímků. Dnes lidé na videu nejen mizí, ale naopak se objevují a dělají věci, které ve skutečnosti nikdy nedělali, a říkají věci, které nikdy neřekli. Autoři zprávy varují, že technologie poskytuje čím dál realističtější výsledky a stává se snadno dostupnou nejen profesionálům, ale prakticky komukoli včetně dezinformačních médií nebo extremistů všeho druhu. Je třeba se připravit na její stále častější zneužívání v ovlivňování nálad společnosti, v politickém boji i v ozbrojených konfliktech.

Pomocí deepfake videí lze legitimizovat rozpoutání konfliktu (tvorbou falešné záminky), falšovat vojenské rozkazy a politická prohlášení, vnášet zmatek do armádního velení, diskreditovat důležité osobnosti, mást a polarizovat veřejnost…

Demokratické státy by se podle autorů měly shodnout na vytvoření etického kodexu, který práci s deepfake technologií dá určitá pravidla. A zároveň musejí počítat s tím, že jejich protivníci si s nějakým etickým kodexem hlavu lámat nebudou. Technologický boj (vývoj algoritmů odhalujících deepfake) není samospásný, protože v souladu s evolučním principem červené královny je jen otázka času, kdy se obranu podaří překonat. Navíc vyvracet falešnou zprávu je obtížnější než ji rozšířit. Důležité je proto i vzdělávání veřejnosti ke kritickému zacházení s informacemi, i když ani to samo o sobě problém nevyřeší (viz také úvodník tohoto čísla).