Roje agentů AI útočí na demokracii

Veřejnost i politické reprezentace demokratických zemí si (snad) začínají uvědomovat, že řízené dezinformační kampaně ohrožují samotnou podstatu svobodné společnosti. Reakce na toto ohrožení je však zatím ve většině zemí nedostatečná. Situaci navíc v poslední době zhoršuje nástup umělé inteligence, s jejíž pomocí lze informační válku vést mnohem efektivněji.

Skupina evropských a amerických vědců několika odborností od počítačové vědy po veřejnou politiku publikovala v rubrice Policy Forum časopisu Science článek, v němž varují před ohrožením demokracie roji agentů řízených umělou inteligencí.

Ilustrace chování roje agentů AI na Twitteru (dnes X). Agenti (oranžově) píšou příspěvky, které si vzájemně lajkují, reagují na ně a přeposílají je. Lidští uživatelé (šedě) se ocitají v zajetí jimi šířených narativů.

Ilustrace Filippo Menczer

Takoví autonomní agenti fungují jako virtuální osobnosti, které mají svou stálou identitu, disponují pamětí, postupují koordinovaně a komunikují napříč platformami. Nejsou už centrálně řízení, „domlouvají se“ mezi sebou v reálném čase sami a své chování přizpůsobují měnícím se podmínkám. Věrně napodobují lidskou komunikaci a sociální interakce, čímž obcházejí kontrolní mechanismy, které dosud alespoň částečně fungovaly. Infiltrují se do online komunikace a vnášejí do ní falešné narativy, vzájemně se v tom podporují, a tím vyvolávají dojem hodnověrnosti a širokého společenského přijetí. Manipulují veřejným míněním a pro různé skupiny lidí vytvářejí paralelní, vzájemně neslučitelné reality. Znepříjemňují online prostředí lidským aktérům snažícím se o racionální diskusi, zahlcují informační prostor dezinformacemi i obyčejným informačním šumem.

Dezinformační kampaně, které se donedávna neobešly bez najatých lidských pomocníků, lze nyní provozovat levně, v obrovském měřítku a s nebývalou pružností. Místo kampaní ohraničených v čase vstupujeme do éry neustálé manipulace, která se adaptivně přizpůsobuje tomu, jak na ni lidé reagují.

Autoři článku zdůrazňují, že nástupu takových „rojů“ nelze zabránit, ale je potřeba jim efektivně čelit. Zviditelňovat jejich aktivitu, zvyšovat rizika a náklady spojené s jejich provozováním (včetně trestněprávních a ekonomických postihů). Klíčové je nebojovat jen s obsahem jako takovým, ale s procesy a nástroji, které jeho šíření umožňují. K tomu je nutná globální koordinace. Navrhují vytvoření „observatoře vlivu umělé inteligence“, která by zahrnovala akademické týmy, nevládní organizace i další instituce napříč státy.

Schroeder D. T. et al.: Science, 2026, DOI: 10.1126/science.adz1697