V roce 2016 Rusko spustilo sérii dezinformačních kampaní, které cílily na americké prezidentské volby. V průběhu následujících sedmi let země jako Čína a Írán také využívaly sociální média k ovlivňování voličských rozhodnutí v zahraničí. Není důvod se domnívat, že roky 2023 a 2024 v tomto budou jiné.
Něco se ale přece jen změnilo. Generativní umělá inteligence a velké jazykové modely mají schopnost rychle a snadno vytvářet nekonečné svazky textů na jakékoli téma a z jakékoli perspektivy. Informuje o tom web The Conversation.
Cca 71 procent lidí žijících v demokratických zemích se do konce příštího roku zúčastní celostátních voleb. Namátkou zmiňme Argentinu a Polsko v říjnu, Tchaj-wan v lednu, Indonésii v únoru, Indii v dubnu, Evropskou unii a Mexiko v červnu a USA v listopadu. Devět afrických demokracií včetně Jihoafrické republiky bude mít volby v roce 2024. Austrálie a Spojené království nemají pevně stanovená data, ale volby se pravděpodobně uskuteční v roce 2024.
Spousta těchto voleb se dostává do hledáčku zemí, které v minulosti provozovaly vlivové operace přes sociální média. A to bereme v úvahu pouze největší hráče. Od roku 2016 počet zemí, které se pokoušely ovlivňovat americké celostátní volby, postupně roste. Nejprve to bylo jen Rusko, pak Rusko a Čína a nedávno se k nim připojil Írán.
S tím, jak se v důsledku využití umělé inteligence snižují finanční náklady na takové operace, se do akce pravděpodobně budou zapojovat ještě další země. A nejen státy. Bezpečnostní experti označují za podstatný prvek nadcházejících amerických voleb i tzv. domácí aktéry. Tedy skupiny a jedince snažící se rozvracet americkou demokracii zevnitř.
Meta na tahu proti dezinformacím
Vedení dezinformační kampaně samozřejmě obnáší mnohem víc než jen generování obsahu. Nejtěžší částí je distribuce. Propagandista potřebuje řadu falešných účtů, na kterých zveřejňuje příspěvky, a ještě další, které je posílí v hlavním proudu, kde se mohou stát virálními.
Společnosti, jako je Meta, se přitom v identifikaci takovýchto účtů i jejich odstraňování značně zlepšily. V srpnu tento provozovatel sociálních sítí oznámil, že odstranil 7 704 účtů, 954 stránek a 15 skupin na Facebooku a 15 účtů na Instagramu, u kterých identifikoval napojení na čínskou vlivovou kampaň. Zároveň s tím označil stovky dalších účtů na TikToku, X (dříve Twitter), LiveJournalu a Blogspotu. Jednalo se ale o kampaň, která začala před čtyřmi lety, a produkovala tedy dezinformace před nástupem AI.
Mnoho propagandistických zdrojů se přesunulo z Facebooku na platformy pro zasílání zpráv, jako jsou Telegram a WhatsApp. To ovšem ztěžuje jejich identifikaci a odstranění. TikTok je novější platforma, kterou kontroluje Čína a která je vhodnější pro krátká, provokativní videa. Jejich tvorbu umělá inteligence právě znatelně usnadňuje. A současná vlna generativních AI je propojena s nástroji, které „zefektivňují“ také distribuci obsahu.
Umělé otisky prstů
Jak to konkrétně může vypadat? Představte si nový osobní účet na sociálních sítích poháněný umělou inteligencí. Z velké části se chová normálně. Zveřejňuje příspěvky o svém falešném každodenním životě, připojuje se k zájmovým skupinám a komentuje příspěvky ostatních uživatelů. A jednou za čas, ne příliš často, řekne něco politického. Samy o sobě mají tyto účty zanedbatelný vliv. Ale replikované po tisících nebo milionech už jejich dosah sílí.
Státy jako Rusko a Čína často své metody nejdříve otestují na menších zemích, než je nasadí ve velkém měřítku. Boj proti novým dezinformačním kampaním vyžaduje schopnost je rychle rozpoznat. S sebou to nese hlavně brzké rozpoznání útoků a katalogizaci jejich forem. Sdílení rozpoznaných metod a vyhodnocení jejich účinnosti je totiž jediným způsobem, jak vybudovat silné obranné systémy.
Dezinformační kampaně v éře umělé inteligence budou pravděpodobně ještě mnohem sofistikovanější. Konkrétně Spojené státy musí vyvinout značné úsilí, aby v nejbližší době na Tchaj-wanu, ale samozřejmě i jinde, získaly tzv. otisky prstů útočníků a identifikovaly propagandu produkovanou umělou inteligencí.
V éře generativní umělé inteligence proběhlo zatím několik důležitých demokratických voleb bez výrazných problémů s dezinformacemi: primárky v Argentině, první kolo voleb v Ekvádoru a národní volby v Thajsku, Turecku, Španělsku a Řecku. Čím dříve však budeme vědět, co můžeme očekávat, tím lépe se dokážeme vypořádat s tím, co přijde. Protože toto je zjevně teprve začátek.
Autor: Petr Pláteník
