AI a informační válka: Deepfake, dezinformace a algoritmy

Současné konflikty se stále častěji neodehrávají pouze na bojišti, ale také v digitálním prostoru. Sociální sítě zaplavují videa a informace, jejichž pravost je obtížné ověřit, a generativní umělá inteligence výrazně zjednodušila tvorbu manipulativního obsahu i jeho šíření.

AI jako nový nástroj informační války

Podle některých odborníků lze současný konflikt na Blízkém východě označit za první v historii, kde AI hraje tak masivní roli v informační válce. „Zatímco dříve vyžadovala tvorba falešného obsahu experty a čas, dnes generativní AI umožňuje komukoliv vytvářet hyperrealistické dezinformace v reálném čase, což dramaticky zvyšuje intenzitu digitální propagandy,“ uvádí David Strejc, AI specialista a architekt Apertia.ai.

Jiný pohled ale upozorňuje, že označení „první AI válka“ je spíše mediální zkratka než přesný historický fakt. „Už při izraelsko-íránských střetech v letech 2024–2025 analytici zaznamenali první velký konflikt, kde generativní AI sehrála ústřední roli v utváření veřejného vnímání,“ vysvětluje marketingový expert Ondřej Tyleček, spolumajitel a ředitel kreativní agentury Fairy Tailors. Aktuální konflikt tuto zkušenost podle nich spíše znásobuje: nástroje jsou dostupnější a jejich výstupy věrohodnější.

Bariéra vstupu je dnes prakticky nulová. Přesvědčivé video může vzniknout během několika minut přímo na smartphonu.

Ondřej Tyleček: Foto se svolením Ondřeje Tylečka

Emoce, algoritmy a rychlé šíření dezinformací

Právě rychlost vzniku a šíření podobného obsahu je jedním z důvodů, proč se dezinformace na sociálních sítích šíří tak rychle. Manipulativní obsah často cílí především na emoce – například strach, hněv nebo soucit. Algoritmy sociálních sítí takový obsah vyhodnocují jako vysoce angažující a dále jej prioritně šíří.

Vizuální podoba deepfaků navíc obchází racionální filtry. Lidský mozek má přirozenou tendenci věřit tomu, co vidí na vlastní oči, i když jde o digitální podvrh.

Síla dezinfofarem a koordinovaných sítí

Roli mohou hrát také koordinované sítě účtů. „Dezinformace mohou být podporované dezinfofarmami, které jsou schopné rychle generovat vysoké tisíce interakcí, díky nimž je algoritmus sociálních sítí začne dále šířit,“ říká Tomáš Vacek, komunikační expert a partner reklamní a marketingové agentury Contexto.

Virální dosah přitom nevytváří pouze autor videa. Významnou roli hrají algoritmy, které odměňují emocionálně silný obsah, a uživatelé, kteří jej sdílejí dříve, než proběhne jakékoli ověření. Situaci podle expertů zhoršilo i to, že platformy v posledních letech výrazně omezily lidský dohled nad tím, co se na nich šíří. Vodoznaky AI nástrojů, které by mohly pomoci s identifikací, lze navíc při sdílení jednoduše ořezat.

Tomáš Vacek: Foto se svolením Tomáše Vacka

Deepfake během několika minut

Zásadní změnou je také to, jak snadné je dnes manipulativní obsah vytvořit a rozšířit. K vytvoření deepfaku může stačit běžně dostupný chytrý telefon a několik minut času. „Pokud je falešný obsah vypuštěn do správných komunit ve správný čas, algoritmy se mohou postarat o jeho další šíření a video může získat miliony zhlédnutí dříve, než stačí fact-checkeři jakkoliv zareagovat,“ říká David Strejc.

Šíření může být ještě jednodušší, pokud je účet navázaný na velké dezinfofarmy.

David Strejc: Foto se svolením Davida Strejce

Rizika využívání AI při hledání informací – halucinace a informační chaos

Rostoucí roli přitom hraje také způsob, jakým lidé získávají informace o aktuálním dění. Stále více uživatelů využívá modely umělé inteligence přímo ve svých mobilních telefonech.

Jedním z hlavních rizik je tzv. halucinace modelů. „Ty si mohou vymýšlet fakta nebo kombinovat nesouvisející události do logicky působících, ale nepravdivých celků,“ vysvětluje David Strejc. Uživatelé tak mohou získávat pocit objektivity od stroje, který ale ve skutečnosti nemá přístup k ověřeným datům v reálném čase a může nevědomky recyklovat propagandu, na které byl vytrénován.

„Problém může být i v tom, jaké informace modely považují za relevantní. Mohou totiž upřednostňovat obsah, který má nejvíce interakcí a odkazů, což může vést k dalšímu šíření nepravdivých informací a prohlubování informačního chaosu,“ dodává Tomáš Vacek.

AI asistent pro ověření informací nestačí

Zvláštní riziko podle odborníků představují AI asistenti přímo v mobilních telefonech. Nejsou zpravodajskými agenturami, přesto je lidé často používají jako zdroj informací. „Tyto systémy přitom mohou bez varování kombinovat ověřené informace s těmi, které se teprve dodatečně ukázaly jako nepravdivé,“ upozorňuje Ondřej Tyleček.

Současné konflikty tak ukazují, že informační válka se stále více přesouvá do digitálního prostoru, kde mohou realisticky působící manipulace vznikat během minut a šířit se po celém světě během velmi krátké doby.

Zdroje info: Autor, Ondřej Tyleček, David Strejc, Tomáš Vacek

Náhledové foto: ChatGPT