A modern technológiák új frontokat nyitnak a narratíváért folyó dezinformációs háborúban Irán és Izrael között

A fegyveres harcokkal - amit Izrael Irán nukleáris létesítményei és katonai vezető elleni támadásai robbantottak ki - párhuzamosan zajlik egy információs hadviselés is. A kialakult helyzet jól mutatja, milyen súlyos problémát jelent ma az információs térben zajló manipuláció, különösen most, amikor a mesterséges intelligencia eszközök olyan gyorsan fejlődnek, hogy egyre nehezebb megkülönböztetni a valóságot a manipulált, hamis tartalmaktól.

A háborúval kapcsolatos félrevezető állításokat tartalmazó posztok számának ugrásszerű növekedése rávilágított arra, hogy mielőbb szükség lenne hatékonyabb MI-leleplező eszközökre. Eközben a nagy közösségi média platformok  gyengítették a biztonsági mechanizmusaikat azáltak, hogy jelentősen visszavettek a tartalommoderálási törekvéseikből azáltal, valamint azáltal, hogy egyre kevesebb emberi tényellenőrt alkalmaznak.

Miután Irán a múlt héten rakétatámadást hajtott végre Izrael ellen, közösségi média felhasználók mesterséges intelligenciával generált videókról hamisan azt állították, hogy azokon a Tel-Avivban, valamint a Ben Gurion repülőtéren okozott károkat látni.

A félrevezető videókat széles körben megosztották a Facebookon, az Instagramon és az X-en.

Az AFP fordított képkereséssel megállapította, hogy a videókat eredetileg egy olyan TikTok-fiók tette közzé, amely mesterséges intelligenciával generált tartalmakat szokott megosztani.

“Hirtelen megnőtt a generatív MI-alapú félrevezető állítások száma, különösen az iráni-izraeli konfliktussal kapcsolatban” - mondta az AFP-nek Ken Jon Miyachi, az austini BitMindAI cég alapítója.

“Ezeket az eszközöket a közvélemény manipulálására használják, gyakran példátlan mértékben és kifinomultsággal felerősítve a megosztó és félrevezető narratívákat” - mondta a szakértő.

Egyre hihetőbb képeket generálnak az MI-eszközök

A manipulált anyagok - például MI-deepfake-ek - felderítésével foglalkozó amerikai GetReal Security is egy rakás, az izraeli-iráni konfliktussal kapcsolatos hamis videót azonosított.

A cég szerint a vizuálisan lenyűgöző videókat a hiperrealisztikus látványáról híres Google Veo 3 MI-generátorral hozták létre. A videók apokaliptikus jeleneteket ábrázolnak, háborús károkat szenvedett izraeli repülőgépekkel és épületekkel, valamint pótkocsin vitt iráni rakétákkal.

A Veo vízjele látható a Tehran Times hírügynökség által közzétett internetes videó alsó részén. A képsorok állítólag “azt a pillanatot mutatják, amikor egy iráni rakéta” becsapódik Tel-Avivban.

“Nem meglepő, hogy a generatív MI-eszközök továbbra is egyre fotórealisztikusabb eredményeket produkálnak. Ezeket az eszközöket visszaélésszerűen használják fel téves információk terjesztésére és zavarkeltésre” - mondta Hany Farid, a GetReal Security társalapítója és a kaliforniai Berkeley Egyetem professzora.

Farid egy tippet adott az ilyen deepfake-ek felismerésére: a Veo 3 videók általában nyolc másodpercesek vagy több hasonló hosszúságú, összevágott videókból állnak.

“Ez a nyolc másodperces limit nyilvánvalóan nem bizonyítja, hogy az adott videó hamis, de jó alapot adhat arra, hogy elgondolkodjon az ember és ellenőrizze az állításokat, mielőtt továbbosztaná a posztot” - mondta Farid.

Ám a hamis állítások nem csak a közösségi médiában terjednek.

A NewsGuard médiafigyelő szervezet 51 weboldalt azonosított, amely több mint egy tucat hamis állítást terjesztett: az MI-vel generált, állítólagos tel-avivi tömegpusztítást ábrázoló fotóktól kezdve az irániak által állítólag elfogott izraeli pilótákról szóló kitalált riportokig.

Az ilyen hamis narratívákat terjesztő oldalak között vannak iráni katonai kapcsolattal rendelkező Telegram-csatornák és az Iráni Iszlám Köztársaság Rádió- és Televíziós Társaságához (IRIB) kapcsolódó állami médiumok, amelyeket az amerikai pénzügyminisztérium szankcióval sújtott - közölte a NewsGuard.

A narratíva irányítói

“Hamis állítások áradatát észleljük, és úgy tűnik, hogy a célközönséget elsősorban az iráni lakosok alkotják” - mondta az AFP-nek McKenzie Sadeghi, a NewsGuard kutatója (itt archiválva).

Sadeghi úgy írta le az iráni állampolgárokat, mint akik “egy hermetikusan lezárt információs környezetbe szorultak”, ahol az állami média dominál, amely kaotikus módon próbálja meg “irányítani a narratívát”.

Irán maga is azt közölte, hogy technológiai manipuláció áldozata lett, a helyi média pedig arról számolt be, hogy Izrael rövid időre meghekkelte az állami televízió adását, és tüntető nőket ábrázoló felvételeket sugárzott, arra buzdítva az embereket, hogy vonuljanak utcára.

Az információs káoszhoz hozzájárultak a háborús témájú videójátékokból származó internetes videók is.

Az AFP tényellenőrei azonosítottak egy ilyen videót, amelyet az X-en tettek közzé, és amely hamisan azt állította, hogy az látható rajta, amint egy izraeli repülőgépet lelőnek Iránban. A képsorok feltűnően hasonlítottak az Arma 3 nevű katonai szimulációs játékra.

Az izraeli hadsereg “hamis hírnek” minősítette az iráni média jelentéseit, amik szerint izraeli harci repülőgépeket lőttek le Irán felett.

A kutatók szerint az olyan csetbotok, mint például az xAI Grok - amiket a felhasználók egyre gyakrabban alkalmaznak gyors tényellenőrzésre -, tévesen valódinak azonosítottak egyes manipulált képeket.

“Ez rávilágít a mai internetes információs környezet kiterjedt válságára: a digitális tartalmakba vetett bizalom eróziójára” - mondta Miyachi, a BitMindAI munkatársa.

“Minél előbb szükség lenne hatékonyabb MI-felismerő eszközökre, médiatudatosságra, valamint arra, hogy felelősségre lehessen vonni a platformokat annak érdekében, hogy megvédjük a közbeszéd integritását” - mondta a szakértő.