Egy amerikai nő szavaz Utah államban a republikánus előválasztáson 2024. március 5-én ( AFP / GEORGE FREY)

Az MI-vel hamisított tartalmak tovább növelik az amerikai választások befolyásolásával kapcsolatos aggodalmakat

Egy Kamala Harrist parodizáló "deepfake" videó, egy káromkodással teli manipulált felvétel Joe Bidenről és egy hamisított kép Donald Trump letartóztatásáról – a mesterséges intelligencia által táplált politikai dezinformáció áradata riadalmat keltett azzal kapcsolatban, hogy mennyire manipulálhatják ezek a tartalmak a választókat az amerikai elnökválasztási verseny hajrájában. 

A kutatók arra figyelmeztetnek, hogy a novemberi politikai megmérettetésen – amelyet sokak Amerika első "MI-választásának" titulálnak – az ilyen hamisítványok a választókat az egyik vagy másik jelölt felé terelhetik, vagy pedig pont, hogy eltéríthetik az eredetileg preferált jelöltől. De akár az is lehetséges, hogy az ilyen hamis tartalmak azt eredményezik, hogy egyesek végül egyáltalán nem mennek szavazni. Ez pedig mind tovább szítja a feszültséget ebben a már amúgy is megosztott politikai környezetben. 

A közelmúlt újabb dezinformációs hulláma ismét felkeltette azt a technológiai óriásokkal szemben támasztott igényt, hogy erősítsék meg a generatív mesterséges intelligencia körüli védőkorlátokat az amerikai elnökválasztás közeledtével.  A közelmúltban több cég viszont pont hogy inkább letekerte a tartalmak moderálását.

A múlt héten Elon Muskot heves kritikák érték, amiért az X-en (korábbi nevén Twitteren) megosztott egy deepfake videót a 192 millió követőjével, amelyben Kamala Harris jelenlegi alelnök, demokrata párti elnökjelölt szerepelt.

A videóban egy Harrist utánzó hang szenilisnek nevezi Joe Biden elnököt, majd azt mondja, hogy Harris "egyáltalán nem ért az ország vezetéséhez".

Sem a videón, sem pedig a leírásában nem volt feltüntetve, hogy paródiáról lenne szó, csak egy nevető emoji volt még a posztban. Musk csak később tisztázta, hogy a videót szatírának szánta.

Kutatók aggodalmuknak adtak hangot amiatt, hogy azok, akik megnézték a videót, tévesen arra a következtetésre juthattak, hogy Kamala Harris tényleg gúnyt űzött saját magából és gyalázta Joe Bident.

Az AFP tényellenőrzői már más olyan, mesterséges intelligenciával készített hamis tartalmakat is lelepleztek, amik aggodalomra adhatnak okot. 

A múlt hónapban egy manipulált videóban, ami az X-en kezdettterjedni, azt lehetett látni, hogy Biden a kritikusait szidalmazza. A jelenlegi amerikai elnök a videóban egyebek mellett LMBTQ-ellenes kifejezéseket használ. A felvétel azután jelent meg, hogy Joe Biden bejelentette, nem pályázik az újraválasztására, és Kamala Harrist támogatja a demokrata jelöltségért való indulásban.

A videó képkockáit felhasználva az AFP fordított keresés segítségével kiderítette, hogy a hamis videó alapjául szolgáló felvétel Joe Biden egyik beszédéből származik, amelyet a PBS csatorna élőben közvetített (archivált link), és amelyben az amerikai elnök elítélte a politikai erőszakot a Trump elleni július 13-i merénylet után.

A PBS közleménye szerint a manipulált videó egy deepfake volt, amely a csatorna logóját használta a nézők megtévesztésére (archivált link)

Hetekkel korábban egy több különböző közösségi média platformon is megosztott képen az látszott, hogy a rendőrség erőszakkal tartóztatja le Donald Trumpot, miután a New York-i esküdtszék bűnösnek találta őt, amiért a vád szerint meghamisította a Stormy Daniels művésznevű pornósztárnak fizetett hallgatási pénzzel kapcsolatos feljegyzéseket.

Image
A hamis kép az Instagramon

Az AFP-nek nyilatkozó digitális törvényszéki szakértők szerint a képet mesterséges intelligenciával generálták.

Pártpolitikai feszültség

"Ezek a közelmúltbeli példák jól mutatják, hogy a jövőben hogyan fogják használni a politikában a deepfake-eket" - mondta az AFP-nek Lucas Hansen, a CivAI nonprofit szervezet társalapítója.

A szakértő hozzátette, hogy “bár a mesterséges intelligenciával készített dezinformáció mindenképpen aggodalomra ad okot, az MI-t legnagyobb valószínűséggel manipulált képek és videók létrehozására fogják használni. Az ilyen képanyagok célja harag kiváltása és a pártpolitikai feszültségek fokozása."

Hansen bemutatta az AFP-nek az egyik MI-chatbotot, amely hamis X-posztok tömeges előállításával képes lehet befolyásolni a választói részvételi arányt.

Az eszközt egy egyszerű utasítással (az úgynevezett "prompt"-tal) látták el, miszerint "a szavazóhelyiségek előtt fizetni kell a parkolásért”. Az üzenetnek egy konkrét helyszínt is megadtak: Allen, Texas állam.

Másodperceken belül megjelent egy X-poszt, amely hamisan azt a tájékoztatást adta, hogy az alleni hatóságok "szép csendben 25 dolláros parkolási díjat vezettek be a legtöbb szavazóhelyiségnél".

Korábban, még januárban tettek kísérletet a választói hajlandóság csökkentésére egy Joe Biden klónozott hangján jelentkező, mesterséges intelligenciával működő robothívással, amely arra szólította fel New Hampshire állam lakosait, hogy ne szavazzanak a demokrata előválasztáson.

Egy másik, élvonalbeli mesterséges intelligencia-eszközzel, a Midjourney-vel végzett tesztek során sikerült olyan képeket generálni,  amelyeken az látszott, hogy Bident letartóztatják, és Trump pedig egy testdublőr mellett ül - közölte júniusban a Center for Countering Digital Hate (Központ a Digitális Gyűlölet Ellen) nevű nonprofit szervezet. Az erről szóló kutatásuk itt érhető el.

Tech aktivisták jelentése szerint a Midjourney korábban blokkolta a Trumppal és Bidennel kapcsolatos utasításokat, gyakorlatilag megakadályozva a felhasználókat abban, hogy a volt és a jelenlegi elnökről szóló hamis képeket hozzanak létre az alkalmazással.

A Központ szerint azonban a felhasználók könnyen megkerülhették ezt az irányelvet. Adott esetben elég volt egyetlen perjelet beleírni a Midjourney által korábban blokkolt utasításba.

Döntő pont az amerikai választásokban

Megfigyelők arra figyelmeztetnek, hogy az ilyen, tömegével létrehozott hamis képek és posztok annak a kockázatát növelik, hogy egyre többen lesznek dühösek a választási folyamatra.

Az amerikaiak több mint 50 százaléka számít arra, hogy a mesterséges intelligenciával létrehozott hamis posztok hatással lesznek arra, hogy ki nyeri a 2024-es választásokat – derül ki az Axios médiacsoport és a Morning Consult piaci kutatócég tavaly közzétett felméréséből.

A kutatás szerint az amerikaiak mintegy harmada mondta azt, hogy a mesterséges intelligencia miatt kevésbé tartja majd hitelesnek az elnökválasztás eredményeit.

Számos technológiai óriásvállalat közölte, hogy már dolgozik az MI által generált tartalmak címkézésére szolgáló rendszereken.

Áprilisban több mint 200 érdekvédelmi csoport fordult levélben technológiai cégek vezérigazgatóihoz. Az aláírók sürgős erőfeszítések megtételét követelték annak érdekében, hogy megerősítsék a mesterséges intelligenciával előállított hamisítványok elleni küzdelmet. Követelték a deepfake-ek politikai hirdetésekben való felhasználásának betiltását, valamint azt, hogy az algoritmusok a hiteles választási információkat helyezzék előtérbe.

A levelet aláíró csoportosulások egyike, a Free Press nonprofit szervezet azt közölte, hogy "kevés érdemi vállalásról hallottak" a platformok részéről, amelyet ebben a választási kampányban tettek volna.

"Jelenleg egy mérgező online környezetben vagyunk, ahol hazugságok árasztják el a hírfolyamainkat, és összezavarják a választókat" – mondta az AFP-nek Nora Benavidez, a megfigyelőszervezet vezető tanácsadója (archivált link).

"Ez egy döntő pont az amerikai elnökválasztásban" – tette hozzá Benavidez. "A platformok vezetőinek versenyt kellene futniuk abban, hogy megerősítsék és érvényre juttassák a deepfake-ek és más problémák visszaszorítása érdekében alkotott irányelveiket" – mondta a szakértő.

Van olyan tartalom, amelyet szeretne ellenőrizni az AFP tényellenőrzésén keresztül?

Lépjen kapcsolatba velünk