MI-vel generált pápai prédikációk árasztották el a YouTube-ot és a TikTokot
- Megjelent: 2025. június 11., 15:06
- 4 perces olvasmány
- Szerző: Bill MCCARTHY, AFP Egyesült Államok
- Fordítás és adaptáció: AFP Magyarország
Szerzői jog © AFP 2017–2025. A tartalom kereskedelmi célú felhasználásához előfizetés szükséges. Kattintson ide, ha többet szeretne megtudni.
Mióta a pápa a múlt hónapban átvette a katolikus egyház vezetését, az AFP nyomozása több tucat YouTube- és TikTok-oldalt azonosított, amelyek a pápa hangján, vagy más módon neki tulajdonított, MI által generált üzeneteket közvetítenek.
A több száz fabrikált prédikáció és beszéd, angol és spanyol nyelven, rávilágít arra, hogy a mesterséges intelligenciával létrehozott hamisítványok milyen könnyedén kerülik ki általában, hogy lelepleződjenek, amellett hogy be is csapják a nézőket.
“Természetes, hogy az emberek érdeklődnek az iránt, hogy mit mond az új pápa, akinek még nem ismerik a különböző témákhoz való hozzáállását és a beszédstílusát” - mondta Oren Etzioni, a Washingtoni Egyetem emeritus professzora, a deepfake-ek elleni küzdelemmel foglalkozó nonprofit szervezet, a TrueMedia.org alapítója (archiválva itt és itt).
“Ez a helyzet tökéletes arra, hogy mesterséges intelligenciával generált félrevezető tartalmakkal bajt keverjenek” - mondta Etzioni.
Miután az AFP 26 olyan csatornát jelentett a YouTube-nak, ami túlnyomórészt mesterséges intelligenciával generált, pápával kapcsolatos tartalmakat tett közzé, a platform 16 csatornát megszüntetett a spamre, megtévesztési gyakorlatokra és csalásokra vonatkozó irányelvek, valamint egy csatornát az általános szerződési feltételek megsértése miatt (archiválva itt és itt).
“Több, az AFP által jelentett csatornát is megszüntettünk a Spam irányelveink és az Általános Szerződési Feltételeink megsértése miatt” – mondta Jack Malon, a cég szóvivője.
Emellett a vállalat további hat oldalt kizárt a partnerprogramjából. Ez a program teszi lehetővé a tartalomkészítőknek, hogy videóikkal pénzt keressenek a platformon (itt archiválva).
A TikTok hasonlóképpen távolított el 11 fiókot, amelyekre az AFP hívta fel a figyelmét. Ezek összesen több mint 1,3 millió követővel rendelkeztek. A megszüntetésnél a platform a személyiséglopás, a kártékony hamis információk és a közszereplőkről MI-vel generált félrevezető tartalmak elleni irányelveire hivatkozott (archiválva itt, itt és itt).
A figyelmeztet sokszor lemarad, vagy nehezen látható
Olyan nevekkel, mint például “Pope Leo XIV Vision”, a különböző csatornákon azt látni, ahogyan a pápa állítólagos figyelmeztetéseket ad ki és olyan tanításokat, amelyeket a valóságban soha nem mondott.
De az MI használatára figyelmeztető szöveget gyakran nehezen lehetett megtalálni a posztoknál, és vannak olyan videók is, ahol egyáltalán nem volt erre utaló szöveg.
A YouTube-on “módosított vagy szintetikus tartalom” feliratot kell feltüntetni az olyan anyagoknál, amelyen valaki látszólag olyat mond, amit valójában nem mondott (itt archiválva). Az ilyen nyilatkozatok azonban általában csak az egyes videók kattintással lenyitható leírásának végén jelennek meg.
A YouTube szóvivője elmondta, hogy a vállalat azóta egy feltűnőbb feliratot tett az AFP által jelentett csatornák egyes olyan videóira, amelyeknél nem állapították meg, hogy megsértették a platform irányelveit.
A TikTok is megköveteli a tartalomkészítőktől, hogy jelöljék meg a valósághű, MI által generált tartalmaikat. Bár több, a pápát megjelenítő videóról lemaradt ez a jelölés (itt archiválva).
A TikTok szóvivője szerint a vállalat proaktívan eltávolítja azokat a tartalmakat, amik megsértik a szabályokat és a megbízható fiókoknál úgynevezett hitelesítési jelvényt jelenít meg.
Brian Patrick Green, a Santa Clara Egyetem technológia-etikai igazgatója szerint a moderálási nehézségek a mesterséges intelligencia eszközök gyors fejlődéséből adódnak, amelyek “az MI-technológia kaotikus használatára” ösztönöznek (itt archiválva).
Az AFP által azonosított YouTube-csatornákon a deaktiválásuk előtt számos videó több tízezer megtekintésnél járt.
A TikTokon egy spanyol nyelvű videónak 9,6 millió megtekintése volt. A videón állítólag Leó pápa a támogató nők jelentőségéről prédikál. Egy másik videót - amelyet bár elláttak MI-címkével, még így is megtévesztette a nézőket - mintegy 32,9 millióan tekintettek meg.
A pápa hivatalos Instagram-oldalán eközben egy videó sem ért el 6 millió megtekintésnél többet.
A szakértők szerint még az ártalmatlannak tűnő hamis tartalmak is problémásak lehetnek, különösen ha olyan fiókok népszerűségének növelésére használják azokat, amelyek később eladhatják a követőtáborukat, vagy áttérhetnek más, félrevezető információk terjesztésére.
Az MI-vel generált prédikációk nemcsak “aláássák a pápa erkölcsi tekintélyét” és “kevésbé hihetővé teszik azt, amit valójában mond”, hanem arra is felhasználhatók, hogy “bizalmat építsenek a csatornád körül, mielőtt egy következő videóban a pápa szájába adsz botrányos vagy politikai célt szolgáló mondatokat” - mondta Green.
Maga a pápa is figyelmeztetett az MI kockázataira, a Vatican News pedig leleplezett egy deepfake videót, amelyen Leó pápa látszólag dicsérettel illeti Burkina Faso vezetőjét, Ibrahim Traorét, aki 2022-ben puccsal ragadta meg a hatalmat (itt archiválva).
Az AFP emellett már cáfolt olyan videókat, amelyek az amerikai és perui állampolgársággal rendelkező pápát ábrázolták, amint kritizálja az amerikai alelnököt, JD Vance-t és Peru elnökét, Dina Boluartét.
“Valódi krízissel állunk szemben” - mondta Green. “Ki kell találnunk valamit, amivel meg tudjuk állapítani, hogy a dolgok igaziak vagy hamisak” - tette hozzá a szakértő.
Van olyan tartalom, amelyet szeretne ellenőrizni az AFP tényellenőrzésén keresztül?
Lépjen kapcsolatba velünk
