Oroszország gigantikus dezinformációs hálózata a mesterséges intelligenciát is megfertőzi

Oroszország gigantikus dezinformációs hálózata a mesterséges intelligenciát is megfertőzi
Fotó: Maksim Konstantinov / SOPA Images / LightRocket / Getty Images

166

Az orosz dezinformációs kampányokat ezen a ponton aligha kell bárkinek bemutatni, hiszen Oroszország már a hidegháború alatt is nagy sikerrel alkalmazta ezeket, az internet megjelenése óta pedig évről évre sikerült feljebb tekerni a hatékonyságukat. Az sem újdonság, hogy a mesterséges intelligencia sosem látott lehetőségeket nyitott meg ezen a téren többek közt előttük is, ahogy azt az OpenAI is beismerte egy tavalyi jelentésében. Az oroszok viszont a jelek szerint nem csak használni, hanem kihasználni is megpróbálják az MI-t egy hatalmas álhírhálózattal, aminek

ránézésre az egyetlen célja, hogy annyi álhírt gyártson, hogy a nagy nyelvi modellek valóságosként fogadják el őket.

Na de miről is van szó? Az EU vs Disinfo cikke szerint maga a jelenség nem friss, az akkorra már évek óta létező hálózatról elsőként a Vignum nevű, a francia kormány által létrehozott, külföldi befolyásolási kísérleteket figyelő szervezet számolt be hosszabban 2024 februárjában. A szervezet által Portal Kombatnak elnevezett hálózat a jelentésük szerint legalább 193 oldalból áll, és az orosz–ukrán háború kitörése után vetette bele magát teljes erővel abba, hogy a lehető legtöbb, az orosz álláspontot alátámasztó vagy támogató tartalmat pumpáljon ki az internetre.

A Vignum vizsgálatából kiderült, hogy a több, más-más célokkal rendelkező ökoszisztémából (a pravda Ukrajna külföldi szövetségeseit célozta, a news.ru az oroszul beszélő ukránokat, a helyi lapokat imitáló pedig az oroszokat és az ukránokat egyaránt) hálózat tagjai nem alkottak önálló tartalmakat, ehelyett nagyrészt orosz közszereplők közösségi oldalai, orosz hírügynökségek és orosz kormányzati oldalak tartalmait közölték újra. A tartalomgyártás nagyrészt automatizáltan zajlott, de ennek ellenére a nagy keresőmotorok is beszívták az általuk közölt cikkeket.

Itt rögtön érdemes is tenni egy kitérőt, ha ugyanis valaki emlékszik még arra az esetre, amikor Glorbo megtrollkodta a mesterséges intelligenciát, egyből eszébe juthat, hogy ez az egész tulajdonképpen eléggé hasonlít ahhoz. Abban az esetben ugye arról volt szó, hogy az alapvetően online videójátékos tornák szervezésével foglalkozó Z League The Portal néven futó híroldala tele volt olyan cikkekkel, amiket nagyon gyanúsan egy MI írt Reddit-posztokból. Annak ellenére pedig, hogy ezt lóvá lehetett tenni, az jól látszott, hogy a Z League, sőt, még a Google is jól járt azzal, hogy egy nap akár ezernél is több poszt jelent meg az oldalon.

A Z League azért, mert a saját oldala, ahova serényen terelte az embereket a Portalról, jelentősen nagyobb forgalmat ért így el, a Google pedig azért, mert nem pusztán beszívta a nyilvánvalóan nulla energiabefektetéssel íródott cikkeket, hanem azért is, mert a Google Adsen keresztül tele is pakolta automatikus hirdetésekkel a Portal cikkeit. A Portal Kombat esetében szintén egy gyakorlatilag magától működő rendszerről van szó, ami annyira alacsony színvonalú tartalmakat gyárt, hogy valódi emberek vélhetően alig olvassák, de keresőoptimalizálásra és forgalomgenerálásra természetesen ettől még tökéletes az egész.

Itt ugyanakkor felmerült egy ennél érdekesebb szál is, az American Sunlight Project idén februárban azt vetette fel, hogy a naponta akár 10 ezer, álhírekre alapozott cikket gyártó hálózatnak az lehet a célja, hogy befolyásolja a legnépszerűbb nagy nyelvi modelleket. Az elmélet szerint az oroszok valójában arra játszanak, hogy a hatalmas mennyiségű tartalom beszivárog az olyan csetbotokba is, mint a ChatGPT, és ezek aztán megismétlik az ezekben szereplő állításokat, amit még tovább legitimál, hogy odabiggyesztik mellé a forrást is. Ami jelen esetben a Portal Kombat valamelyik oldala, de ennek már valószínűleg kevesen fognak utánanézni.

Az orosz dezinformációs kampányok már a mesterséges intelligencia megjelenése előtt is előszeretettel építettek arra, hogy meggyőzés helyett elbizonytalanítsák az embereket, amihez jól kitalált és felépített álhírek helyett rengeteg elképesztő, sokszor egymásnak is ellentmondó konteóra volt szükség. Így azt nem lehet egyértelműen kijelenteni, hogy ez a hálózat nem ugyanezt a célt szolgálja, de még ha csak ennek a váratlan mellékterméke is a dolog, az biztos, hogy a nagy nyelvi modelleket több esetben is sikerült befolyásolni ezzel.

A NewsGuard nevű, online álhíreket és a hírportálok hitelességét vizsgáló cég szeptemberben közölt jelentése szerint például tíz csetbotból hat tényként közölte azt a hálózat által terjesztett álhírt, hogy Volodimir Zelenszkij betiltotta Donald Trump saját közösségi oldalát, a Truth Socialt. A jelentés szerint 2025 augusztusában az MI-alapú csetbotok az esetek 35 százalékában állítottak be valódinak egy álhírt, ami jelentős növekedés az egy évvel korábbi 18 százalékhoz képest. Egy másik jelentés szerint még a Wikipédián is megjelentek hivatkozások a hálózatra, pedig azt ugye emberek szerkesztik.

Ott viszont pont emiatt korrigálni is könnyebb, mint a csetbotoknál, pedig ezeket is több százmillióan használják, és ahogy arra egy korábbi kutatás rámutatott, a használatuk rontja a kritikus gondolkodást is, szóval különösen fontos lenne, hogy ne terjesszenek orosz álhíreket azoknak a felhasználóknak, akik egyre nagyobb mértékben bízzák rájuk magukat.

Állj ki a szabad sajtóért!

A Transtelex az olvasókból él. És csak az olvasók által élhet túl. Az elmúlt három év bizonyította, hogy van rá igény. Most abban segítsetek, hogy legyen hozzá jövő is. Mert ha nincs szabad sajtó, nem lesz, aki kérdezzen. És ha nem lesz, aki kérdezzen, előbb-utóbb csend lesz, holott tudjuk, a hallgatás nem opció.

Támogatom!
Kövess minket Facebookon is!