Vissza a kályhához, avagy a mesterséges intelligencia és dezinformáció kezelésének lehetséges közös kulcsa

Ma már a befolyásolás és dezinformáció mindennapjaink részévé vált. A mesterséges intelligencia ennek egy eszköze is lehet. A nagy nyelvi modellek (de nemcsak) ingyenes változatainak – amelyek mindenki által elérhetők, aki olvasni már tud és van egy internetes eszköze – van egy közös hibája: nem tudjuk honnan, mit „tanultak”.

A ChatGPT, a Perplexity, a DeepSeek vagy a LeChat közös jellemzője a tanulási folyamat átláthatatlansága. Fogalmunk sincs külsősként, hogy milyen szövegeken, könyveken, adatbázisokon gyakorlatozott vagy „tanult” az MI. Pedig, amint arra a Microsoft is felhívja a figyelmet, a nagy nyelvi modellek „csak olyan jók, mint az adatok, amelyeken betanítják őket”. Erről viszont nyilvános információk nem igazán vannak, ami pedig van, az elég általános, és a szabályokat betartó megfogalmazásokat tartalmaz, miszerint csak szabadon elérhető adatokon tanult az MI. Tehát olyan felületekről, adatbázisokból, könyvtárakból, tudományos lapokból, amelyekhez pénzbe kerül a hozzáférés, szerzői jog által védett termékekből, elvileg, az MI nem „tanulhatott”.

Ugyanakkor az evidens, hogy rengeteg adatra van szükség az MI „tanításához”, azaz a legkevesebb, amit erről mondhatunk, hogy ezen a területen szürkezónában vagyunk.

Mivel a tudományos eredmények jó része, de a komplexebb statisztikai adatok egy része is, vagy akár az irodalom is, fizetős adatbázisokban vannak, ezek kimaradnak az MI tárházából. Azaz, azok a szövegek, amelyeket az MI generál, nem feltétlenül állnak a tudomány talaján. Ez pedig tovább erősítheti az áltudományos szövegek terjedését vagy a tudományba vetett bizalom csökkenését.

De ha nem érdekel a tudományos eredmények alakulásának helyzete, akkor is van egy problémánk, hiszen le kellene tudjuk ellenőrizni, hogy mi alapján saccolta, „írta” le a szöveget az adott MI. Ez pedig finoman fogalmazva nehéz, majdnem lehetetlen. Kérhetjük az MI-t, hogy a szöveget lássa el bibliográfiával, de ha kíváncsiak vagyunk és megkérdezzük, hogy a felajánlott bibliográfia alapján készítette-e a szövegét, egyértelműen leírja, hogy nem. Azaz lesz egy szövegünk, aminek nem ismerjük a forrását, és lesz egy bibliográfiánk, ami ugyan a témára is vonatkozhat, de fogalmunk sincs róla, pontosan mire, hacsak nem nézzük egyesével át az egészet.

A befolyásolás és dezinformáció ma már sok csatornán, sok szereplőtől érkezhet. „Biztathatnak” arra, hogy megvegyem a legújabb telefont/fülhallgatót/napszemüveget/blúzt, amiből szokás szerint minden évben érkezik legalább egy, s amire felettébb szükségem van, mert más a színe, csodálatosabban védi a szemeimet és már a számomra fontos embereknek is az van. Ha nem érdekel a politika, akkor is találkozhatunk dezinformációval, hiszen sok, cégeket érintő hamis információ forog a közösségi médiában. 2017-ben híressé vált például a Starbucks Dreamer Day, amikor különböző Starbucks-reklámnak kinéző hamis posztok kezdtek terjedni, miszerint minden „iratok nélküli amerikai” 40%-os árleszállítást kap. 2018-ban a Golden Sachs CFO-ja kellett kiálljon és elmondja, nem igaz a hír, miszerint a cég leállította azt a tervét, hogy létrehozzon egy kriptovaluta-kereskedési részleget. 2019-ben WhatsApp csoportokban terjedő hamis információ hatására a londoni Metro Bank előtt emberek kezdtek sorban állni, hogy kivegyék értékeiket, de még a bank részvényárfolyama is csökkent. Az idén olyan hamis poszt is megjelent, amiben azt állítják, hogy a malajziai IKEA bezárja üzleteit, mert a külföldi befektetők elvesztették a bizalmukat a miniszterelnökben, akit fel is szólítanak, hogy mondjon le.

Mindezek elkerülésére van egy hatékony, ősrégi, néha időigényes, de felgyorsítható módszer: a források vizsgálata. Az MI által gyártott szövegek forrásait is meg lehet próbálni ellenőrizni. A szokatlannak tűnő posztok esetében is lehet más forrásokat keresni, egymástól független felületeken. Nem tudunk minden befolyásolást vagy dezinformációt kizárni látókörünkből, de mindenki egyénileg is tehet azért, hogy a számára fontos témákban minél nagyobb valószínűséggel elkerülje a rossz minőségű szövegeket vagy akár a dezinformációt is. Ellenőrizzük le a forrásokat, olvassunk olyan felületeket is, amelyek stílusával nem értünk egyet.