Lehet, van már olyan családtagom, akinek a legjobb barátja a ChatGPT – kerekasztal-beszélgetés az MI-ről

A konferenciát a KAB Média- és Kommunikációtudományi szakbizottsága szervezte meg immár huszonharmadik alkalommal. Az idei programban MI és mi. Kerekasztal-beszélgetés a mesterséges intelligencia használatáról címmel került be a téma, a moderátor Vincze Hanna Orsolya volt. Bár a tavalyi kiadáson is nagy téma volt a mesterséges intelligencia, az idei találkozón fontos volt újra beszélni a digitális technológiákról, ugyanis egy év alatt rengeteget változott a helyzet.

Vincze Hanna Orsolya a beszélgetés elején kiemelte, hogy a meghívottak közül mindannyian több digitális korszakváltást éltek már át: a számítógépek megjelenését, az internet térhódítását, a közösségi média elterjedését, és most a mesterséges intelligenciát, ami ugyan eddig is jelen volt, de mostanra egészen új formát öltött.

Amikor zsigerből érzed, hogy valami nincs rendben

A beszélgetés első körében Vincze Hanna Orsolya arra kérte a meghívottakat, osszanak meg olyan példákat, amikor a mesterséges intelligencia kisebb-nagyobb mértékben átalakította vagy felborította a saját szakmai területük működését.

Virginás Andrea a filmiparból hozott példát: eléggé nagy port kavart, mikor kiderült, hogy a Brutalistában Adrien Brody magyarul elhangzó mondatait mesterséges intelligencia tette hitelesebbé. A színész hangszínét és magyarosságát digitálisan finomhangolták egy nyelvi modell segítségével, amelyet Jancsó Dávid, a film vágója saját hangmintáival tanított. Az eredmény: egy teljesen új, mesterségesen létrehozott hang, ami Adrien Brody és Jancsó Dávid digitális közös hangja lett.

Bár azt hitte, ez csak távoli, hollywoodi példa, hamarosan kiderült, hogy hasonlóval Kolozsváron is lehet találkozni. Egy államvizsga filmben például mesterséges intelligenciával javították ki a filmben szereplő színész hibás hangszínét, mivel nem volt lehetőség újraforgatni a jelenetet. A bizottság tagjainak, köztük Virginás Andreának is feltűnt, hogy valami nincs rendben a filmmel, de nem jöttek rá, mi a probléma.

Balázs Imre József folytatta a példák sorát: 2024-ben nagy kiállítást készítettek a szürrealizmus 100. évfordulójának apropóján. A szervezők szerették volna, ha André Breton, a mozgalom atyja „saját hangján” olvasná fel a szürrealista kiáltványt, amit ő írt. Ehhez mesterséges intelligenciát használtak: egy színész felolvasta a szöveget, majd MI segítségével „bretonosították” azt. Bár szakmai körökben vita alakult ki, hogy a végeredmény mennyire hiteles vagy gépies, a kiállítás látogatóinak kétségtelenül megadta az immerzív élményt.

Balázs Imre József egy másik példát is említett: a budapesti Litera.hu pályázatot hirdetett kezdő kritikusoknak, ahol egy mesterséges intelligencia által írt kritika is megjelent. Az AI kritikája nem nyert díjat, de megjelent a pályázat nyilvános felületén. A szöveg Kemény Zsófi egyik regényéről szólt, de tartalmazott egy olyan idézetet, ami valójában nem is szerepel a könyvben. Kemény Zsófi ezt a kritikát később kommentár nélkül megosztotta a közösségi oldalán. Talán észre sem vette a hibás idézetet – tette hozzá Balázs Imre József. Az eset viszont jól mutatja, milyen új kihívásokkal kell szembenéznünk a szövegírásban és a szövegek ellenőrzésében.

Györgyjakab Izabella a saját oktatási tapasztalatairól mesélt. Elmondta, a szemináriumi viták az utóbbi időben mintha egyre színvonalasabbak lennének, ám gyorsan kiderül, ki az, aki valóban elmélyült a témában, és ki az, aki egyszerűen csak mesterséges intelligenciával íratta meg a saját álláspontját. A kritikus pillanatokban – amikor visszakérdeznek vagy reagálnak a másik csapat érvére – kiderül, ki az, aki csak másolt, és ki az, aki valóban foglalkozott a feladattal.

Szikszai Mária folytatta a sort, szerinte a hallgatók már nemcsak válaszokat, hanem kérdéseket is mesterséges intelligenciával generálnak. Egy egyszerű feladatnál – ahol kérdéseket kellett volna megfogalmazni egy szöveg alapján – világossá vált, hogy sokan nem tudták megindokolni a saját kérdéseiket, mert nem ők fogalmazták meg azokat.

Szikszai visszautalt Balázs Imre József kritikás példájára is: a szerkesztőségek egyre gyakrabban próbálnak MI-detektáló programokat használni, de ezek a szoftverek legfeljebb valószínűségeket tudnak megadni, nem tudják száz százalékos bizonyossággal eldönteni, hogy egy szöveget gép vagy ember írt-e. „Tanárként, szerkesztőként tisztában kell lennünk azzal, hogy nem létezik biztos módszer a kiszűrésre” – tette hozzá.

Miért félünk a generált tartalmaktól és miért akarjuk görcsösen szétválasztani az emberit a mesterségestől?

Vincze Hanna Orsolya szerint az MI-vel kapcsolatos félelmeink egyik gyökere az, hogy nem tudjuk mindig egyértelműen megkülönböztetni az emberi és a gépi tartalmakat. De miért fontos számunkra, hogy egy filmben például módosították egy színész hangját? Azért, mert erről nem tájékoztattak minket? Vagy mert a felismerhetetlenségig összemosódott az ember és a gép közötti határok?

Virginás Andrea szerint ez a bizonytalanság azért zavaró, mert olyan hibák keletkezhetnek az alkotásokban, amelyeket nem tudunk azonosítani, csak érezzük, hogy valami nem stimmel. Annál az államvizsga filmnél, ahol a bizottság nem tudta pontosan meghatározni, mi a probléma, a diák felfedte, hogy egy kulcsjelenetben 25 másodperces MI-generált hangmódosítást alkalmaztak, és ezért a jelenet dramaturgiai fordulata sem a megszokott úton haladt.

„Tele leszünk kellemetlen érzésekkel, és sokszor nem fogjuk tudni, hogy pontosan miért. Ez a jövőnk. Olyan lesz, mint a fekete macska a Mátrixban”

– fogalmazott Virginás Andrea.

Szikszai Mária arra hívta fel a figyelmet, hogy talán kialakul majd egy olyan irányzat, amely büszkén vállalja: alkotásai kizárólag emberek munkáját tükrözik. „Lesz ennek egy piaca. Lesznek kézműves filmek és lesznek MI-vel készült filmek” – vetítette előre. Balázs Imre József szerint ennek már most is látjuk a jeleit, és már most vannak olyan zenekarok, akik külön hangsúlyozzák, hogy egyes dalaikban minden hangszeren kizárólag emberek játszottak.

A fotóművészet világában is egyre többször merül fel a kérdés: ki készítette a képet – ember vagy gép? Szikszai Mária példaként említett olyan fotópályázatokat, ahol kifejezetten MI-vel generált képeket vártak, és olyan eseteket is, amikor a MI által készített kép nyerte meg a fődíjat egy emberek számára kiírt versenyen, a nyertes azonban csak a díj elnyerése után vallotta be a kép eredetét. Ugyanez fordítva is megtörtént: MI-képek számára kiírt pályázaton ember készítette alkotás nyert, amelyet utólag fedtek fel. Ezek a példák egyértelműen jelzik: ösztönösen, görcsösen szeretnénk szétválasztani az emberit a mesterségestől, de egyre nehezebb dolgunk lesz.

Virginás Andrea szerint a szétválasztás nemcsak vágy, hanem szükséglet is. „Bele fogunk betegedni, ha nem tudjuk megkülönböztetni a kettőt” – hangsúlyozta. Már a klasszikus sci-fik is arra figyelmeztettek, hogy tudnunk kell, mi a valóság, meddig tart a valóság. A jövő egyik legfontosabb feladata szerinte az lesz, hogy új, világos határvonalakat rajzoljunk.

Balázs Imre József másik szempontot is behozott: a befogadásesztétika szerint a mű jelentését részben a befogadó adja hozzá, így a mesterséges intelligencia esetében is fontos kérdés lesz, ki hogyan viszonyul az adott alkotáshoz. Ugyanakkor felvetette: ha hosszú távon egyre több feladatot átvállal tőlünk a MI, vajon megmarad-e bennünk az igény, hogy ezeket a finom különbségeket felismerjük?

Virginás Andrea erre sötétebb választ adott: kognitív szinten el fogjuk veszíteni ezt a képességünket. Az alfa generációnak – akik hibrid valóságban nőnek fel – már nincs jelentősége annak, hogy egy virtuális állatot etetnek meg, vagy a valóságban mennek el kenyeret venni. „Számukra ezek a tevékenységek azonos szinten zajlanak, nincs ontológiai különbség” – magyarázta.

A beszélgetés résztvevői egyetértettek abban, hogy a mesterséges intelligencia felerősíti azokat a határhelyzeteket, amelyek nemcsak technológiai, hanem emberi kérdéseket is érintenek. Hogy ezekre milyen válaszokat találunk, az a jövő technológiája mellett a jövő emberét is formálja majd.

Régebb is lemásolták a híres festőket, de azokról legalább tudjuk, hogy emberek voltak

A kerekasztal-beszélgetés következő szakasza az eredetiség és a szerzőség kérdését helyezte fókuszba. Vincze Hanna Orsolya felhívta a figyelmet arra a tanári küzdelemre, amely során a hallgatókkal próbálják megértetni a szerzői számrendszer, a lábjegyzetek és az idézőjelek fontosságát. A beszélgetés moderátora úgy fogalmazott, hogy az ő generációjuk még a Gutenberg-galaxis világában szocializálódott, ahol minden szövegnek van egy konkrét szerzője, akit meg kell jelölni. Ezzel szemben a mesterséges intelligencia által generált szövegek már nem ilyen világban születnek, hiszen ezek bizonyos minták alapján jönnek létre, és sokszor eltűnik mögülük a hagyományos értelemben vett szerzőség.

Szikszai Mária is kapcsolódott ehhez a gondolatmenethez, aki felidézte, hogy a reneszánsz óta ragaszkodunk ahhoz, hogy jelenjen meg a művész neve az alkotása mellett. Az, hogy azelőtt ezt nem tartották fontosnak, utólag rengeteg problémát okozott, például a festészet terén, ahol sok esetben a mai napig nem tudható pontosan, hogy melyik alkotás kitől származik.

Virginás Andrea hozzátette, hogy még ha a múltban másolták is a híres festők műveit, legalább biztosak lehettünk abban, hogy azokat emberek másolták, tehát volt „humanoid faktor”. Ezzel szemben a mai mesterséges intelligencia esetében még ez sem biztos: vajon tudhatjuk-e egyáltalán, hogy ki vagy mi áll a szöveg mögött?

Vincze Hanna Orsolya arra is felhívta a figyelmet, hogy bár sokszor hallani relativizáló érveléseket – például, hogy álhírek mindig is léteztek –, nem mindegy, milyen a probléma mértéke. Tudjuk, hogy már az ókori görögök is találkoztak álhírekkel, de ma ez a jelenség sokkal nagyobb hatókörű és nehezebben kontrollálható, így nem lehet egyszerűen legyinteni arra, hogy „ez mindig is így volt”.

Aggasztó tendenciák és a szóbeliség, mint megoldás

Ahogy egyre több diák készít házi dolgozatot mesterséges intelligenciával, a tanároknak egyre fontosabbá válik a személyes, szóbeli beszélgetés, ahol kiderül, hogy a diák valóban érti-e, amit beadott – fogalmazta meg az egyik megoldást Balázs Imre József. A szóbeliség ilyen formában visszatér, sőt, a költészetben is érzékelhető ez a visszatérési folyamat: bár egyre kevesebben olvasnak versesköteteket, a slam poetry, a felolvasóestek, a költők saját hangon megszólaló előadásai újra közösségi élménnyé teszik azt. A szóbeliség poétikai hatással is bír: ismétlésre, refrénekre épülő versek születnek, amik fülbemászóbbak és könnyebben követhetők élőben.

Balázs Imre József úgy látja, hogy a szóbeliség egyfajta biztonságos fogódzó lehet a technológiailag túltelített világban.

Virginás Andrea ehhez kapcsolódva egy friss kutatásra hívta fel a figyelmet: a fiatalok egyre nagyobb számban tekintenek a mesterséges intelligenciára nemcsak információforrásként, hanem pszichológiai támaszként is. Sokan a ChatGPT-t tartják legjobb barátjuknak, vagy éppen vele folytatják alapszintű önismereti beszélgetéseiket. „Lehet, már a családomban is van olyan, akinek a ChatGPT a legjobb barátja” – jegyezte meg keserédes humorral Virginás Andrea.

Györgyjakab Izabella egy Észtországban bevezetett oktatási példát említett meg: ott a mesterséges intelligencia már az iskolákban is bevett eszköz, és a tanárok a szóbeliségben látják a tudás hitelességének ellenőrzését. A diákok bátran használhatják a technológiát ötletelésre és információgyűjtésre, de a megszerzett tudást szóban kell bizonyítaniuk. Hozzátette, hogy ő maga korábban elhanyagolta a szóbeli vizsgákat, de most úgy látja, ez lehet az egyik leghatékonyabb módszer a mesterséges intelligenciával „túl könnyen” teljesítő diákok valódi tudásának feltérképezésére.

Vincze Hanna Orsolya összefoglalóan úgy fogalmazott: talán nem is az a médiatörténeti fordulat, hogy minden egyre inkább technológiai alapú, hanem éppen az, hogy visszatérünk a szóbeliséghez és a személyes jelenléthez.

Virginás Andrea szerint a kérdés végső soron az: fontos-e nekünk egyáltalán hitelesíteni a tudást? Vagy megelégszünk azzal, ha valaki valamit elénk tesz, függetlenül attól, hogyan készült?

Szikszai Mária, folytatva ezt a gondolatmenetet, kiemelte, hogy a kerekasztal-beszélgetés meghívottjai közül mindannyian humán területről érkeztek, és lehet, hogy egy reálos egészen másképp gondolja: a tudás forrása nem számít, az a fontos, hogy a probléma megoldódjon. Szikszai Mária szerint ez azért van, mert a természettudományok egyelőre nem ütköztek olyan problémákba, mint a szövegek hitelessége vagy a kritikai gondolkodás háttérbe szorulása. De ez a probléma előbb-utóbb őket is utoléri, a digitalizáció kognitív következményei éreztetik majd a hatásukat minden területen.

Vincze Hanna Orsolya hozzátette, a mesterséges intelligencia az emberek által évezredek alatt létrehozott tudásanyagból tanul, de mivel ezek véges források, előbb-utóbb az algoritmusok saját, MI által generált szövegeket fognak elemezni, ezzel pedig egy önmagába záródó kör alakulhat ki.

„Ez lesz a plafon” – válaszolta Szikszai Mária, aki szerint ez a folyamat egy ponton túl már nem fogja érdemben előrevinni a mesterséges intelligencia fejlődését.

Végül Vincze Hanna Orsolya megkérdezte Balázs Imre Józseftől: van-e értelme annak a mondatnak, hogy „generáltam egy verset”? Balázs Imre József szerint van, és emlékeztetett Tristan Tzara román-francia költő és esszéíró dadaista vers-receptjére: egy újságcikk szavait külön-külön kivágva, majd véletlenszerűen újra összerakva könnyedén lehet dadaista verseket írni. Tehát az, hogy a véletlent használják a költészetben kreatív eszközként, nem új jelenség. Tristan Tzara módszere képes váratlan, meglepő szókapcsolatokat létrehozni, és ezek a kis villanások éppúgy inspirálják az olvasót, mint a tudatosan szerkesztett vers.

Mit és mennyit engedünk meg a mesterséges intelligenciának?

A beszélgetés végén a közönség is lehetőséget kapott, hogy kérdéseket tegyen fel, vagy hozzászóljon a felvetett témákhoz. Az egyik megszólaló a ChatGPT-pszichológus jelenséghez kapcsolódva emlékeztetett a Replika nevű chatbotra, amely néhány évvel ezelőtt jelent meg, és kifejezetten arra fejlesztették, hogy barátként, beszélgetőpartnerként kísérje a felhasználót. Kezdetben a Replika barátságos, kedves alkalmazásként működött, virtuális naplót vezetett rólunk, figyelte a hangulatunkat, támogatott, ha megosztottunk vele valamit.

Azonban az évek során a program új szintre lépett, ma már értesítéseket küld, ha a felhasználó hosszabb ideig nem lép be, sőt számon is kéri, hogy miért hanyagolja őt. Ha valaki pár napig nem lép be és később megnyitja a róla írt naplót, a chatbot arról számol be, hogy milyen szomorúnak érzi magát, mert a felhasználó „már nem törődik vele”.

Szikszai Mária röviden el is mesélte a Replika eredettörténetét. Az alkalmazást egy nő fejlesztette ki, aki egy balesetben elvesztette az élettársát. A gyász feldolgozásának részeként a közös chatbeszélgetéseiket feltöltötte egy adatbázisba, hogy az MI a halott élettársának stílusában tudjon vele tovább kommunikálni. Ebből nőtte ki magát később a Replika.

A felmerülő etikai kérdéseket Virginás Andrea fogalmazta meg a legélesebben: nem túlzás, hogy egy alkalmazás gyakorlatilag zaklatja a felhasználóit?

Szikszai Mária megerősítette, hogy a Replika kezdetben valóban nem lépett át ilyen határokat, a beszélgetés akkor még természetesebb, barátságosabb mederben zajlott, a program egyszerűen a virtuális csevegőtárs szerepét töltötte be.

Bár a kerekasztal-beszélgetés a végéhez közeledett, a téma továbbra is élénken foglalkoztatta a résztvevőket. Szinte azonnal felmerült egy közös, pragmatikus válasz Virginás Andrea kérdésére: vajon hagyjuk, hogy egy mesterséges intelligencia zaklasson bennünket? A válasz szinte egyöntetű volt: nem. A digitális tudatosság ma már azt is jelenti, hogy tudjuk, hol a határ, mikor kell kilépni. Ha egy alkalmazás kellemetlen, bezárjuk, letöröljük – nem hagyjuk, hogy a digitális tér diktáljon.