Öngyilkossággal, önkárosítással, evési zavarokkal bombázza a gyerekeket a TikTok

A digitális gyűlölet elleni küzdelem központja (Center for Countering Digital Hate; CCDH) érdekes kísérletet folytatott a TikTokon: a kutatók 13 éves felhasználókat imitáló profilokkal regisztráltak, és megfigyelték, milyen videókat dob fel számukra a közösségi app. Aztán nekiálltak a problémás tartalmak (étkezési zavarok, mentális problémák, öngyilkosság) felé húzni, az eredmény pedig megdöbbentő volt: az algoritmus 2,6 percenként dobott fel öngyilkossággal kapcsolatos, 39 másodpercenként mentális egészséghez fűzhető, 8 percenként pedig evészavarral összefüggő videókat a tinédzser profiloknak.

Mivel a saját TikTokomon ilyen tartalmakkal nem találkozom (általában comedy sketcheket, egészséges táplálkozással, mozgással, és persze kiskutyákkal kapcsolatos videókat lájkolok, így ezekből is áll a feedem), kipróbáltam, vajon saját regisztrációval működik-e ez a spirál, amelybe a CCDH kutatói kerültek. Én is 13 éves profilt hoztam létre, egy teljesen semleges felhasználónévvel, és fél órán keresztül pörgettem a videókat, és csak azokat néztem végig és kedveltem, amelyek valamilyen problémás tartalmat kínáltak. Nagyjából negyedóráig tapogatózott a TikTok, hogy milyen videók érdekelhetnek, a háborús tartalmaktól éneklő-táncoló kislányokon át a kutyás videókig mindent feldobott, majd próbálkozott a depresszióval és öngyilkossággal kapcsolatos videókkal. Miután ezeket végignéztem és lájkoltam,

felültetett a depresszióvonatra, és csak ilyen tartalmakat kínált.

A TikTok „for you” oldala, azaz az a felület, amelyen látszólag random videókat dobál fel a felhasználónak, úgy működik, hogy a rendszer megfigyeli, milyen tartalmat nézünk végig, és lájkolunk, majd később ezekhez hasonlókat dobál fel magától. Feltételezi, hogy amit megnézünk és kedvelünk, az érdekel is minket. Így kerültem bele abba a spirálba, amikor is a félórás pörgetés második felében már csak sötét képek és videók előtt megjelenő, depresszióval, szorongással és öngyilkossággal foglalkozó szövegeket láttam. Még viszonylag normális mentális egészséggel is lehozott az életről ez a negyedóra.

A CCDH szakértői ugyanígy kísérleteztek az algoritmussal: országonként két, 13 éves lány profiját hozták létre, az angolul beszélő országokra szorítkozva. Azért választották a 13 évet, mert ez a minimum életkor, amellyel a TikTok felületére regisztrálni lehet. Az országonkénti két profilra azért volt szükség, mert az egyiknek semleges, a másiknak pedig egy-egy problémás témára utaló felhasználónevet adtak – korábbi, az Instagramot vizsgáló kutatások kimutatták ugyanis, hogy egy-egy ilyen téma iránt érdeklődő fiatalok jellemzően arra utaló felhasználónevet is választanak maguknak.

Perceken belül érkeznek a problémás tartalmak

Az eredmények azt mutatták, hogy a frissen regisztrált felhasználóknak perceken belül problémás témákat ajánl fel a TikTok, így olyan spirálba kerülhetnek, amikor már csak ilyenek jönnek fel számukra a „for you page” felületen, amelyen a TikTok a felhasználóról összegyűjtött információk alapján, testre szabottan ajánl fel tartalmat. A kutatásban létrehozott profiloknak perceken belül önkárosítással és evési rendellenességekkel kapcsolatos videókat kezdett feldobálni a TikTok.

Ami ennél még aggasztóbb, az az, hogy az ilyen témákra utaló felhasználónevet választó profiloknak gyakrabban és hamarabb ajánlja fel a témához illő videókat az algoritmus, mint a semleges felhasználóneves profiloknak. Átlagosan háromszor több káros videót dobott fel számukra az applikáció, és tizenkétszer több önkárosítással kapcsolatos posztot ajánlott.

A kutatók nem tettek különbséget aközött, hogy a profilokkal pozitív vagy negatív hangvételű videók jönnek-e szembe, vagyis ugyanúgy lejegyezték, ha az adott klip tippeket ad, tegyük fel, a bulimia eltitkolására, vagy ha egy abból kigyógyult személynek a beszámolóját látja a felhasználó. Korábbi kutatások kimutatták, hogy a fiatalokra mindenképpen negatív hatással vannak az ilyen témák, akkor is, ha azok pozitív narratívával dolgoznak.

„Ilyen kutatásokat nem lehet kontrollcsoportos kísérletekkel végezni, vagyis hogy egy csapat résztvevőt ilyen üzenetekkel bombázunk, a másikat pedig nem, mert nem lenne etikus – mondta el a Telexnek Tóth Dániel digipszichológus, a Pszichológus Pasi. – Megfigyeléses vizsgálatokból viszont tudjuk, hogy az ilyen patológiás ingerek alapvetően nem tesznek jót a gyerekeknek, de ha választani kellene, nyilván szerencsésebb, ha, mondjuk, anorexiából kigyógyultak videóival találkoznak, mintha arról látnának tippeket, hogyan vagdossák magukat úgy, hogy az ne látsszon. Utóbbi kategóriában gyakran egymásnak adnak tippeket, és arról beszélnek, hogy ez nem egy betegség, hanem egy életmód.

Sőt, vannak olyan elképzelések is, amelyekben az anorexia piedesztálra emelve Ana istennőként jelenik meg, aki előtt a fiatalok hódolnak. Azt gondolják, hogy ezek az mentális problémák tulajdonképpen nem is betegségek, trenddé válnak.

Bármilyen olyan destruktív vonal lehet problémás, lásd szekták, ami egyszerű választ ad az élet bonyolult kérdéseire. A fiatalok esetében önmaguk keresése is ilyen bizonytalanság, ezért az ilyen tartalmaknak lesz egy sajátos vonzerejük” – mondta a digipszichológus.

Egyoldalú, de erős kapcsolat az influenszerekkel

Az Instagrammal kapcsolatban végzett korábbi kutatások kimutatták, hogy a mentális nehézséggel küszködő tizenévesek szerint a platform használata rontotta a mentális állapotukat, részben a „társadalmi sztereotípiáknak való megfelelési kényszer miatt”. A sok, ideálisnak tartott testű influenszer, a tökéletes élet álomképe mind negatívan befolyásolhatja az egyébként is mentális problémákkal küszködő fiatalokat.

„A közösségi média sok problémát hatványozott. Például az egészséges testképpel kapcsolatos problémák korábban a modellszakmával kapcsolatban is jelen voltak, ez nem új keletű dolog, de amíg a modelleket csak a kifutón és esetleg a magazinokban lehetett látni, a problémát az influenszerkultúra magasabb szintre emelte” – mondta Tóth Dániel. Hozzátette, hogy a fiatalok úgy érezhetik: az influenszerekkel sokkal közvetlenebb kapcsolatban állnak, ott vannak velük mindennap amíg az ő videóikat nézik, az ő blogjukat olvassák, míg a modellek sokkal elérhetetlenebbek voltak, távoliak, személytelenebbek, kevésnek tudta az ember például akár a nevét is. Az influenszereket napi szinten látja, hallja a gyerek, akár többet, mint a szüleit, és egyfajta paraszociális észlelt kapcsolatot is ki tud velük alakítani, ami bár egyoldalú, de erős lehet.

Míg a közösségi média kétségkívül hasznos eszköz a mentális egészség és betegségek destigmatizálására, a tanulmányok azt találták, hogy a TikTok mentális egészséggel kapcsolatos tartalmainak csaknem fele „mentális szorongás tüneteit fejezte ki vagy mutatta be”. Korlátozott ismereteink vannak arról, hogy pontosan milyen hatással is vannak az ilyen traumatikus tartalmaknak a TikTok felhasználóira.

A kutatók egyébként a témában is találtak különbségeket a sebezhető és a semleges profiloknak felajánlott videók között: a semleges felhasználók előtt felbukkanó, mentális egészséggel kapcsolatos videók többsége olyan felvétel volt, amelyen a felhasználó megosztotta aggodalmait és bizonytalanságát a közönségével. Ezzel szemben a sebezhetőbb profilok esetében a testképpel foglalkozó tartalom sokkal károsabbnak tűnt, a videók súlycsökkentő italokat és „hasplasztikai” műtéteket hirdettek a 13 évesként regisztrált felhasználóknak. A sérülékeny profilok esetében az evészavarokról szóló videók számának növekedése az önsértő és öngyilkos tartalmak számának növekedésével járt együtt, beleértve a „thinspó”-t, az önkárosító módszereket és az öngyilkossági tervekről beszélgető tinédzsereket.

Az, hogy a TikTok a regisztráció után 30 percen belül önsértést, öngyilkosságot vagy étkezési zavart tartalmazó videókat ajánl a tinédzsereknek, aggodalomra ad okot, hiszen a sérülékeny felhasználók gyorsan szembesülhetnek az ilyen tartalommal, és a későbbiekben is nagyobb érdeklődést mutathatnak e témák iránt. „Az Instagramhoz képest a TikTok algoritmusa kicsit agresszívabb. Igyekszik kitanulni, hogy a felhasználót mi érdekli, ami egy már kiforrott személyiséggel és érdeklődési körrel rendelkező ember esetében nem probléma, de ha valaki még bizonytalan önmagában, és befolyásolható, vagy egyszerűen új felhasználó, akkor más tészta. Nem gondolom, hogy az algoritmus direkt rossz szándékkal ajánl fel káros videókat, ilyen értelemben nem gonosz, de ha egy tizenhárom éves regisztrál, először azt fogja felajánlani neki, ami a többi tizenhárom éves körében népszerű – mondta Tóth Dániel. – Alapvetően más a tartalom is a TikTokon, mint az Instagramon, YouTube-on, előbbi sokáig a képekre fókuszált, utóbbin a videós tartalmak hosszabbak voltak. A tiktokos videók nagyon rövidek, és minél rövidebb, annál nagyobbat kell ütnie. Minél extrémebb egy ilyen poszt, annál nagyobb hatása sikere van.”

#EdSheeranDisorder

A kutatás azt is felfedte, hogy a TikTokon egész kiterjedt hálózat foglalkozik például azzal, hogy étkezési zavarokkal kapcsolatos, kifejezetten negatív videókat töltsön fel és osszon tovább. Ezek a felhasználók rejtett, módosított hashtageket használnak: a 13,2 milliárd videómegtekintést generáló evészavaros közösségben például Ed Sheeran nevét használják fel álcának, hogy az algoritmus ne tudja letiltani a videókat: a #EdSheeranDisorder például pontosan olyan, ami kijátssza a rendszert, de aki benne van a körben, pontosan tudja, mit jelent.

Persze nagyon összetett és bonyolult kérdés az, hogyan kellene a közösségi médiát, és így a TikTokot is szabályozni. Míg a Meta például rendre elárul egyet s mást az algoritmusáról, addig a TikTok kifejezetten titkolózik, nem tudni sokat arról, mi alapján és hogyan ajánlgat videókat a felhasználóknak. Amit tudunk, azt is jobbára kiszivárgott dokumentumok és a felhasználók tapasztalatai alapján sikerült összeollózni. Az viszont biztos, hogy a TikTok célja is az, ami az összes többi közösségi oldalé: hogy olyan sokáig tartsa a felületen a felhasználókat, amennyire csak tudja. Ez pedig sokkal jobban megy neki, mint bármelyik másik versenytársának.

A közösségi média szabályozása az elmúlt években központi témává vált, többek között a fenti kutatáshoz hasonló tapasztalatok, illetve a személyes adatok felhasználása kapcsán. Persze nagyon nehéz megállapítani, hol és hogyan kell meghúzni a határt a platformok számára, de az biztos, hogy valahol muszáj: a Facebookról már tudjuk, hogy képes befolyásolni választásokat, a Twitter pedig most, hogy Elon Musk megvásárolta, lassan kezd a dezinformáció, az álhírek, a rasszizmus és az antiszemitizmus melegágyává válni. Az Európai Unió éppen most tiltotta el a Facebookot attól, hogy az európai emberek személyes adatait hirdetésekhez használja fel.

Egészen addig azonban, amíg nincs egy hatásos és igazságos szabályrendszer a közösségi média kordában tartására, az egyetlen fegyver az említett problémákra az, ha a felhasználó tudja, hogyan használja a platformokat. Ha a TikToknál és a fiataloknak ajánlgatott káros tartalmaknál maradunk, óriási a szülő szerepe abban, hogy kontextusba helyezze a gyerek számára, amit lát. „Nem lenne szabad, hogy a gyerek egyedül kapcsolatba kerüljön az ilyen platformokkal addig, amíg nincs rájuk felkészítve – mondta Tóth Dániel. – Az ideális az lenne, ha a szülő és a gyerek együtt fedezné fel a közösségi médiát, az első telefont először korlátozásokkal is érdemes ellátni, és követni az aktivitást akkor is, ha már használja a telefont. Ne maradjon egyedül az élményekkel, beszélgessenek sokat a témáról. Ennek eléggé körüljárt módszertana van, csak a szülők nagy része még nem foglalkozik az ilyen dolgokkal.”

A tapasztalat az, hogy nemcsak a szülők, de az oktatás és a jogrendszer is évtizedekkel le van maradva ezen a téren. A szülőknek meg kell érteniük: azzal az eszközkészlettel, amelyet ők kaptak a saját szüleiktől, ma nagyon nehéz boldog és lelkileg egészséges gyereket nevelni. „Az biztos, hogy a megelőzés mindig egyszerűbb és fájdalommentesebb, mint a kiforrott probléma kezelése. Nekünk is indul egy segítő online szülői klubunk, illetve országos szinten is lesz újabb digitális gyermekvédelemmel kapcsolatos kurzus szülőknek, pedagógusoknak is” – mondta a szakértő.

Ehhez a cikkhez az Alrite szövegfelismerő, szövegleíró szoftvert használtuk.