Az online magánüzeneteink egy része nem csak a címzetthez jut el. Miben érint a Chat Control 1.0 és kell-e tartanunk a Chat Control 2.0-től?

Mielőtt azonban rátérnénk a konkrét kérdésekre, lássuk, mi az a Chat Control, és miért van belőle 1.0-ás és 2.0-ás. Röviden: mindkét szabályozás a gyermekek szexuális bántalmazásának megelőzését és felderítését célozza, a Chat Control 1.0 (az EU 2021/1232 sz. rendelete) azonban átmeneti, a Chat Control 2.0 pedig a hosszú távú törvény kidolgozás alatt álló tervezete (COM/2022/209). Addig is, amíg a törvénytervezetről évek óta zajló tárgyalások véget érnek, a Chat Control 1.0 meghatározott időszakra mentességet biztosít a szolgáltatóknak az online kommunikáció bizalmasságát védő ePrivacy irányelv szabályai alól, és lehetővé teszi számukra a nem titkosított magánüzenetek átvizsgálását, bár nem kötelezi őket rá.

A Chat Control 1.0-ként emlegetett rendeletet 2021 júliusában fogadták el először, és egyszer már meghosszabbították 2026. április 3-ig. A határidő lejárta előtt azonban az Európai Parlament leszavazta az újabb meghosszabbítását. Ezzel nem zárult le a történet, ugyanis az Európai Néppárt, Roberta Metsola és a tagállami kormányok nyomására ismét a parlament elé került, sürgősségi eljárásban, így abszolút többségre lett volna szükség az elutasításához. Július 9-én, amikor a szokásosnál kevesebb képviselő volt jelen a csütörtöki nap és a nyári időszak miatt, ez nem jött össze, a szükséges 361 fő helyett csak 314 képviselő szavazott a rendelet ellen, 276 mellette, 17-en pedig tartózkodtak, így a rendelet 2028. április 3-ig érvényben marad. Elfogadták ugyanakkor a Renew, a Zöldek és az Európai Konzervatívok és Reformisták módosító javaslatát arról, hogy a végpontok közötti titkosítást (end-to-end encryption) alkalmazó kommunikációs platformokat kivonják a rendelet hatálya alól.

A romániai EP-képviselők többsége megszavazta, hogy továbbra is ellenőrizhetőek legyenek a nem titkosított magánüzenetek.

A Nemzeti Liberális Párt (PNL) és az RMDSZ EP-képviselői pártcsaládjuk, az Európai Néppárt álláspontjának megfelelően a Chat Control 1.0 meghosszabbítására szavaztak. Az közösségi médiában is érezhető felháborodáshullámra reagálva Vincze Loránt RMDSZ-es EP-képviselő azzal érvelt a szabályozás mellett, hogy a gyermekek védelme fontos, az online platformok szkennelése pedig a magánüzenetek tartalmát nem érinti, csak a már ismert sémák alapján azonosít esetleges bűncselekményre utaló tartalmakat, úgy, ahogy a vírusirtó szoftverek azonosítják a potenciálisan káros elemeket a számítógépünkön.

A Szociáldemokrata Párt (PSD) képviselői szintén megszavazták a Chat Control meghosszabbítását, Vasile Dîncu kivételével. Az egykori romániai védelmi miniszter már korábban is fenntartásokkal nyilatkozott a Chat Controlról. „Személy szerint támogatom e jogszabály alapvető célkitűzését: a gyermekek védelmét az online szexuális kizsákmányolással szemben, azonban úgy vélem, hogy ezt a célt nem lehet úgy elérni, hogy közben visszafordíthatatlanul veszélybe sodorjuk az EU digitális biztonsági infrastruktúráját és megsértjük az alapvető jogokat” – idézte a politikust az Adevărul.

A Chat Control 1.0 ellenzésében ugyanakkor szokatlan közös frontot alkot a Románok Egyesüléséért Szövetség (AUR), a pártból kilépett független képviselők, a Mentsétek Meg Romániát Szövetség (USR) és Nicu Ștefănuță független képviselő, akik elfogadhatatlannak tartják az üzenetek tömeges szkennelését. Az USR EP-képviselői és Nicu Ștefănuță előrelépésnek nevezték ugyanakkor, hogy a titkosított tartalmakat sikerült kivonni a szabályozás hatálya alól. A szuverenista politikusok egy része egyébként a Chat Control 1.0 meghosszabbítására szavazott, de lehet, hogy véletlenül, legalábbis Gheorghe Piperea AUR-os EP-képviselő arról számolt be, hogy pár percig nem tudták, valójában miről is szavaznak.

Arról, hogy mit jelent a gyakorlatban a rendelet meghosszabbítása és miért tartanak tőle sokan, Székely Barnabás adatvédelmi és technológiai szakértőt, jogászt kérdeztük.

A júliusban ismét meghosszabbított Chat Control 1.0 célja, hogy felkutassák és eltávolítsák a gyermekek szexuális bántalmazását ábrázoló anyagokat (CSAM – Child Sexual Abuse Material) és felderítsék a gyermekekkel való szexuális célú kapcsolatfelvételt (ún. gyermekcsábítás, azaz „grooming”), és jelentsék ezeket a bűnüldöző hatóságoknak és a gyermekek szexuális bántalmazása ellen közérdekből fellépő szervezeteknek.

A rendelet nemcsak az üzenetküldő alkalmazásokra vonatkozik, hanem egy tágabb kategóriára, a számfüggetlen személyközi hírközlési szolgáltatásokra, amelyek az instant üzenetküldő és chat-alkalmazások (beleértve a közösségi média platformokon történő privát üzenetküldést) mellett magukban foglalják az e-mail-szolgáltatásokat, illetve a játék- és közösségi csevegőalkalmazásokat. Fontos hangsúlyozni, hogy mentesülnek a szabályozás alól azok a szolgáltatások, amelyeknél végpontok közötti titkosítást (E2EE) alkalmaznak. Így például

a WhatsApp-, a Signal-, a Viber- és Telegram-felhasználók üzeneteit, illetve a ProtonMail vagy a Tuta felhasználók által küldött leveleket nem ellenőrizheti a szolgáltató a Chat Control 1.0 alapján.

A végponti titkosítás hiányában sem kötelesek az érintett szolgáltatók ellenőrizni a felhasználók üzeneteit és leveleit, ez a saját döntésükre van bízva.

A hazai felhasználók körében népszerű üzenetküldő alkalmazások között elsősorban az Instagramot érinti, mivel a Meta idén május 8-án kivezette azt az opcionális beállítást, amely lehetővé tette az üzenetek végpontok közötti titkosítását. A Facebook Messenger esetében a régebbi, titkosítatlan csevegésekben, illetve a nem titkosított – Facebook-oldalaknak, Marketplace-en vagy esetenként csoportos beszélgetésben küldött – üzenetek esetében is sor kerülhet az üzenetek ellenőrzésére a Meta részéről. A végponti titkosítás hiánya miatt ez felmerül a Skype és a SnapChat esetében is. E-mail szolgáltatásoknál megemlíthető a Gmail és az iCloud Mail. A játék- és közösségi csevegőalkalmazások esetében az Xbox Live Messaging és a Discord felületein küldött üzenetek kerülhetnek célkeresztbe.

A javasolt szabályok csak azokra a meghatározott típusú online szolgáltatásokat nyújtó szolgáltatókra vonatkoznak, amelyek bizonyítottan ki vannak téve a gyermekek szexuális bántalmazását ábrázoló anyagok terjesztése vagy gyermekcsábítás céljából történő visszaélésnek, elsősorban technikai jellemzőik vagy tipikus felhasználói bázisuk korösszetétele miatt.

Sok vállalat támogatja a jogszabály adta lehetőséget. A nyilvánosan rendelkezésre álló adatok alapján a Meta, a Microsoft és a Google kihasználta a Chat Control 1.0 által biztosított lehetőséget, hogy automatizáltan feldolgozza az üzenetek és levelek tartalmát, illetve a kapcsolódó metaadatokat a CSAM-tartalmak azonosítása érdekében.

A legfrissebb adatokat az Európai Bizottság tavaly novemberében publikált, a Chat Control 1.0 végrehajtásáról szóló jelentésében találjuk. Ez alapján 2023-ban a Meta 3.6 millió, a Microsoft 9 000, és a Google 1 558 CSAM-nak minősülő tartalmat azonosított. 2024-ben pedig a Meta 1.5 milliót, a Microsoft több mint 5 800-at, és a Google 1 824-et. A jelentésben a LinkedIn is szerepel 2, illetve 1 azonosított CSAM-tartalommal.

A CSAM-tartalmak azonosítása érdekében végzett ellenőrzés érinti az elküldött képeket, videókat és médiafájlokat. Ugyanakkor, kizárólag a grooming felismerése érdekében a szöveges kommunikáció feldolgozására is van lehetőség. Ilyen célból meghatározott kommunikációs mintákat és objektív kockázati tényezőket (társalgó felek közti korkülönbség, gyermek részvétele a csevegésben, szexuális célú kapcsolatfelvételre utaló minták) vizsgálhatnak. Fontos kiemelni, hogy

a rendelet előírja, hogy a kommunikáció általános tartalmának vagy lényegének kikövetkeztetésére nem lehet alkalmas az ellenőrzésre használt technológia.

Amikor már ismert CSAM-tartalom felderítéséről beszélünk, a meglévő technológiák a tartalom automatikus elemzésére támaszkodnak, és jellemzően a fájlok hash-alapú összehasonlítására épülnek. A hash egy egyirányú matematikai művelet, amellyel egy fájl (kép, videó, szöveg stb.) egyedi digitális lenyomatát kapjuk meg egy fix hosszúságú, betűkből és számokból álló karakterláncként. Ha például egy ismert CSAM-nak minősülő kép másolatait keressük, akkor az eredeti kép hash-e kerül összehasonlításra más képek hash-ével. Ha két kép hash-e egyezik, akkor a képek is. A hash-alapú technológia képes a vizuálisan hasonló, akár kisebb módosításokat tartalmazó tartalmak (pl. megvágott, újraméretezett vagy szűrővel ellátott képek) azonosítására is.

A még nem ismert CSAM-tartalmak azonosítására osztályozó algoritmusokat használnak, akár gépi tanulással tanított mesterséges intelligencia-modelleket, amelyek a tartalmakat mintafelismerés révén címkézett osztályokba sorolják. Az osztályozók például képesek észlelni a meztelenséget, az alakokat vagy a színeket.

Megemlíthetjük a Discord által kifejlesztett, gyermekek szexuális bántalmazását ábrázoló anyagok felderítésére szolgáló új eszközt, amelyet képek és szövegek társítására képeztek ki, lehetővé téve a köztük lévő szemantikai kapcsolatok megértését.

A Chat Control 1.0 jogalapot teremt a felhasználók végponti titkosítással nem védett kommunikációjának és az elküldött médiatartalmak automatikus átvizsgálásához. Ez gyakorlatilag hozzáférést jelent, akkor is ha ezt alapértelmezetten szoftver végzi, nem pedig ember. A kommunikáció már nem kizárólag a feladó és a címzett számára hozzáférhető. Az ellenőrzés érzékeny adatokhoz – mint egészségügyi fotók, intim képek, családi képek és videók; párkapcsolati kommunikáció, újságíró és forrásszemély, ügyvéd és ügyfél vagy orvos és beteg között kommunikáció – való hozzáférést is feltételez. A Chat Control 1.0 rendelkezései jogosan vetnek fel aggályokat a magán- és családi élet, valamint a kommunikáció tiszteletben tartásával, illetve a személyes adatok védelmével kapcsolatban.

Míg a gyermekek szexuális bántalmazását ábrázoló ismert anyagok felderítésére szolgáló technológiák rendkívül pontosak, a korábban ismeretlen, új CSAM-tartalmak szűrését célzó megoldások csak az ilyen tartalmak 80%-át képesek azonosítani az adott adathalmazban egy 0,1%-os hamis pozitív (1000-ből egyet azonosít tévesen CSAM-tartalomnak) arány mellett. A gyermekcsábítás felderítésére szolgáló egyes meglévő technológiák pontossági aránya 88%.

Gyakorlatilag a jelenleg rendelkezésre álló technológiák, különösen a gyermekek szexuális bántalmazását ábrázoló új anyagok azonosítását és a gyermekcsábítás felderítését szolgáló technológiák hibaaránya viszonylag magas.

Ha egy fotó (pl. gyermekünkről a gyermekorvosnak küldött fotó) vagy beszélgetés (pl. szülő és gyermek közti beszélgetés) téves osztályozásának következménye fiókletiltás, hatósági bejelentés vagy akár nyomozás, akkor milliárdos felhasználói bázis és ezermilliárdos megosztott tartalom mellett nagyon sokan akadhatnak fenn az ellenőrzésen tévedésből akár 0,1% (egy milliárdból egy millió), akár 0,01% (egy milliárdból százezer) a hamis pozitív arány.

Ugyanakkor, mivel nincs technológiai megoldás a gyermekek szexuális bántalmazását ábrázoló, titkosított formában megosztott anyagok érzékelésére, az ellenőrzés megkerülhető a tartalom küldést vagy feltöltést megelőző titkosításával.

Másrészt, ha a felhasználók tudják, hogy beszélgetéseiket automatikusan ellenőrzik, akkor kevésbé mernek érzékeny témákról kommunikálni. Ez különösen érinthet kiszolgáltatott csoportokat, például bántalmazást elszenvedő áldozatokat, egészségügyi segítséget vagy pszichológiai támogatást kereső személyeket, gyermekeket, illetve újságírókat és forrásaikat, civil és emberi jogi aktivistákat, stb. Továbbá, a kommunikáció ellenőrzése visszatartó hatással lehet a véleménynyilvánítás szabadságának gyakorlására is.

A Chat Control 1.0 fő célja a gyermekek online szexuális bántalmazása elleni küzdelem. Az előzőek alapján jogosan merül fel, hogy elég hatékonyak-e a Chat Control 1.0 rendelkezései ebben a formában, illetve arányosak-e az elérni kívánt céllal.

Bírósági végzés alapján történő megfigyelést csak bűncselekmény megalapozott (észszerű) gyanúja esetén rendelhet el a bíró, amennyiben az arányos és szükséges. Az arányosság megállapításánál mérlegelik az ügy sajátosságait, a megszerezni kívánt információ vagy bizonyíték jelentőségét, valamint a bűncselekmény súlyát. A szükségesség akkor áll fenn, ha a bizonyíték más módon nem szerezhető meg, vagy megszerzése olyan különleges nehézségekkel járna, amelyek veszélyeztetnék a nyomozást, illetve személyek vagy értékes javak biztonsága forog veszélyben. Ezzel szemben a Chat Control 1.0 alapján végzett kommunikáció-ellenőrzés általános és tömeges.

A Chat Control 1.0 támogatói létező problémákra mutatnak rá. A gyermekek szexuális bántalmazására nagyrészt nem derül fény. Az áldozatok gyakran nem tesznek feljelentést életkorukból adódóan, félelemből, szégyenérzet miatt, a bántalmazás fel nem ismerése miatt vagy mert nem tudják, hogy kihez fordulhatnak. A szolgáltatók (Meta, Google, Microsoft) ellenőrzése és az azonosított CSAM-anyagok és gyermekcsábítások hatóságok felé történő jelentései nélkül sok esetben nem indulna nyomozás. Az azonosított esetek segíthetnek a folyamatban lévő bántalmazás felderítésében, az elkövető és az áldozat azonosításában, továbbá hozzájárulhatnak a gyermek megtalálásához és kimentéséhez, illetve az elkövető büntetőeljárás alá vonásához. Ugyanakkor, a CSAM-anyagok további terjedésének korlátozásában is szerepet játszik.

A vita magva nem az, hogy szükséges-e fellépni a gyermekek szexuális kizsákmányolása ellen, hanem az, hogy megalapozott-e a minden felhasználó online privát kommunikációjára kiterjedő megelőző jellegű ellenőrzés.

Az Európai Adatvédelmi Testület (EDPB), az Európai Adatvédelmi Biztos (EDPS), a jogvédő szervezetek és a kiberbiztonsági kutatók jelentős része szerint a gyanú nélküli, nagy léptékű szkennelés ezt az arányossági tesztet nem teljesíti.

A Chat Control 2.0 elsősorban abban tér el a Chat Control 1.0-től, hogy nem átmenetileg biztosít jogalapot a felhasználók kommunikációjának és az elküldött médiatartalmak önkéntes átvizsgálásához, hanem elfogadása esetén hosszú távon kötelezné a szolgáltatókat az üzenetek és médiatartalmak ellenőrzésére hatósági utasítás alapján.

A Chat Control 2.0 hatálya szélesebb kört fed le, az e-mail szolgáltatások, üzenetküldő és chat-alkalmazások mellett az SMS- és távközlési szolgáltatásokra (mobil szolgáltatások), a tárhelyszolgáltatásokra (felhőszolgáltatások), a szoftveralkalmazás-áruházakra és az internet-hozzáférési szolgáltatásokra is vonatkozik.

A szolgáltatóknak elemezni és értékelni kell annak kockázatát, hogy a szolgáltatást CSAM terjesztésére vagy gyermekek szexuális célú behálózására használják. Ez alapján a hatóságok magas, közepes vagy alacsony kockázati kategóriába sorolják a szolgáltatást. Magas kockázat esetén ezt legalább évente meg kell ismételni. A feltárt kockázatok csökkentésére pedig kockázatarányos intézkedéseket kell bevezetniük.

Az azonosított CSAM-tartalmak eltávolítását, az ahhoz való hozzáférés megszüntetését és a keresési találatokból való törlését is előírja a rendelettervezet. Továbbá, azt is, hogy a szolgáltatók építsenek be könnyen elérhető gyermekbarát bejelentőeszközöket és olyan beállításokat, amelyekkel a felhasználó szabályozhatja, hogy ki léphet vele kapcsolatba és milyen adatai láthatóak.

A fő vitatott pont a szolgáltatók kötelezése az üzenetek és tartalmak ellenőrzésére. Ez azt feltételezi, hogy a szolgáltatók beépítik a szolgáltatásaikba a CSAM-tartalmakat és a gyermekcsábítást felismerő rendszereket.

A fő aggály azzal kapcsolatos, hogy ezeket a rendszereket később át lehet állítani más tartalmak keresésére is (például politikai véleményekre, kormánykritikus üzenetekre és mémekre, szerzői jogi jogsértésekre, vagy bűncselekményekre).

A funkcióbővítéssel („function creep”) kapcsolatos félelmek arra vonatkoznak, hogy a CSAM felismerésére kiépített technológia később viszonylag könnyen kiterjeszthető lenne más tartalmakra, személyekre vagy célokra.

A második vitatott pont az, hogy az Európai Bizottság eredeti javaslata kiterjed a végponti titkosítással védett szolgáltatásokra.

A titkosított kommunikációt biztosító szolgáltatásokra is kötelező ellenőrzést előíró szabályok azt eredményezhetik, hogy a szolgáltatók hátsó ajtókat, úgynevezett „backdoor” megoldásokat építenek be, amely gyengíthetik és sérülékenyebbé teszik az eddig jól működő végponti titkosítással védett kommunikációt.

A végponti titkosítás kulcsfontosságú eszköz az online kommunikáció titkosságának biztosításához, mivel erős technikai biztosítékokat nyújt az ellen, hogy a küldőn és a címzett(ek)en kívül bárki hozzáférjen a kommunikáció tartalmához, beleértve a szolgáltatót is.

Ahhoz hogy a szolgáltató a szerverein ellenőrizni tudja (ún. szerveroldali szűrés) a saját szolgáltatásán zajló kommunikáció tartalmát, a kommunikáló felek közötti, végponti titkosítással védett, kommunikációs csatornát meg kellene szakítani. Ennek két hátrányos következménye is van. Egyrészt, a felhasználók személyes adatait (üzenetek, küldött tartalmak) tömegesen kezelik a szolgáltató szerverein. Másrészt, a végponti titkosítás által biztosított védelmet lerontja, biztonsági réseket nyitna meg. Ez azt jelenti, hogy hekkerek vagy államilag támogatott szereplők előtt a végponti titkosítás már nem feltétlenül fog megfelelő védelmet biztosítani. Lényegében a végponti titkosítás összeegyezhetetlen a szerveroldali szűréssel.

Ugyanakkor, ha a felhasználó még az üzenetküldő alkalmazásba történő feltöltés előtt, egy attól független szoftverrel titkosítja a tartalmat, a kliensoldali ellenőrzés elvileg megkerülhető.

Ha a szolgáltató a felhasználó eszközén végzi a tartalmak ellenőrzését (ún. kliensoldali szűrés), akkor hozzáférne az eszközön tárolt nem titkosított tartalmakhoz, nem célzottan csak azokhoz, amelyek potenciálisan CSAM-tartalmak lehetnek. Ez a személyes adatok védelmének jelentős romlásához vezetne. Ez főként pedig pont a gyermekeket érintené, mivel az általuk használt szolgáltatások nagyobb valószínűséggel részesülnek a hatóságok részéről a felderítést elrendelő határozatokkal.

A kliensoldali szűrés is megkerülhető, ha a tartalmat a felhasználó egy külön szoftverrel még azelőtt titkosítja, hogy ahhoz az ellenőrzést végző alkalmazás hozzáférne.

Fontos hangsúlyozni, hogy a Chat Control 2.0 rendelettervezet szövege nem végleges, még számos módosításon mehet keresztül.