Proiectul Chat Control în UE: Cum îți vor fi scanate mesajele pe WhatsApp și Signal

Securitatea datelor personale a ajuns într-un punct critic: mesajele pe care le trimiți pot rămâne complet confidențiale și de necitit pentru aplicația de mesagerie sau, din contră, pot fi verificate automat de softuri speciale înainte de a fi livrate. Această diferență fundamentală se află în centrul unei dispute aprinse la nivelul Uniunii Europene, unde oficialii caută soluții pentru proiectul „Controlul conversațiilor” (Chat Control) – o inițiativă ce își propune să combată exploatarea copiilor pe internet fără a distruge dreptul cetățenilor la o comunicare privată, scrie Euronews.

Dacă trimiteți astăzi un mesaj pe WhatsApp sau Signal, legislația UE nu se aplică acestuia, deocamdată. Dacă trimiteți aceeași fotografie printr-o aplicație necriptată, este posibil ca aceasta să fie deja verificată de un sistem automatizat înainte ca cineva să o citească.

Această distincție, mai degrabă decât o afirmație generală de genul „UE vă citește mesajele private”, reflectă problema centrală a dezbaterii în curs privind „Chat Control” și detectarea materialelor care prezintă abuz sexual asupra copiilor (CSAM) online.

Un regulament temporar reînnoit, în vigoare până în 2028, permite platformelor să scaneze în mod voluntar mesajele private, fotografiile și videoclipurile în căutarea de CSAM. Acest lucru nu se aplică serviciilor criptate end-to-end, precum WhatsApp sau Signal, în același mod în care se aplică altor platforme.

O propunere separată permanentă, „Chat Control 2.0”, se află încă în curs de negociere. Dacă aceasta va ajunge în cele din urmă să vizeze și conversațiile criptate rămâne întrebarea centrală nerezolvată.

Cum decide sistemul ce să semnaleze

Instrumentele de detectare funcționează în două moduri principale. Primul este compararea hash-urilor: o imagine sau un videoclip este transformat într-o amprentă criptografică și comparat cu o bază de date conținând material confirmat ca fiind ilegal. Este o metodă rapidă și precisă pentru copii exacte sau aproape identice, dar ușor de eludat printr-o mică modificare.

Al doilea este clasificarea prin învățare automată, utilizată pentru conținut nou sau modificat și, într-un mod mai controversat, pentru scanarea textului în căutarea tiparelor lingvistice asociate cu ademenirea copiilor.

Patrick Breyer, activist pentru drepturile digitale, jurist și fost deputat european din partea Verzilor/Alianței Libere Europene, susține că ambele metode sunt mai puțin fiabile decât presupun factorii de decizie.

Compararea hash-urilor, cea mai precisă dintre cele două, „prezintă o rată foarte ridicată de rezultate fals pozitive, care incriminează pe nedrept persoane”, spune el, indicând Germania, unde cifrele recente arată că „peste 50% din majoritatea sesizărilor nu au, de fapt, relevanță penală”.

O parte a problemei, explică el, se află în amonte: bazele de date sunt adesea create și verificate în străinătate, în loc să fie evaluate în conformitate cu dreptul penal european. „Unii angajați ai furnizorilor, indiferent unde se află aceștia în lume, introduc informații în bazele de date” fără o evaluare juridică adecvată a intenției, o cerință necesară pentru ca un element să fie relevant din punct de vedere penal.

Unde are loc scanarea pe telefon sau servere

Pe platformele necriptate, această verificare poate avea loc pe serverele proprii ale furnizorului. În cazul serviciilor criptate end-to-end, furnizorul nu poate citi un mesaj odată ce acesta a fost criptat. Prin urmare, orice detectare trebuie să aibă loc mai devreme în lanț: pe dispozitivul însuși, înainte de aplicarea criptării, sau într-un strat hardware separat și securizat, creat special în acest scop.

Aceasta se numește scanare pe partea clientului. Este principalul motiv pentru care dezbaterea privind criptarea nu s-a stins: mesajul este inspectat cât încă este lizibil, „înainte ca lacătul să se închidă”, în loc să fie interceptat ulterior.

Ce se întâmplă după ce un mesaj este marcat ca suspect

Un element semnalat nu ajunge direct într-un dosar al poliției. Potrivit furnizorilor precum Google, o potrivire, fie că provine din compararea hash-urilor, fie dintr-un model de IA, este de obicei redirecționată către evaluatori umani instruiți din cadrul companiei, care o confirmă înainte ca ceva să fie raportat. Această etapă de confirmare este cea în care, potrivit lui Breyer, procesul se blochează la scară largă.

Evaluatorii analizează conținutul în funcție de standarde juridice variabile, nu stabilesc întotdeauna intenția și clasifică frecvent în mod eronat mesajele sexuale obișnuite ale adolescenților sau imaginile create de ei înșiși, partajate ca glume în cadrul unui grup de chat. El observă că mulți minori vizați de aceste rapoarte nu au avut niciodată intenția de a trimite sau primi ceva ilegal; pur și simplu au redirecționat ceva într-un chat de grup „despre altceva”.

Hash-ul imaginilor se compară cu materialul ilegal confirmat. Textul reprezintă o problemă diferită. Limbajul folosit în ademenirea copiilor poate semăna foarte mult cu o conversație obișnuită între adolescenți sau adulți, motiv pentru care cercetătorii identifică detectarea bazată pe text ca fiind stratul cel mai predispus la erori al sistemului. Această distincție este importantă pentru propunerea permanentă. Extinderea oricărei reguli viitoare de la imagini la textul conversațional ar multiplica problema fals-pozitivelor descrisă de Breyer în cazul scanării imaginilor.

Alternativa propusă: scanare țintită și mandat judecătoresc

Breyer nu respinge complet detectarea. El respinge însă efectuarea acesteia în masă. El susține că scanarea este justificată doar atunci când „o instanță independentă confirmă” o suspiciune rezonabilă împotriva unei persoane specifice, comparabil cu un mandat de deschidere a corespondenței cuiva. Scanarea tuturor „doar pentru orice eventualitate”, spune el, reprezintă o categorie de intruziune cu totul diferită.

Ca alternativă, el indică două soluții: scanarea proactivă a web-ului deschis și a dark web-ului în căutarea materialelor ilegale deja cunoscute și raportarea acestora în vederea eliminării, metodă utilizată în Regatul Unit și Canada, dar nu încă în UE și „securitatea prin proiectare”, în cadrul căreia aplicațiile avertizează utilizatorii direct pe dispozitiv înainte ca aceștia să partajeze un număr de telefon sau o imagine nudă, fără ca vreun conținut să părăsească vreodată telefonul.

Ce se întâmplă de fapt cu datele noastre în prezent

Deocamdată, ce se întâmplă cu un mesaj depinde în întregime de aplicația care îl transportă. Pe platformele necriptate, conținutul poate fi identificat prin amprentă digitală sau scanat algoritmic înainte sau imediat după trimitere, verificat de personalul specializat al furnizorului și raportat dacă se confirmă. În cazul aplicațiilor cu criptare end-to-end, acest proces nu se aplică, deși propunerea permanentă nerezolvată ar putea schimba totuși unde și cât de devreme se trasează linia de scanare.