Articolul a apărut inițial pe VICE News.
În martie anul ăsta, oficialii Uniunii Europene au avertizat companiile de tehnologie că nu iau măsuri suficient de drastice pentru a împiedica propagarea conținutului terorist și le-au dat o listă de cerințe.
Videos by VICE
Aparent, companiile nu și-au făcut temele.
Așa că săptămâna asta, Uniunea Europeană a publicat detaliile despre cum va face aceste recomandări obligatorii.
Noua legislație va forța companiile să se conformeze cu cel puțin una dintre recomandările adoptate la începutul acestui an: să îndepărteze conținutul terorist în cel mult o oră de când va fi raportată de agențiile locale de implementare a legii. Dacă proiectul de lege este aprobat – va trebui aprobat de Parlamentul European și o majoritate a statelor membre – companiile pot fi amendate pentru nerespectarea legii, deși încă nu e clar cum va fi formulată legea.
Legislația este cea mai recentă încercare din partea Europei de a reglementa giganți tehnologici americani. La începutul acestui an, Germania a introdus o lege contra discursurilor care incită la ură, care impune companiilor să elimine materialul „evident ilegal” în 24 de ore de la postare, altfel riscă amenzi de până la 58 milioane de dolari pentru fiecare infracțiune. UE a forțat Irlanda să colecteze miliarde în impozite restante de la Apple, în timp ce Bruxelles a amendat Google cu cinci miliarde de dolari pentru abuzul poziției dominante de pe piața de telefonie mobilă.
Uniunea Europeană a declarat că a instituit „sancțiuni eficace, proporționale, și cu efect de descurajare” în cazul în care furnizorii nu respectă cerințele individuale de îndepărtare, iar în eventualitatea unor „eșecuri sistematice de eliminare a unui astfel de conținut în decurs de o oră”, Uniunea va percepe amenzi de până la 4% din cifra de afaceri globală a unei companii din ultimul an fiscal.
În cazul Google, Facebook și Twitter, asta ar însemna amenzi de până la 4,3 miliarde, 1,6 miliarde și respectiv 96 de milioane de dolari.
Totuși, criticii spun că acest proiect de lege este defectuos și probabil va fi ineficient cu privire la vizionarea și partajarea conținutului extremist. Ei spun că este prea limitat pentru a fi eficient și ar putea determina rețeaua teroristă să accelereze migrarea pe platforme mai mici, cum ar fi aplicația de mesaje criptate, Telegram, site-ul de distribuire mesaje JustPaste și serviciul de distribuire video LiveLeak.
Proiectul de lege al Comisiei Europene vine după ani de frustrare în rândul parlamentarilor care cred că Silicon Valley s-a spălat pe mâini în ceea ce privește combaterea conținutului extremist, potrivit oficialilor și experților UE.
„Nu poți să împarți pliante care instigă la terorism pe străzile orașelor noastre și asta nu ar trebui să fie posibil nici pe internet”, a declarat Julian King, comisarul UE pentru securitate și cel care a venit cu inițiativa acestei legi.
„Deși am făcut progrese în ceea ce privește eliminarea conținutului terorist online prin eforturi voluntare, nu s-a dovedit a fi suficient. Trebuie să împiedicăm încărcarea conținutului și, acolo unde apare, să ne asigurăm că este eliminat cât se poate de repede, înainte de a provoca daune serioase.”
„Nu e ca și cum nu au putut să o facă. Sincer, nu au vrut.”
Purtătorii de cuvânt de la Google, Facebook și Twitter au refuzat să comenteze legislația înainte ca aceasta să fie făcută publică, dar și-au apărat tentativele de combatere a conținutului extremist online.
În ultimul an, sub presiunea guvernelor, Silicon Valley a luat măsuri pentru a opri mesajele extremiste. În aprilie, YouTube a declarat că investiția sa în machine learning înseamnă că 98% din materialul extremist va fi eliminat automat. În aceeași lună, Twitter a declarat că instrumentele sale de combatere a spam-urilor au ajutat la suspendarea a aproape 250.000 de conturi legate de terorism, în ultimele șase luni ale anului 2017. Facebook a declarat că în primul trimestru din 2018 a eliminat sau a ținut sub supraveghere 1,9 milioane de articole cu conținut ISIS și al-Qaeda dintre care 99% au fost eliminate înainte de a fi raportate de un utilizator.
Însă un studiu publicat în iulie de către ONG-ul Counter Extremism Project a arătat că, deși s-a înregistrat un progres, conținutul continuă să treacă prin crăpături destul de mari. Pe YouTube, între martie și iunie, membrii și susținătorii ISIS au urcat 1 348 de videoclipuri, cu un total de 163 391 de vizionări. Douăzeci și patru la sută din postări au rămas pe site pentru mai mult de două ore, iar 60% din conturile care au postat videoclipuri, identificate drept extremiste, au rămas pe platformă, potrivit Scientific American.
Hany Farid, analist digital de la Universitatea Dartmouth și consilier senior al ONG-ului, a declarat că giganții tehnologici încă nu fac suficient și că legislația nu e suficient de strictă pentru a-i forța să rezolve această problemă.
„Lălăiala asta din ultimii trei, patru, cinci ani e în mod deosebit deranjantă, ținând cont că deja am rezolvat problema asta în spațiul de pornografie infantilă”, a spus el. „Nu e ca și cum nu au putut să o facă. Sincer, nu au vrut.”
Companiile tehnologice au o bază de dată comună cu conținutul terorist, pe care o pot folosi pentru a preveni aceleași clipuri sau fotografii. Până la sfârșitul anului 2018, această bază de date va avea mai bine de o sută de mii de înregistrări, conform The Global Internet Forum to Counter Terrorism, doar o parte din numărul de fotografii și videoclipuri identificate și îndepărtate de companii.
„Dacă nu vrei să te bagi în problema acestui conținut și a acestor grupări, odată identificat, conținutul ar trebui să fie înregistrat în baza de date pe care companiile susțin că o au.”
Cenzura de pe rețelele mari împinge utilizatorii extremiști spre platforme mici
Cu toate astea, giganții tehnologici și-au îmbunătățit politicile de curățare a platformelor.
„Probabil că noua lege nu este necesară, deoarece companiile mari de tehnologie sunt deja extrem de bune în identificarea și eliminarea conținutului”, a declarat pentru VICE News Adam Hadley, directorul Tech Against Terrorism, o inițiativă lansată de către Comitetul Executiv al Organizației Națiunilor Unite pentru Combaterea Terorismului.
Asta a avut un efect secundar neintenționat: teroriștii s-au mutat pe platforme mai mici, care au resurse mai puține pentru detectarea acestui tip de conținut.
Experții își fac griji că legea propusă va duce și mai mult teroriștii pe aceste rețele, fix pentru că sunt mai puțin reglementate.
„Din punctul nostru de vedere, cea mai mare amenințare actuală vine din partea platformelor mai mici de care un om obișnuit nici măcar nu a auzit”, a spus Hadley. „În momentul de față, noi considerăm că majoritatea activității teroriste online este pe platformele mai mici, atât în termeni absoluți, cât și relativi.”
Teoretic, legislația propusă are un impact și asupra companiilor mici, unde UE spune că ar pica „toți furnizorii de servicii de hosting din Uniunea Europeană, indiferent de mărime sau de locul în care se află.”
Însă, practic, având în vedere că platformele mai mici sunt în afara Uniunii Europene și multe au o infrastructură limitată pentru a procesa cererile legale, este dificil să ne imaginăm cum pot fi forțați să respecte această nouă lege, a spus Hadley.
Teroriștii recurg din ce în ce mai mult și la serviciile de cloud storage, cum e Google Cloud și Amazon Web Services, în timp ce alții au propriile servere, metode pe care noua lege nu le rezolvă.
Laura-May Coope, director și co-fondator al agenției de social media, Social Life, a declarat că, până la urmă, amenințarea cu amenzile nu va determina ca firmele să facă mai mult decât ce fac deja pentru a rezolva problema.
„Riscul de amenzi mari din partea Uniunii Europene nu schimbă că toate rețelele sociale se luptă masiv cu modalități cu adevărat eficiente de a identifica și apoi de a elimina conținutul extremist din platformele lor”.
