Am dat 120 de lei ca să fac un film porno fals cu fața mea

În timp ce legislatorii continuă să dezbată cum pot împiedica filmele porno false să răspândească informații false și să defăimeze personalități politice, cetățenii obișnuiți sunt nevoiți să se descurce singuri cu efectele acestei tehnologii care e folosită pentru crearea de pornografie falsă non-consensuală.

Deepfake-urile sunt imagini alterate digital care folosesc algoritmi de machine learning ca să schimbe fața unei persoane cu a alteia. Când a apărut prima oară, la sfârșitul lui 2017, termenul „deepfake” a fost preluat din username-ul de Reddit al creatorului acestei tehnologii. El susținea că e un programator și are acest hobby. Își posta creațiile pe un subreddit dedicat editării fețelor unor vedete pe corpurile unor staruri porno. Deepfakes a devenit subiectul unui alt subreddit, acum banat, unde se posta pornografie falsă involuntară.

Doi ani mai târziu, să faci filme deepfake e mai ușoară ca niciodată și, deși tehnologia e interzisă pe platforme precum Discord, Reddit și Twitter, există deja o piață înfloritoare de deepfake porn. Aici, persoanele care nu au resursele sau abilitățile necesare ca să creeze propriile filme deepfake pot comanda videoclipuri cu vedete, prieteni și necunoscuți. Ca să văd cât de ușor e să comanzi un astfel de film, m-am alăturat comunității online de deepfake și i-am cerut unui creator să facă unul cu fața mea.

În afară de câteva programe dezvoltate de cercetători, majoritatea celor de deepfake disponibile publicului larg încă au nevoie de update-uri și de o bază de date cu sute de fotografii cu fața care urmează să o înlocuiască pe cea a starului porno din film. Dar această limitare – faptul că majoritatea oamenilor nu au la îndemână sute de imagini cu o persoană obișnuită – poate fi depășită prin utilizarea unui singur videoclip. Un story de 15 secunde de pe Instagram are 450 de cadre individuale, ceea ce e de ajuns pentru a crea o bază de date pentru față sau un „faceset”, care poate antrena un algoritm de machine learning să îți randeze chipul pe alt corp.

Cu alte cuvinte, dacă postezi un videoclip cu fața ta pe rețelele sociale și cineva reușește să-l salveze, ar putea plăti pe cineva să te pună în alt videoclip, pe orice alt corp.

A fost ușor să găsesc un creator de conținut care să-mi onoreze comanda. Le-am trimis un mesaj privat unora care își făceau reclamă pe forum. Unul dintre ei m-a contactat în aceeași seară și i-am trimis un videoclip de 13 secunde cu mine filmat din față cu telefonul. I-am trimis și un link la videoclipul de pe Pornhub în care voiam să-mi pună fața.

Ca să mă asigur că experimentul reprezintă un schimb realist, nu i-am spus creatorului că fața era a mea și nici că aș fi obținut consimțământul persoanei respective. În dimineața următoare mi-a trimis niște screenshot-uri cu un deepfake pe care îl crease cu faceset-ul meu.

Cât am stat pe forumul de deepfake, am vorbit cu patru creatori de deepfake ca să înțeleg mai bine piața și motivațiile din spatele acestor videoclipuri. Toți aveau limite foarte diferite cu privire la lucrurile pe care acceptau sau nu.

Un tip mi-a zis că acceptă bani ca să facă „filme porno cu fete random”. Le face fără să pună întrebări, atâta timp cât fetele și clientul au peste 18 ani, dar nu cere dovezi legale că persoanele din videoclipuri sunt majore. A zis că videoclipul e factorul de decizie pentru el și că n-ar pune „oameni în camere de gazare sau alte faze sinistre, nici măcar în glumă”.

Când l-am întrebat cum crede că ar reacționa persoanele din videoclipuri dacă le-ar descoperi, a zis că e de părere că „bărbații ar râde sau s-ar simți flatați, pe când fetele s-ar panica și ar urla că li s-a încălcat intimitatea”.

Studiile arată că femeile din scenariile porno non-consensuale sunt principalele victime de pe piața deepfake și că acestea sunt traumatizate în urma hărțuirii, deși știu că videoclipurile sunt false.

Un alt creator de deepfake a zis că e împotriva utilizării tehnologiei pentru a crea pornografie, dar că folosește forumurile ca pe un instrument de învățare pentru parodii deepfake.

El mi-a zis că, deși site-ul are o secțiune non-pornografică, sunt mai mulți cei care intră pentru pornografie decât cei care o fac pentru informații tehnice. Numărul de postări și de thread-uri de la fiecare secțiune a forumului confirmă acest lucru.

I-am întrebat pe ambii creatori dacă oamenii ar trebui să se aștepte să le fie respectată intimitatea în 2019 și răspunsurile lor au fost similare. „Oamenii postează prea relaxat fotografii și videoclipuri pe rețelele sociale, fără să se gândească la consecințe.” Celălalt tip mi-a zis-o mai direct: „Dacă își încarcă viața pe Facebook, e problema lor. Orice e distribuit de bună voie poate fi folosit împotriva lor”.

Deocamdată nu există legi bine puse la punct care să ne protejeze de acest abuz. Limitarea prezenței pe rețelele sociale nu îți garantează protecție. Această atitudine de blamare a victimei contrazice părerea experților în protecția datelor: deși e bine să ne limităm expunerea pe rețelele sociale, nu există nicio metodă sigură de a te proteja de persoanele care vor să vadă un deepfake cu tine.

După această experiență, am rămas uimit cât de ușor a decurs tot procesul. Forumurile de deepfake apar pe prima pagină de rezultate la o căutare pe Google, iar creatorii sunt dispuși să facă videoclipuri pentru doar treizeci de dolari. Unele platforme se laudă cu zeci de mii de utilizatori. Google a investit resurse în detectarea filmelor deepfake, dar nu a făcut aceste pagini mai greu de găsit în căutări.

După ce creatorul mi-a trimis videoclipul, mi-a mulțumit și mi-a zis că următoarele comenzi vor fi mai ieftine, pentru că deja a antrenat algoritmul să-mi recunoască fața. Până când se vor schimba legile cu privire la hărțuirea cu videoclipuri manipulate, probabil că tipul va continua să aibă o grămadă de clienți.

Articolul a apărut inițial pe VICE US.