Oamenii fac angro filme porno false cu prieteni și foști colegi

Articolul a apărut inițial pe Motherboard.

Săptămâna trecută am scris despre un forum subreddit, denumit „deepfakes”, o comunitate de redditori care crează porno trucat cu vedete, cu ajutorul video-urilor existente și un algoritm de machine learning. Acest algoritm poate înregistra fața dintr-un videoclip public cu a vedetă și să o transpună pe corpul unei actrițe porno. Deseori, videoclipurile rezultate sunt aproape nedistinctive de realitate. Asta se poate realiza cu o aplicație gratuită și ușor de folosit: FakeApp.

Din ce-am vorbit cu programatori și eticieni, ăsta e unul dintre cele mai nasoale cazuri de utilizare a tehnologiei AI. Oamenii au făcut zarvă, iar unii chiar folosesc aplicația asta pentru a crea porno trucat cu oameni cunoscuți, gen prieteni, cunoștințe, foști sau foste, colegi de clasă, fără permisiunea lor.

Pe un forum deepfakes, Discord, găsești tot felul de entuziaști care fac schimb de ponturi și susțin că realizează videoclipuri cu oameni cunoscuți din viața reală. De exemplu, foste colege de liceu. Unul dintre ei a spus că a făcut „un video destul de bun” cu o tipă din liceu, folosind în jur de 380 de fotografii luate de pe conturile ei de Instagram și Facebook.

Și mai mulți oameni de pe Reddit și Discord cochetează cu posibilitățile de a crea porno trucat cu foști și alte persoane „îndrăgite”, chiar mai mult, cer sfaturi despre cele mai bune tehnici de a realiza asta:

Am petrecut mai bine de o săptămână ca să monitorizez comunitățile astea, unde anumite practici sunt răspândite deja printre zecile de mii de oameni înregistrați pe grupurile deepfakes. Tehnicile prezintă un comportament în creștere, care tronează de mult pe Reddit și alte comunități online care nu au fost verificate de platformele principale. Noi sperăm ca prin demistificarea acestor comunități de oameni, victimele porno-ului trucat generat de AI, vor reuși să înțeleagă și să articuleze tacticile folosite împotriva lor, iar platformele pe care oamenii publică datele personale, vor îmbunătăți metodele de protecție a utilizatorilor, sau vor oferi opțiuni de confidențialitate mai clare, pentru cei care habar nu au.

După publicarea acestui articol, Discord a închis forumul unde oamenii discutau despre creare de porno trucat deepfake. „Pornografia fără consimțământ garantează închiderea serverelor oricând se identifică astfel de conținut, precum și un ban permanent a utilizatorilor”, a spus un reprezentant Discord pentru Business Insider . „Noi am investigat serverele și le-am oprit imediat.”

Cu unelte open-source precum Instagram Scraper și extensia Chrome DownAlbum, poți să descarci cu ușurință fotografii publice disponibile pe conturile de Instagram și Facebook, direct pe hard drive-ul tău. Uneltele astea au scopuri legitime, deloc libidinoase. De exemplu, poți permite oricui să descarce orice imagine postată vreodată pe contul Motherboard, ceea ce înseamnă că există șanse mari ca acele imagini să nu dispară complet de pe web. Însă creatorii de videouri deepfake se pot folosi de aceste unelte de social media pentru a crea cu lejeritate baze de date necesare pentru a face porno trucat fără consimțământul persoanelor neștiutoare din viața reală.

După ce un creator deepfake are suficiente imagini cu fața, trebuie să găsească corpul potrivit al unei actrițe porno. Nu orice față se potrivește perfect pe orice corp, din cauza diferențelor de dimensiuni, păr și alte variabile. Cu cât e mai bună potrivirea, cu atât e mai convingător rezultatul final. Partea asta din procesul deepfake a fost semi-automatizată și simplificată.

Pentru a găsi cea mai bună potrivire, deepfakerii folosesc aplicații web, care susțin că utilizează software de facial recognition pentru a găsi actrițe porno care arată ca persoană cu care vor să facă face-swap. Porn World Doppelganger, Porn Star By Face și FindPornFace sunt trei unelte web ușor de folosit care susțin că folosesc tehnologie de facial recognition pentru a găsi cea mai bună variantă porno, cât mai apropiată de trăsăturile fizice ale persoanei vizate.

Niciuna dintre uneltele astea nu par a fi prea sofisticate, însă sunt suficient de bune cât să-i ajute pe deepfakeri să găsească cea mai potrivită actriță porno. Un utilizator urcă o fotografie cu ținta aleasă pentru porno-ul trucat, iar site-ul îți oferă o actriță porno asemănătoare. Apoi, utilizatorul poate căuta pe site-urile porno, cum ar fi Pornhub, video-uri cu actrița în cauză, pentru a face un porno trucat.

În momentul actual, Motherboard nu știe exact cum funcționează aceste site-uri, pe lângă susținerile lor de a folosi tehnologie de „facial recognition”. Porn Star By Face are 2374 de actrițe în baza de date, scoase din cele mai populare filmulețe porno de pe Pornhub și YouPorn. Nu se știe dacă site-urile astea au cerut permisiunea actrițelor, înainte să le bage în bazele lor de date.

Un purtător de cuvânt de la FindPornFace mi-a spus într-un mesaj pe Reddit că aplicația lor este „destul de inutilă” pentru FakeApp, „deoarece aplicația asta are nevoie nu doar de similarități cum ar fi ochi, nas etc., ci și de forma capului, maxilarului, culoarea pielii și tot așa”, a spus el. „E o altă secvență de instrucțiuni. Dar da, unele tipe din căutările pe baza fotografiilor pot fi folosite pentru a găsi o vedetă porno potrivită porno-ului trucat. Este adevărat.”

Site-ul Porn Star By Face spune că lucrează la îmbunătățirea algoritmului folosit: „Rețeaua neurală este actualizată cu fiecare cerere, așa că vă rugăm să distribuiți linkul prietenilor. Noi ne străduim să oferim un nivel ridicat de precizie. Folosim mai multe fotografii din diferite unghiuri pentru a crea un șablon al unei actrițe. După crearea șablonului, noi testăm și corectăm erorile.”

FindPornFace vine cu o clauză de declinare a responsabilității: „Prin utilizarea serviciului nostru, sunteți de acord să nu încărcați conținut care să descrie nici o persoană sub vârsta de 21 ani și / sau fără permisiunea explicită a persoanei respective." Site-ul Porn World Doggelganger indică faptul că utilizatorii au intenția de a încărca fotografii cu ei înșiși, nu ale altcuiva. Însă, prezintă mai multe opțiuni de conectare rapidă pentru a căuta persoane care seamănă cu vedete, inclusiv pentru Selena Gomez, Nicki Minaj, Kylie Jenner și Courtney Cox.

Instrumentele de genul FindPornFace nu fac decât să automatizeze o parte dintr-un proces pe care comunitățile de pe site-urile Reddit, 4chan și site-urile infame cu porno de răzbunare, cum ar fi Anon-IB, îl practică manual de ani de zile: găsirea de pornografie doppelganger pe baza fotografiilor încărcate pe aceste site-uri (și, într-o anumită măsură, găsirea „corpurilor potrivite" pentru trucarea fețelor unor celebrități pe actrițe porno.)

Una dintre aceste comunitățile, subredditul „doppelbanger”, are aproape 36 de mii de abonați (un al subreddit, scris greșit „dopplebangher” are 11 mii). Multe dintre postări, dacă nu majoritatea din acest subreddit sunt cu oameni cunoscuți de solicitanți: prieteni, colegi de clasă, mamele prietenilor, cunoștințe și persoane admirate de la depărtare. Utilizatorii postează fotografii (aparent aproape de fiecare dată fără consimțământ) și alți utilizatori comentează despre cele mai asemănătoare actrițe porno. FindPornFace are un cont pe Reddit, unde se comentează frecvent rezultatele.

Moderatorii forumurilor doppelbangher sfătuiesc utilizatorii să nu posteze fotografii care pot fi asociate cu conturile de social media prin urcarea lor pe un site de hosting, cum ar fi imgur. Postarea informațiilor personale, precum și al porno-ului de răzbunare va duce la un ban, scriu ei. „Vă rugăm să fiți conștienți de felul în care cineva s-ar simți dacă ar găsi imaginea sa aici."

Am văzut redditorii care solicită video-uri cu „mama vitregă a prietenului meu", „colega de la facultate", „prietenul meu și tipa de care-mi place" și „cea mai bună fată din inginerie", asociate cu fotografii ale acestora, scoase de pe social media.

Dacă posesorul fotografiei o găsește, poate cere să fie scoasă. Dar, cu regulile mai sus menționate despre postarea fotografiilor ce nu pot fi depistate, cum ar putea cineva să găsească fotografiile personale de pe subreddit, fără o scanare zilnică?

Așa cum a explicat și Wired, toată treaba asta se află într-o zonă legală destul de ambiguă. Vedetele ar putea da în judecată pentru însușirea ilegală a imaginilor personale, dar restul muritorilor de rând au șanse mici să găsească vreo alinare legală. Legea despre porno de răzbunare nu include vreo specificație a imaginilor false, cum ar fi o combinație a feței tale pe un alt corp. În mare parte, responsabilitatea revine platformelor și politicilor de anti-defăimare, care trebuiesc actualizate odată cu evoluția tehnologiei.

„Crearea de scene trucate de sex cu vedete scoate din ecuație consimțământul. E un prejudiciu”, mi-a spus în decembrie o actriță porno, când am vorbit prima oară despre deepfakes. O mare parte din atitudinea față de manipularea imaginilor se datorează faptului că vedetele, în special femeile și actrițele porno sunt considerate niște produse, în loc de niște persoane „reale”. E o prejudecată care apare des în discuțiile despre figuri publice, din comunitatea deepfake., în comparație cu vecina sau colegii de muncă.