Cum am ajuns material de labă din cauza inteligenței artificiale

Barbara Wimmer a vrut doar niște fotografii mișto pentru profil. De asta, jurnalista a încărcat câteva fotografii pe aplicația Lensa AI și a plătit 9,99 de euro ca să-i poată genera exact ce voia. 

Dar nu s-a așteptat ca aplicația să facă ce a făcut cu fotografiile ei: i-a generat poze cu sâni hipersexualizați. După ce i-a trecut șocul inițial, Wimmer s-a înfuriat. Cine i-a permis aplicației să o transforme într-un model pentru masturbare?

Am vorbit cu ea despre cum a abordat mizeria sexistă, de unde vin imaginile și ce poți învăța din asta pentru viața cu inteligența artificială.

VICE: De ce ai vrut avataruri magice cu tine?
Barbara Wimmer: În decembrie 2022, feed-ul de Instagram mi-a fost inundat de mai multe poze cu influenceri care arătau super interesant. Portrete care păreau cumva speciale. Am aflat rapid că erau imagini generate de AI și am vrut să știu cum m-ar vedea pe mine inteligența artificială - și apoi, evident, să postez la rândul meu imaginile pe social media. 

Deci știai la ce să te aștepți?
Imaginile influencerilor erau complet neutre, pur și simplu portrete frumoase, nimic sexist. 

Pare o idee bună. Deci ce-ai făcut?
Am încărcat 20 de poze cu mine, inclusiv unele în care mi se vede tot corpul, dar niciuna neapărat mai dezgolită. 

Care a fost rezultatul?
Aplicația Lensa AI a dus lucrurile la un cu totul alt nivel. Din o sută de „avataruri magice”, 90 m-au sexualizat foarte urât, erau foarte sexiste. Sâni imenși, într-o rochie cu bretele sau ca un personaj sexual manga. În plus, în câteva poze mi-a tăiat capul, aveam șase degete sau trei picioare. 

La ce te-ai așteptat sub eticheta „magic”?
Imagini mai atipice. Deci nu eu în viața de zi cu zi, ci mai degrabă într-o lume onirică. Nu neapărat ca o zână, ci mai degrabă într-o poieniță magică plină de flori. Cel puțin nu fotografii cu mine arătând ca un copil în timp ce mă țin de sâni sau cu sâni care-mi atârnă din rochie. M-am așteptat la ce am văzut la influenceri - fețe drăguțe în diferite contexte. Ca femeie albă, n-a fost totuși atât de rău. 

La ce te referi?
Femeile asiatice au spus că au fost generate adesea și mai sexist, imagini de-a dreptul pornografice. 

Cum așa?
Aparent, Lensa AI accesează baze de date cu imagini de pe internet în care femeile asiatice sunt hipersexualizate mult mai mult decât femeile albe. Există numai imagini porno cu ele și atunci AI crede că așa trebuie să portretizeze femeile asiatice.

E înspăimântător. Cum ai reacționat când ai văzut imaginile?
Am fost șocată și a trebuit să dorm ca să mă liniștesc. A doua zi, când mi-am dat seama că încă sunt furioasă, am făcut o plângere și mi-am cerut banii înapoi. 

Iar Lensa AI cum a reacționat?
Prisma Labs, compania din spatele aplicației, mi-a trimis un mesaj standard. Spunea ceva de genul: Îți mulțumim că ne-ai contactat. Ne pare rău că nu-ți plac rezultatele. Nu putem controla în totalitate rezultatele AI și te-am și informat despre asta. 

Cum te-a făcut să te simți?
M-a amuzat și enervat în același timp. E aproape amuzant că o companie face o aplicație ale cărei rezultate scapă uneori de sub control. O companie tech tipic americană căreia pur și simplu nu-i pasă ce face de fapt. Ce m-a enervat a fost numărul. O fotografie sexualizată ar fi fost gestionabilă, dar 90? Și faptul că nu am avut nicio influență asupra rezultatului. Totul s-a petrecut împotriva voinței mele. Și cel mai nasol lucru a fost că în termeni și condiții spun că fotografiile îmi aparțin, dar Lensa AI le poate folosi ca să-și facă reclamă. Va fi foarte diferit pentru mine. 

Pentru că toți oamenii te vor vedea ca pe un model pentru masturbare?
Din fericire, majoritatea fotografiilor sunt atât de departe de realitate încât abia mă poți recunoaște. Dar nu toate. Am vrut să atrag atenția cu experiența mea ca să nu se mai întâmple din nou. 

Okay. A fost vreo fotografie care ți-a plăcut?
Nu-mi vine în minte niciun exemplu pozitiv. Deși îmi place imaginea cu mine ca doctor. Cu cât am analizat mai mult imaginile primite, cu atât am observat mai multe detalii. De exemplu, AI a pus pe fundalul unei imagini niște munți. N-am văzut asta decât a 500-a oară, fiindcă în prim plan erau sânii giganți. Încărcasem și o poză cu munți.

Deci ai fost dezamăgită de ce a făcut AI.
Ei bine, mă așteptam la niște selfie-uri drăguțe și frumoase. În același timp, n-am vrut să fiu portretizată ca fiind urâtă, dar mi-aș dori ca AI să poată arăta și riduri și ochelari de vedere. Deci există o anumită contradicție, chiar dacă ridurile nu sunt neapărat urâte, iar oricum frumusețea ține de cum te percepe privitorul. 

De ce crezi că pozele influencerilor n-au fost sexualizate, au fost editate?
Nu. Cred că la mine s-a întâmplat asta fiindcă am încărcat poze cu tot corpul. Asta poate că a declanșat AI-ul. Dar chiar și așa, genul ăsta de rezultate n-ar fi trebuit să apară. 

Bine. Deci, de ce ai renunțat?
Nu, am continuat să analizez aplicația. Și am descoperit și mai mult sexism, dincolo de idealurile de frumusețe.

De exemplu?
În timpul generării, poți specifica dacă ești bărbat sau femeie. În pozele sexuale apăream ca femeie, dar când am zis să fiu portretizată ca bărbat, nu numai că aveam brusc riduri, dar eram portretizată într-un context profesional. Apoi eram brusc star rock, astronaut sau doctor. Numai în unele poze arătam ca și cum eram bărbat, cu barbă, de exemplu. Ulterior, Prisma Labs a emis o declarație oficială pe această temă. Și asta m-a enervat foarte tare. 

Ce au spus?
Că există de fapt o „mică problemă”, dar că AI reflectă numai prejudecățile societății. Că accesează baze de date deja existente și că nu e vina lor că sunt sexiste imaginile. 

De ce te-a enervat atât de tare?
Au dreptate cu răspunsul, dar nu poți să construiești pur și simplu un produs și să-l oferi umanității fără să lucrezi înainte la el. 

Cum funcționează?
Între timp, Lensa AI a instalat un fel de filtru de siguranță. Toate cadrele cu nuditate sunt deci evitate. Au fost introduse și categorii, cu care poți măcar să faci o preselecție a stilurilor. Astfel poți măcar restrânge modul cum vei arăta. Dar există mai multe posibilități. 

De exemplu?
Poți antrena generatoarele AI cu date sintetice, adică cu alte imagini AI, ca să scoată din seturile de date astfel de prejudecăți. Și nu mă refer doar la sexualizare, ci și reprezentări diferite de femei și bărbați în context profesional. Și apoi ar trebui să testezi mai întâi produsul pe un eșantion mic, nu din start pe toată lumea. 

Ce poți să faci din ipostaza de consumator?
Trebuie să înțelegi că poți face ceva dacă nu vrei un anumit lucru - chiar și cu inteligența artificială: nu cumpăra un produs sau fă o plângere. De atunci, Lensa AI s-a îmbunătățit, dar numai fiindcă au fost atât de multe plângeri. Poți cere asta. Trebuie să facem companiile care vând astfel de produse să creeze aplicații AI responsabile pentru beneficiul oamenilor fără prejudecăți. 

Articolul a apărut inițial în VICE DACH.