Το άρθρο δημοσιεύτηκε αρχικά στο Motherboard
Τον Δεκέμβρη, το Motherboard ανακάλυψε έναν χρήστη του Reddit ονόματι deepfakes που απολάμβανε αμέριμνος το χόμπι του: να βάζει πρόσωπα διασημοτήτων σε σώματα πορνοστάρ. Έφτιαξε αρκετά πειστικά πορνό βίντεο διασημοτήτων, μεταξύ των οποίων οι Gal Gadot, Maisie Williams και Taylor Swift, χρησιμοποιώντας έναν αλγόριθμο μηχανικής μάθησης, τον υπολογιστή του, βίντεο που ήταν διαθέσιμα online και λίγο από τον ελεύθερο χρόνο του.
Videos by VICE
Από τότε που γράψαμε πρώτη φορά για τον deepfakes, η δημιουργία ψεύτικου πορνό με τη βοήθεια της τεχνητής νοημοσύνης έχει πάρει μεγάλες διαστάσεις. Όλο και περισσότεροι άνθρωποι χρησιμοποιούν ψεύτικο πορνό με διασημότητες χρησιμοποιώντας μηχανική μάθηση και τα αποτελέσματα είναι όλο και πιο πειστικά. Ένας άλλος χρήστης του Reddit δημιούργησε μάλιστα μια εφαρμογή ειδικά σχεδιασμένη για να επιτρέπει στους χρήστες χωρίς σοβαρές γνώσεις υπολογιστών να δημιουργήσουν ψεύτικο πορνό με τη βοήθεια της τεχνητής νοημοσύνης. Όλα τα εργαλεία που χρειάζεται κάποιος για να κάνει αυτά τα βίντεο είναι δωρεάν, άμεσα διαθέσιμα και συνοδεύονται από οδηγίες που καθοδηγούν τους αρχάριους στη διαδικασία.
Αυτές είναι εξελίξεις για τις οποίες εμείς και οι ειδικοί με τους οποίους μιλήσαμε προειδοποιήσαμε στο αρχικό μας άρθρο: Έχουν έρθει τρομακτικά γρήγορα.
Λίγο καιρό αφότου το Motherboard δημοσίευσε το άρθρο, ο deepfakes έφτιαξε ένα subreddit με το όνομά του, αφιερωμένο σ’ αυτό που έκανε. Μέσα σε αυτό το σύντομο χρονικό διάστημα των δύο μηνών, απέκτησε ήδη 15.000 συνδρομητές. Στην κοινότητα, ο όρος «deepfake» χρησιμοποιείται πλέον ως ουσιαστικό για να περιγράψει τα ψεύτικα βίντεο που είναι φτιαγμένα από νευρωνικά δίκτυα, στα οποία ο deepfakes ήταν πρωτοπόρος.
Για τα καλύτερα θέματα του VICE Greece, γραφτείτε στο εβδομαδιαίο Newsletter μας.
Ένας άλλος χρήστης, ο deepfakeapp, δημιούργησε το FakeApp, μια φιλική προς τον χρήστη εφαρμογή που επιτρέπει στον οποιονδήποτε να φτιάξει ξανά αυτά τα βίντεο με τα δικά τους σύνολα δεδομένων. Η εφαρμογή βασίζεται στον αλγόριθμο του deepfakes, αλλά ο deepfakeapp δημιούργησε την εφαρμογή χωρίς τη βοήθεια του deepfakes. Έστειλα μήνυμα στον deepfakes, αλλά δεν μου απάντησε για να σχολιάσει το πόσο δημοφιλές έγινε το δημιουργήμά του.
Ο deepfakeapp μου είπε σε μήνυμα στο Reddit ότι ο στόχος του με τη δημιουργία του FakeApp ήταν να κάνει την τεχνολογία του deepfakes προσιτή σε ανθρώπους χωρίς τεχνολογικό υπόβαθρο ή εμπειρία στον προγραμματισμό.
«Νομίζω πως η τωρινή εκδοχή της εφαρμογής είναι μια καλή αρχή, αλλά ελπίζω να τη βελτιώσω ακόμη περισσότερο τις επόμενες μέρες και βδομάδες», είπε. «Στο τέλος, θέλω να τη βελτιώσω τόσο, ώστε πιθανοί χρήστες να μπορούν απλώς να επιλέξουν ένα βίντεο από τον υπολογιστή τους, να κατεβάσουν ένα νευρωνικό δίκτυο που συσχετίζεται με κάποιο πρόσωπο από μια δημόσια διαθέσιμη βιβλιοθήκη και να αλλάξουν το πρόσωπο πατώντας απλώς ένα κουμπί»
[VICE Video] Παρακολουθήσαμε το Σκανάρισμα μιας Πορνοστάρ που Παίζει σε Virtual Reality Ταινίες
Παρακολουθήστε όλα τα βίντεo του VICE, μέσω της νέας σελίδας VICE Video Greece στο Facebook.
Στις αρχές Ιανουαρίου, λίγο καιρό αφότου βγήκε το πρώτο άρθρο του Motherboard για τον deepfakes, τηλεφώνησαμε στον Peter Eckersley, επικεφαλής επιστήμονα υπολογιστών στο Electronic Frontier Foundation, για να συζητήσουμε για τις επιπτώσεις αυτής της τεχνολογίας στην κοινωνικά γενικά: «Νομίζω ότι είμαστε στο μεταίχμιο του να γίνει πολύ εύκολη και διαδεδομένη αυτή η τεχνολογία», μου είπε και συμπλήρωσε ότι ήταν δύσκολο να κάνεις deepfakes, τότε. «Μπορείς να κάνεις ψεύτικα βίντεο με νευρωνικά δίκτυα σήμερα, αλλά οι άλλοι θα μπορούν να καταλάβουν τι έκανες, αν κοιτάξουν προσεκτικά και κάποιες από τις τεχνικές που χρησιμοποιούνται παραμένουν πολύ προηγμένες. Αυτό δεν θα συνεχίσει να ισχύει για πάνω από ένα ή δύο χρόνια».
Στην πραγματικότητα, δεν συνέχισε να ισχύει για πάνω από δυο μήνες. Μετρήσαμε δεκάδες χρήστες που πειραματίζονται με ψεύτικο πορνό τεχνητής νοημοσύνης, κάποιοι από τους οποίους έχουν φτιάξει απίστευτα πειστικά βίντεο.
Ο χρήστης UnobtrusiveBot έβαλε το πρόσωπο της Jessica Alba στο σώμα της performer πορνό Melanie Rios χρησιμοποιώντας το FakeApp. «Πολύ γρήγορο – μαθαίνω πώς να επανεκπαιδεύω το μοντέλο μου. Περίπου πέντε ώρες – αξιοπρεπές γι’ αυτό που είναι», έγραψε σε ένα σχόλιο.
Ο χρήστης nuttynutter6969 χρησιμοποίησε το FakeApp, για να βάλει το πρόσωπο της Daisy Ridley σε μια άλλη performer πορνό.
Επίσης, διάφορα ψεύτικα βίντεο που έχουν ανέβει στο subreddit έχουν μπει ως πραγματικά σε site σάιτ. Ένα deepfake της Emma Watson να κάνει ντους ανέβηκε στο CelebJihad -ένα site πορνό που βάζει συχνά χακαρισμένα γυμνά διασημοτήτων– ως «ένα άγνωστο βίντεο από την προσωπική μου συλλογή και απ’ ό,τι φαίνεται εμφανίζεται η Emma Watson τελείως γυμνή δείχνοντας τα σεξουαλικά της όργανα, ενώ κάνει ντους με μια άλλη κοπέλα».
Άλλοι χρήστες του Reddit έχουν πάρει βίντεο από τα δημόσια Stories διασημοτήτων στο Instagram, για να βάλουν πρόσωπο σε γυμνά Snapchats που ποστάρουν κοπέλες που δεν είναι επαγγελματίες: «Μου ’κατσε καλή φάση που αυτή η κοπέλα κάνει παρόμοιες χαζές χορευτικές κινήσεις και έχει εκφράσεις όπως η Chloe καμιά φορά στα Stories της», έγραψε ο δημιουργός ενός deepfake της ηθοποιού Chloe Bennet.
Οι περισσότερες αναρτήσεις στο r/ deepfakes μέχρι στιγμής είναι πορνό, αλλά μερικοί χρήστες φτιάχνουν βίντεο που δείχνουν πού φτάνει η τεχνολογία που επιτρέπει σε οποιονδήποτε με αρκετά δεδομένα να βάλει πειστικά οποιοδήποτε πρόσωπο σε οποιοδήποτε βίντεο. Ο χρήστης Z3ROCOOL22 συνδύασε βίντεο του Hitler με τον Πρόεδρο της Αργεντινής Mauricio Macri:
Σύμφωνα με τον deepfakeapp όποιος κατεβάσει και τρέξει το FakeApp μπορεί να φτιάξει ένα τέτοιο βίντεο με μόνο ένα ή δύο βίντεο υψηλής ποιότητας από τα πρόσωπα που θέλουν να χρησιμοποιήσουν. Το wiki του subreddit λέει ότι το FakeApp είναι «μια desktop εφαρμογή που αναπτύσσεται από την κοινότητα για τη λειτουργία του αλγόριθμου deepfakes, χωρίς την εγκατάσταση Python, Tensorflow κτλ» και ότι το μόνο που χρειάζεται κανείς είναι μια καλή GPU, σαν αυτή που θέλουν τα καλά 3D video games με υποστήριξη CUDA (σ.σ. παράλληλη υπολογιστική πλατφόρμα και μοντέλο προγραμματισμού της NVIDIA)». Αν οι χρήστες δεν έχουν κατάλληλη GPU, μπορούν να νοικιάσουν από υπηρεσίες, όπως η Google Cloud Platform. Η όλη διαδικασία, από την εύρεση δεδομένων μέχρι την αλλαγή του προσώπου, μπορεί να πάρει οκτώ με 12 ώρες, αν γίνει σωστά. Άλλοι χρήστες λένε ότι έχουν κάνει πολύ περισσότερο, μερικές φορές με καταστροφικά αποτελέσματα.
«Προς τιμή εκείνων που προσπάθησαν και απέτυχαν – το χάλια βίντεό μου», έγραψε ο χρήστης MrDrPresidentNotSure για το άθλιο ψεύτικο βιντεάκι του.
«Όταν βγαίνει έτσι στη μετατροπή, σημαίνει ότι έπρεπε να το εξασκήσω περισσότερη ώρα;», έγραψε για μια αποτυχημένη απόπειρα με το FakeApp ο χρήστης yu78156853:
Η αλλαγή του προσώπου της Princess Leia από το Rogue One από τον χρήστη derpfake θεωρείται από τον deepfakeapp ιδιαίτερα καλή, όπως μου είπε. Η εκδοχή του FakeApp και η χολιγουντιανή σκηνή είναι σχεδόν ίδιες, τουλάχιστον σε gifs χαμηλής ανάλυσης.
«Ελπίζω ότι τα επόμενα χρόνια, τα εργαλεία μηχανικής μάθησης σαν αυτό θα γίνουν ευρέως διαδεδομένα και θα δίνουν στους καθημερινούς ανθρώπους που δεν ξέρουν από τεχνολογία την ευκαιρία να εξερευνούν και να δημιουργούν, με τη χρήση υψηλής τεχνολογίας που σήμερα είναι κυρίως πεδίο των μεγάλων εταιρειών ειδικών εφέ», μου είπε ο deepfakeapp.
«Επάνω, είναι το πρωτότυπο βίντεο από το Rogue One με μια Carrie Fisher φτιαγμένη με CGI. Προϋπολογισμός ταινίας: 200 εκατομμύρια δολάρια», έγραψε ο derpfake rpfake για το δημιούργημά του. «Κάτω, ένα fake των 20 λεπτών που θα μπορούσε να γίνει ουσιαστικά με τον ίδιο τρόπο με μια οπτικά παρόμοια ηθοποιό. Προϋπολογισμός 0 και μερικά τραγούδια Fleetwood Mac».
Μια απίστευτα εύκολη στη χρήση εφαρμογή για DIY ψεύτικα βίντεο –σεξ και revenge porn, αλλά και πολιτικών ομιλιών και ό,τι μπορείς να φανταστείς– που εξαπλώνεται και βελτιώνεται με αυτόν τον ρυθμό, μπορεί να έχει επιπτώσεις που θα αλλάξουν την κοινωνία και τον τρόπο που καταναλώνουμε τα Μέσα Επικοινωνίας. Ο συνδυασμός ισχυρής, open-source έρευνας νευρωνικών δικτύων, η ραγδαία πτώση της ικανότητάς μας να ξεχωρίσουμε την αλήθεια από τα fake news και το πώς διαδίδουμε τα νέα στα social media ενέχουν σοβαρές συνέπειες.
«Κοινωνικά και πολιτισμικά, αποτελεί εκμετάλλευση, αλλά είναι βιώσιμο», μου είπε σε ένα mail ο Jay Owens, αναλυτής ψηφιακών ΜΜΕ και διευθυντής έρευνας στην πλατφόρμα νοημοσύνης κοινού Pulsar.
«Viral βίντεο και media διασημοτήτων ήδη λειτουργούν σε ένα επίπεδο καθαρής διασκέδασης – αλλά θα γίνουν ακόμη πιο σέξι, ιδανικά για memes, ακόμη πιο διασκεδαστικά και εξωπραγματικά».
Η Deborah Johnson, ομότιμη καθηγήτρια εφαρμοσμένης ηθικής στη Σχολή Μηχανικών του Πανεπιστημίου της Βιρτζίνια μου είπε ότι δεν υπάρχει αμφιβολία ότι αυτή η τεχνολογία θα βελτιωθεί τόσο, που θα είναι αδύνατον να καταλάβεις τη διαφορά ανάμεσα σε ψεύτικα βίντεο με αλλαγές προσώπων που φτιάχτηκαν με τη βοήθεια της τεχνητής νοημοσύνης και σε πραγματικά.
«Μπορείς να πεις ότι το καινούριο είναι ο βαθμός στον οποίο μπορεί να γίνει ή το πόσο πιστευτό είναι. Φτάνουμε σε σημείο να μην μπορούμε να ξεχωρίσουμε το αληθινό, αλλά και πάλι, ούτε και προηγουμένως μπορούσαμε», είπε. «Το καινούριο είναι στην πραγματικότητα το γεγονός ότι τώρα είναι διαθέσιμο για όλους ή ότι σύντομα θα γίνει. Είναι αποσταθεροποιητικό. Αυτό το πράγμα υπονομεύει κάθε έννοια εμπιστοσύνης και αξιοπιστίας».
Περισσότερα από το VICE
Η Αλήθεια για την Εκπομπή Κυμάτων Χαμηλής Συχνότητας Πριν το Συλλαλητήριο
Είναι ο Kylo Ren ο Καλύτερος Κακός Όλων των Εποχών στα Star Wars;
