Αποκαλύφθηκαν: ονόματα που συνδέονται με το ClothOff, την εφαρμογή deepfake πορνογραφίας | Τεχνητή Νοημοσύνη (AI)

By | March 1, 2024

Η Miriam al-Adib συνάντησε για πρώτη φορά αυτές τις φωτογραφίες όταν επέστρεφε στο σπίτι της από επαγγελματικό ταξίδι. «Μαμά», είπε η κόρη της. “Θέλω να σου δείξω κάτι.”

Η 14χρονη άνοιξε το τηλέφωνό της για να δείξει μια ξεκάθαρη εικόνα του εαυτού της. «Είναι σοκαριστικό όταν το βλέπεις», είπε η Adib, γυναικολόγος στο Almendralejo της νότιας Ισπανίας και μητέρα τεσσάρων κοριτσιών. «Η εικόνα είναι εντελώς ρεαλιστική… Αν δεν ήξερα το σώμα της κόρης μου, θα πίστευα ότι αυτή η εικόνα ήταν αληθινή».

Ήταν ένα deepfake, μία από τις δεκάδες γυμνές εικόνες μαθητών του Almendralejo που δημιουργήθηκαν από την τεχνητή νοημοσύνη (AI) που κυκλοφορούσαν στην πόλη για εβδομάδες σε μια ομάδα WhatsApp που δημιουργήθηκε από άλλους μαθητές.

Κάποια από τα κορίτσια των οποίων τα πορτρέτα κυκλοφορούσαν αρνήθηκαν να πάνε στο σχολείο, υπέστησαν κρίσεις πανικού και έπεσαν θύματα εκβιασμού και εκφοβισμού δημόσια. «Αυτό που με απασχολούσε ήταν ότι αυτές οι εικόνες είχαν φτάσει σε πορνογραφικούς ιστότοπους που ακόμα δεν γνωρίζουμε ότι υπάρχουν σήμερα», είπε ο Adib στον Guardian από την κλινική του στην πόλη.

Οι εισαγγελείς εξετάζουν το ενδεχόμενο να απαγγελθούν κατηγορίες σε ορισμένα από τα παιδιά,
που δημιούργησε τις εικόνες χρησιμοποιώντας μια εφαρμογή που κατέβασε από το Διαδίκτυο. Ωστόσο, δεν κατάφεραν να αναγνωρίσουν τα άτομα που ανέπτυξαν την εφαρμογή και που οι εισαγγελείς υποπτεύονται ότι έχουν έδρα κάπου στην Ανατολική Ευρώπη, είπαν.

Το ισπανικό περιστατικό έγινε παγκόσμια είδηση ​​πέρυσι και έκανε το Almendralejo, μια μικρή πόλη με ξεθωριασμένες εκκλησίες και πλατείες της εποχής της Αναγέννησης κοντά στα πορτογαλικά σύνορα, τον τόπο της τελευταίας από μια σειρά προειδοποιητικών λήψεων από ένα επικείμενο μέλλον όπου τα εργαλεία AI επιτρέπουν σε οποιονδήποτε να δημιουργήσει υπερρεαλιστικές εικόνες με λίγα μόνο κλικ.

Όμως, ενώ τα deepfakes των ποπ σταρ όπως η Taylor Swift έχουν συγκεντρώσει την περισσότερη προσοχή, αντιπροσωπεύουν απλώς την κορυφή ενός παγόβουνου από μη συναινετικές εικόνες που πολλαπλασιάζονται στο διαδίκτυο και τις οποίες η αστυνομία είναι σε μεγάλο βαθμό ανίκανη να σταματήσει.

Καθώς ο Adib μάθαινε για τις εικόνες, χιλιάδες μίλια μακριά στο Γυμνάσιο Westfield του Νιου Τζέρσεϊ, μια εντυπωσιακά παρόμοια περίπτωση εκτυλισσόταν: πολλά κορίτσια στοχοποιούνταν από ψεύτικες, σαφείς εικόνες που δημιουργούνται από τα μαθήματα των μαθητών τους. Το περιστατικό στο Νιου Τζέρσεϊ προκάλεσε μια πολιτική αγωγή και βοήθησε να τροφοδοτήσει μια δικομματική προσπάθεια στο Κογκρέσο των ΗΠΑ να απαγορεύσει τη δημιουργία και τη διανομή μη συναινετικών deepfake εικόνων.

Στο επίκεντρο των επεισοδίων στην Ισπανία και το Νιου Τζέρσεϊ βρισκόταν η ίδια εφαρμογή, που ονομαζόταν ClothOff.

Κατά τη διάρκεια του έτους από την κυκλοφορία της εφαρμογής, τα στελέχη της ClothOff διατήρησαν προσεκτικά την ανωνυμία τους, παραμορφώνοντας ψηφιακά τη φωνή τους για να απαντήσουν σε ερωτήσεις των μέσων ενημέρωσης και, σε μια περίπτωση, χρησιμοποιώντας AI για να δημιουργήσουν μια περσόνα εντελώς ψευδή που ισχυρίστηκαν ότι ήταν ο Διευθύνων Σύμβουλός τους.

Μια φωτογραφία του “Ewan Liam Torres”, για τον οποίο η ClothOff λέει ότι είναι ο Διευθύνων Σύμβουλος της, αλλά πιθανότατα είναι μια εικόνα που δημιουργήθηκε από AI. Φωτογραφία: στιγμιότυπο οθόνης

Ωστόσο, μια εξάμηνη έρευνα, που πραγματοποιήθηκε για μια νέα σειρά podcast της Guardian που ονομάζεται Black Box, μπορεί να αποκαλύψει τα ονόματα πολλών ατόμων που εργάζονταν για την ClothOff ή που η έρευνά μας προτείνει ότι συνδέονται με την εφαρμογή.

Το μονοπάτι τους οδηγεί στη Λευκορωσία και τη Ρωσία, αλλά περνά από εταιρείες που είναι εγγεγραμμένες στην Ευρώπη και εταιρείες με έδρα στην καρδιά του Λονδίνου.

Το ClothOff, του οποίου ο ιστότοπος δέχεται περισσότερες από 4 εκατομμύρια μηνιαίες επισκέψεις, καλεί τους χρήστες να «γδύνουν οποιονδήποτε χρησιμοποιεί AI». Η πρόσβαση στην εφαρμογή γίνεται μέσω smartphone κάνοντας κλικ σε ένα κουμπί που επιβεβαιώνει ότι ο χρήστης είναι άνω των 18 ετών και χρεώνει περίπου 8,50 £ για 25 μονάδες.

Οι συντελεστές χρησιμοποιούνται για τη μεταφόρτωση φωτογραφιών οποιασδήποτε γυναίκας ή κοριτσιού και την επιστροφή της ίδιας εικόνας απογυμνωμένη από τα ρούχα τους.

Ένας αδελφός και μια αδερφή στη Λευκορωσία

Στιγμιότυπα οθόνης που είδε ο Guardian δείχνουν ότι ένας λογαριασμός Telegram στο όνομα της Dasha Babicheva, της οποίας οι λογαριασμοί στα μέσα κοινωνικής δικτύωσης υποδηλώνουν ότι είναι στα 20 της και ζει στην πρωτεύουσα της Λευκορωσίας Μινσκ, διεξήγαγε επιχειρηματικές δραστηριότητες στο όνομα της ClothOff, συμπεριλαμβανομένης της συζήτησης αιτημάτων από τράπεζες, αλλαγών ιστοτόπων και εμπορικές συνεργασίες.

Μια εικόνα προφίλ ενός λογαριασμού στο Telegram στο όνομα της Dasha Babicheva. Φωτογραφία: στιγμιότυπο οθόνης

Σε ένα στιγμιότυπο οθόνης, ο λογαριασμός στο όνομα της Babicheva λέει σε έναν ομόλογό του σε άλλη εταιρεία ότι εάν οι δημοσιογράφοι έχουν ερωτήσεις σχετικά με την ClothOff, “μπορούν να επικοινωνήσουν μαζί μας σε αυτό το email”, παρέχοντας την επικοινωνία τύπου του ιστότοπου .

Ένας λογαριασμός στο Instagram στο όνομα της Μπαμπιτσέβα, ο οποίος μοιραζόταν μερικές από τις ίδιες εικόνες με τον λογαριασμό Telegram στο όνομά της και ο οποίος αναγράφει τον ίδιο αριθμό τηλεφώνου, έγινε ιδιωτικός αφού ο Guardian άρχισε να ερευνά και ο αριθμός τηλεφώνου αφαιρέθηκε από το προφίλ.

Η Μπαμπίτσεβα δεν απάντησε σε λεπτομερείς ερωτήσεις.

Μια φωτογραφία προφίλ τραβηγμένη από τον λογαριασμό LinkedIn στο όνομα του Alaiksandr Babichau. Φωτογραφία: παρέχεται

Ο Alaiksandr Babichau, 30 ετών, που αναγνωρίζεται στα μέσα κοινωνικής δικτύωσης ως ο αδερφός της Dasha Babicheva, φαίνεται επίσης να συνδέεται στενά με την ClothOff.

Σε μια διαφήμιση πρόσληψης, η ClothOff κατεύθυνε τους αιτούντες σε μια διεύθυνση ηλεκτρονικού ταχυδρομείου στον ιστότοπο AI-Imagecraft.

Οι εγγραφές ονομάτων τομέα για το AI-Imagecraft δείχνουν ότι το όνομα του κατόχου του ιστότοπου ήταν κρυμμένο κατόπιν αιτήματος του κατόχου.

Αλλά το AI-Imagecraft έχει έναν σχεδόν πανομοιότυπο ιστότοπο, τον A-Imagecraft, του οποίου η ιδιοκτησία δεν έχει κρυφτεί: αναφέρεται με το όνομα Babichau. Ο Guardian μπόρεσε να συνδεθεί στο A-Imagecraft και το AI-Imagecraft χρησιμοποιώντας το ίδιο όνομα χρήστη και κωδικό πρόσβασης, υποδεικνύοντας ότι οι δύο ιστότοποι είναι συνδεδεμένοι.

Υπάρχουν και άλλες συνδέσεις μεταξύ Babicau και ClothOff. Ο Guardian έχει δει στιγμιότυπα από συνομιλίες μεταξύ του προσωπικού της ClothOff και ενός πιθανού επιχειρηματικού συνεργάτη. Οι υπάλληλοι της ClothOff προσδιορίζονται μόνο με τα μικρά τους ονόματα και ένας, που προσδιορίστηκε από άλλο μέλος του προσωπικού ως ο «ιδρυτής», είχε το εμφανιζόμενο όνομα στο Telegram «Al».

Ο Guardian συνέκρινε τα βίντεο που δημοσιεύτηκαν στον λογαριασμό του Al στο Telegram με εικόνες που είναι διαθέσιμες στο κοινό που δημοσιεύτηκαν σε έναν λογαριασμό στο όνομα του Alaiksandr Babichau. Έδειξε ότι ο Al και ο Babichau δημοσίευσαν βίντεο και φωτογραφίες στο διαδίκτυο που δείχνουν το ίδιο ξενοδοχείο στο Μακάο στις 24 Ιανουαρίου και από δωμάτια στο ίδιο ξενοδοχείο στο Χονγκ Κονγκ στις 26 Ιανουαρίου. Η συσχέτιση υποδηλώνει ότι οι δύο λογαριασμοί ανήκουν είτε σε άτομα που ταξίδεψαν στις πόλεις την ίδια στιγμή, είτε στο ίδιο άτομο.

Με τον οποίο επικοινώνησε τηλεφωνικά την περασμένη εβδομάδα, ο Babichau αρνήθηκε οποιαδήποτε σύνδεση με την εφαρμογή deepfake, ισχυρίστηκε ότι δεν είχε μια αδερφή με το όνομα Dasha και είπε ότι ένας λογαριασμός στο Telegram στο όνομά του, στον οποίο αναγράφεται ο αριθμός τηλεφώνου του, δεν του ανήκε. Σε απάντηση περαιτέρω ερωτήσεων, τερμάτισε απότομα το τηλεφώνημα και δεν απάντησε σε λεπτομερείς ερωτήσεις μέσω email.

Λίγο μετά τη συνομιλία, ο Guardian μπλοκαρίστηκε από τον λογαριασμό Telegram που ισχυρίστηκε ότι δεν του ανήκε.

Φωτογραφία: στιγμιότυπο οθόνης

Ένα μονοπάτι χρημάτων στο Λονδίνο

Οι πληρωμές στο ClothOff αποκάλυψαν τα μήκη στα οποία έκαναν οι δημιουργοί της εφαρμογής να κρύψουν την ταυτότητά τους. Οι συναλλαγές οδήγησαν σε μια εγγεγραμμένη στο Λονδίνο εταιρεία που ονομάζεται Texture Oasis, μια εταιρεία που ισχυρίζεται ότι πουλά προϊόντα για έργα αρχιτεκτονικού και βιομηχανικού σχεδιασμού.

Αλλά η εταιρεία φαίνεται να είναι μια ψεύτικη επιχείρηση που έχει σχεδιαστεί για να κρύβει τις πληρωμές που γίνονται στην ClothOff.

Το κείμενο στην ιστοσελίδα της εταιρείας αντιγράφηκε από άλλη νόμιμη ιστοσελίδα της εταιρείας, όπως και η λίστα των μελών του προσωπικού. Όταν ο Guardian επικοινώνησε με ένα από τα άτομα που αναφέρονται ως υπάλληλος της Texture Oasis, είπε ότι δεν είχε ακούσει ποτέ για την εταιρεία. Η έρευνά μας δεν βρήκε άλλους δεσμούς μεταξύ του κατονομαζόμενου προσωπικού και του ClothOff, γεγονός που υποδηλώνει ότι η λίστα προσωπικού αντιγράφηκε.

Ο Guardian αποκάλυψε επίσης συνδέσμους μεταξύ του ClothOff και μιας διαδικτυακής αγοράς βιντεοπαιχνιδιών που ονομάζεται GGSel, που περιγράφεται από τον Διευθύνοντα Σύμβουλό του ως ένας τρόπος για τους Ρώσους παίκτες να παρακάμψουν τις δυτικές κυρώσεις.

Και οι δύο ιστότοποι ανέφεραν εν συντομία την ίδια επιχειρηματική διεύθυνση πέρυσι: μια εταιρεία με έδρα το Λονδίνο που ονομάζεται GG Technology Ltd, εγγεγραμμένη σε έναν Ουκρανό υπήκοο που ονομάζεται Yevhen Bondarenko. Και οι δύο ιστότοποι έχουν αφαιρέσει από τότε όλες τις αναφορές στην εταιρεία.

Ο λογαριασμός LinkedIn στο όνομα του Babichau τον αναφέρει ως υπάλληλο της GGSel.

Εν τω μεταξύ, ένας λογαριασμός στο όνομα του Alexander German, που περιγράφεται ως προγραμματιστής ιστού, ο οποίος λέει ότι το LinkedIn εργάζεται επίσης στην GGSel, ανέβασε κώδικα ιστότοπου για το ClothOff σε έναν λογαριασμό στο όνομά του στο GitHub, ένα αποθετήριο κωδικοποίησης. Αυτός ο πηγαίος κώδικας αφαιρέθηκε λίγο αργότερα.

Με τον αριθμό τηλεφώνου που αναφέρεται στο LinkedIn του, κάποιος που αυτοπροσδιορίστηκε ως Alexander German αρνήθηκε ότι ήταν προγραμματιστής ιστού ή με οποιονδήποτε τρόπο συνδέθηκε με το ClothOff.

Αρκετοί λογαριασμοί LinkedIn που ανέφεραν την απασχόλησή τους με την GGSel στα προφίλ τους αφαίρεσαν οποιαδήποτε αναφορά στην εταιρεία ή αφαίρεσαν τα ονόματα και τις φωτογραφίες τους αφού ο Guardian άρχισε να ρωτά για συνδέσμους μεταξύ GGSel και ClothOff.

Σε μια δήλωση, η GGSel αρνήθηκε οποιαδήποτε ανάμειξη με την ClothOff και είπε ότι δεν είχε καμία σχέση με την GG Technology Ltd, αλλά δεν μπορούσε ή δεν εξήγησε γιατί η εταιρεία καταχωρίστηκε στον ιστότοπό της ως ιδιοκτήτης της πέρυσι. Είπε ότι ούτε ο Babichau ούτε ο German είχαν απασχοληθεί ποτέ και ότι θα επικοινωνήσει με το LinkedIn για να τους ζητήσει να αφαιρέσουν τις αναφορές προφίλ στα ονόματά τους.

Ο Μπονταρένκο διέγραψε τους λογαριασμούς του στα μέσα κοινωνικής δικτύωσης την Τετάρτη και ο Guardian δεν μπόρεσε να επικοινωνήσει μαζί του για σχόλια.

Η ClothOff είπε απαντώντας σε ερωτήσεις ότι δεν έχει καμία σχέση με την GGSel ή με οποιοδήποτε από τα άτομα που αναφέρονται σε αυτό το άρθρο. Ένας εκπρόσωπος είπε ότι ήταν αδύνατο να χρησιμοποιηθεί η εφαρμογή της για την «επεξεργασία» εικόνων ατόμων κάτω των 18 ετών, αλλά δεν είπε πώς ή γιατί – ή πώς οι εικόνες, συμπεριλαμβανομένων των παιδιών, δημιουργήθηκαν από την εφαρμογή στην Ισπανία. Υπέθεσαν ότι οι εικόνες του New Jersey θα μπορούσαν να είχαν δημιουργηθεί χρησιμοποιώντας μια ανταγωνιστική υπηρεσία.

Από την Πέμπτη, η πρόσβαση στον ιστότοπο και την εφαρμογή ClothOff φαινόταν να έχει αποκλειστεί στο Ηνωμένο Βασίλειο, αλλά ήταν ακόμα διαθέσιμη αλλού.

Η έρευνα έδειξε την αυξανόμενη δυσκολία διάκρισης πραγματικών ανθρώπων από πλαστές ταυτότητες που μπορεί να συνοδεύονται από υψηλής ποιότητας φωτογραφίες, βίντεο και ακόμη και ήχο. Μια πληρέστερη περιγραφή αυτής της ιστορίας θα δημοσιευτεί σε ένα επεισόδιο του Black Box που θα κυκλοφορήσει την επόμενη Πέμπτη.

  • Πρόσθετες αναφορές από τους Matteo Fagotto, Phil McMahon, Oliver Laughland, Manisha Ganguly, Andrew Roth, Yanina Sorokina και Kateryna Malofieieva.

Category: A.I

Leave a Reply

Your email address will not be published. Required fields are marked *