Google Gemini: μια ματιά στο οργουελικό μέλλον μας

By | February 27, 2024

Δύο εξελίξεις τράβηξαν το μάτι μου σαν μύγα στο αρσενικό χαρτί τις τελευταίες εβδομάδες. Ένα από αυτά ήταν η άφιξη του Sora του Open AI, το οποίο δημιουργεί βίντεο από μηνύματα κειμένου. Αυτό μπορεί τώρα να δημιουργήσει συναρπαστικές και ρεαλιστικές εικόνες, είτε πρόκειται για μια γυναίκα που περπατά ήρεμα σε ένα εξιδανικευμένο αστικό τοπίο είτε για έναν νυσταγμένο άντρα που ξύπνησε από την ανυπόμονη, επίμονη αλλά στοργική γάτα του.

Η παράξενη κοιλάδα – αυτό το ανησυχητικό συναίσθημα που νιώθεις όταν βλέπεις εικόνες με ανθρώπινα χαρακτηριστικά, αλλά ελαφρώς παράξενα – αν δεν είναι τελείως κλειστή, δεν είναι τίποτα άλλο από μια ρωγμή στο πεζοδρόμιο. Αυτό το άλμα προς τα εμπρός στην πολυπλοκότητα του βίντεο που δημιουργείται από την τεχνητή νοημοσύνη χαιρετίστηκε στα μέσα κοινωνικής δικτύωσης με ανοιχτό θαυμασμό, ανάμεικτο με φόβο. Σκέψεις και προσευχές εκφράστηκαν για όλους εκείνους που προηγουμένως ήλπιζαν να βγάλουν τα προς το ζην παράγοντας περιεχόμενο βίντεο με πιο συμβατικά μέσα έντασης εργασίας.

Η άλλη εξέλιξη, επίσης στην τεχνητή νοημοσύνη, ήταν η πλήρης κυκλοφορία του προγράμματος δημιουργίας εικόνων και κειμένου Gemini της Google. Την περασμένη εβδομάδα προέκυψε ότι όταν του ζητήθηκε να δημιουργήσει εικόνες ιστορικών προσώπων, ο Δίδυμος επέμενε να τις παρουσιάζει ως διαφορετικές. Απεικονίζει τον Πάπα ως γυναίκα από τη Νότια Ασία, έναν από τους ιδρυτές των Ηνωμένων Πολιτειών ως ιθαγενή Αμερικανό, τους Βίκινγκς ως μελαχρινός και ακόμη και τους Ναζί στρατιώτες ως μαύρους. Ακόμη χειρότερα, όταν ρωτήθηκε αν ο Αδόλφος Χίτλερ θα μπορούσε να θεωρηθεί χειρότερος από τον Έλον Μασκ, το chatbot ισχυρίστηκε ότι «δεν ήταν δυνατό να πει κανείς» ποιος είχε τον χειρότερο αντίκτυπο στην κοινωνία.

Όπως και ο Σόρα πριν από αυτόν, το αδέξιο «προοδευτικό» μήνυμα του Google Gemini, τόσο ακρωτηριασμένο και παραμορφωμένο από το δόγμα της «συμμετοχικότητας», αντιμετωπίστηκε επίσης με ανοιχτά τα στόματα. Στη συνέχεια, καταβροχθίστηκε γρήγορα από το πιο ομόφωνο ουρλιαχτό χλευασμού από τότε που το βίντεο που δημιουργήθηκε από την τεχνητή νοημοσύνη τράβηξε σοβαρά την τελευταία φορά την προσοχή μας, μόλις πριν από 10 μήνες.

Και γι’ αυτό πιστεύω ότι πρέπει να σκεφτούμε αυτές τις δύο απαρχές με την ίδια ανάσα. Δεν μπορούμε να παρηγορηθούμε με το snark. Επειδή οι πολύ πρόσφατες απόπειρες βίντεο με τεχνητή νοημοσύνη έχουν επίσης πυροδοτήσει ιλαρότητα – όχι λόγω της προκατάληψης τους κατά της αφύπνισης, αλλά καθαρά λόγω της εύσωμης δυσπραξίας τους Bambi-on-ice.

Ένα διάσημο κλιπ που άρχισε να κυκλοφορεί ήταν του Will Smith να τρώει μακαρόνια. Δημιουργήθηκε από ένα AI που ονομάζεται Modelscope Text2Video. Ήταν και αστείο και εφιαλτικό, και η πιο γελοία ακατάλληλη προσέγγιση ζωντανών πλάνα που μπορούσε να φανταστεί κανείς. Η λέξη «δαιμονικός» προωθήθηκε στα σχόλια με όρους όπως «έχω ένα εγκεφαλικό» και «κακό ταξίδι».

Στο κλιπ, τα χαρακτηριστικά του Smith διογκώνονται σαν λάμπα λάβας. Τα χέρια του μεγαλώνουν και χάνουν τα δάχτυλά του. Το πιρούνι του σταυρώνει το μάγουλό του. Το πρόσωπό του δεν είναι περισσότερο καρφωμένο στο κρανίο του από τους κυματισμούς μιας λίμνης που αναδεύεται από τον άνεμο.

Όταν το βίντεο με σπαγγέτι του Will Smith έγινε viral τον περασμένο Απρίλιο, το έκανε να φαίνεται ότι η ίδια η πραγματικότητα ήταν ίσως λιγότερο γειωμένη από όσο θα θέλαμε. Τα παιδιά και τα σκυλιά κρατήθηκαν λίγο πιο σφιχτά εκείνο το βράδυ.

Μετά τα ξεχάσαμε όλα. Και τώρα είμαστε εδώ. Η Μπάμπη μεγάλωσε. Μπορεί να δημιουργήσει εικόνες σε μια στιγμή που σίγουρα θα μπορούσαν να κοσμούν το 99 τοις εκατό των παρουσιάσεων πωλήσεων, των εταιρικών προωθητικών ενεργειών και των εκπαιδευτικών βίντεο, ακόμα κι αν απέχει πολύ από τα δυνατά Σαββατοκύριακα των εγκαινίων στα ταμεία του κινηματογράφου. Όλα σε λιγότερο από ένα χρόνο.

Η Google, εν τω μεταξύ, αφαίρεσε το Gemini μετά την αντίδραση. Στο συνηθισμένο μειλίχιο δελτίο τύπου, παραδέχτηκε τα ελαττώματά του και δεσμεύτηκε να μάθει από τα λάθη του.

Τι πιστεύουμε όμως ότι θα γίνει μετά; Ποια θα είναι η απάντηση της Google, πίσω στο εργαστήριο, μόλις κλείσουν οι πόρτες; Προφανώς, δεν θα είναι θέμα να εξηγήσουμε με λύπη σε όλους τους εμπλεκόμενους ότι, συγγνώμη, το πονηρό σχέδιο να ξαναγραφεί όλη η παγκόσμια ιστορία και ο πολιτισμός έχει ηττηθεί. Αυτή η τεχνητή νοημοσύνη θα πρέπει τώρα να βάλει την ακρίβεια πάνω από τη «συμπεριληπτικότητα».

Είναι πολύ πιθανό, φοβάμαι, ότι η Google προσπαθεί απλώς να απλοποιήσει το σύστημα μετάδοσης «μηνυμάτων». Διατηρώντας το ίδιο ιδεολογικό φορτίο, και την ίδια πρόθεση να το στείλουμε σε εμάς, αλλά με πιο εξελιγμένη μάσκα. Προσπαθήστε να εξαλείψετε το στοιχείο που προκαλεί το ρίγος, την καμπυλότητα των δακτύλων των ποδιών, τον πυρετό, τον περίεργο πόνο, την άσχημη πικρή γεύση, το αντανακλαστικό φίμωσης και τη στιγμιαία απώλεια συγκέντρωσης. Για να γίνει λίγο πιο γευστικό. Ίσως σε δέκα μήνες το νέο δηλητήριο να είναι τόσο δελεαστικό που οι αρουραίοι να μην μπορούν να σταματήσουν να το παίρνουν, παρόλο που γνωρίζουν ότι είναι τοξικό.

Αυτή η τελευταία μεταφορά προέρχεται από Τζούλιατο βιβλίο 2023 της Sandra Newman, που ανακαλύπτει εκ νέου τον κόσμο του 1984 από τη σκοπιά του εραστή του Ουίνστον Σμιθ. Με έκανε επίσης να θέλω να ξαναδιαβάσω, ίσως για πέμπτη ή έκτη φορά, το αριστούργημα του Τζορτζ Όργουελ, που έχει ακόμα τη δύναμη να με ξυπνήσει.

Τελευταία έχει γίνει μόδα να παρατηρούμε ότι «στην πραγματικότητα» ο λόγος του Aldous Huxley Γενναίος Νέος Κόσμος είναι η πιο προγνωστική από τις δύο μεγάλες δυστοπίες του μέσου του αιώνα, γιατί υποθέτει έναν κόσμο στον οποίο δεν θα μας λένε ψέματα ούτε θα μας καταπιέζουν βάναυσα. Αντίθετα, θα είμαστε πολύ πρόθυμοι να είμαστε δεσμοφύλακες του εαυτού μας, αρκεί να έχουμε λίγη άνεση και όλο και πιο εθιστικά μέσα που βελτιώνουν τη διάθεση.

Συνάντησα για πρώτη φορά αυτήν την άποψη στη μεγάλη μονογραφία του Neil Postman, Διασκεδάζοντας μέχρι θανάτου, όπου περιγράφει λεπτομερώς τη διαβρωτική επίδραση της «τηλεοπτικής» κουλτούρας στο μυαλό μας και στην ικανότητά μας για πολιτική συζήτηση, ιδιαίτερα σε αντίθεση με μια «λογοτεχνική» κουλτούρα. Και προφανώς, έχει δίκιο.

Αλλά μπορείτε να πάτε πολύ μακριά. Και νομίζω ότι ακόμη και ο κ. Postman θα συμφωνούσε ότι μεγάλο μέρος του οράματος του Όργουελ έχει αποδειχθεί σωστό και επομένως είναι τόσο οικείο που ξεχνάμε πόσο συγκλονιστικό ήταν όταν δημοσιεύτηκε το 1949 – και, αν κάνουμε τον κόπο να το διαβάσουμε, πάντα είναι.

Ο ρόλος του Winston Smith στον μηχανισμό του Κόμματος είναι να παραποιεί την ιστορία. Αλλάζοντας τις αφηγήσεις των ιστορικών ντοκουμέντων ώστε να εναρμονίζονται με την προπαγάνδα –την «αφήγηση», όπως θα λέγαμε τώρα– της σύγχρονης εποχής. Φυσικά, αυτό δεν ήταν μόνο εφεύρεση του Όργουελ. Ο Στάλιν ήταν ήδη γνωστός για αυτό. Αλλά οι μέθοδοι που είχαν στη διάθεσή τους οι πράκτορες του Big Brother στο μέλλον του Orwell ήταν τρομερά πρωτόγονες. Είχαν ψαλίδια, μαρκαδόρους και κενά μνήμης. Και ένα πραγματικό μαρτύριο για όσους είχαν ακόμα πεισματικές αμφιβολίες. Φανταστείτε τι θα μπορούσε να έχει κάνει το Party με το Gemini 2.0.

Η ιστορία ήταν πάντα το παιχνίδι των καθεστώτων. Το κορίτσι του χρόνου, της Josephine Tey, εκδόθηκε περίπου την ίδια εποχή με το τελευταίο έργο του Orwell. Φαινομενικά πιο εκλεπτυσμένο και σωστό, θεωρείται από πολλούς λάτρεις ως ένα από τα πιο παράξενα πρωτότυπα αστυνομικά μυθιστορήματα που γράφτηκαν ποτέ. Διερευνά την πιθανότητα ότι η υποτιθέμενη διάταξη του Ριχάρδου Γ’ των Πριγκίπων στον Πύργο το 1483 ήταν μια εφεύρεση των Tudor και ότι ο Σαίξπηρ – με οδυνηρή επίγνωση ότι η νομιμότητα ήταν το αποφασιστικό ζήτημα της ηλικίας του – ήταν το Google Gemini του 16ου αιώνα.

Φυσικά, αυτό δεν είναι κάτι καινούργιο. Δεν υπάρχει αμφιβολία ότι οι αμφιβολίες μου για την τεχνητή νοημοσύνη δεν είναι περισσότερο δικαιολογημένες από τους φόβους της κυρίας Γκορ ότι ο Judas Priest ενθάρρυνε την αυτοκτονία εφήβων ή ο φόβος του Σωκράτη ότι η ανάγνωση σαπίζει τον εγκέφαλο του παιδιού. Ωστόσο, σας συμβουλεύω να είστε δύσπιστοι όταν φτάσει η επόμενη επανάληψη του Διδύμου και όχι μόνο σχετικά με την ικανότητά του να σχεδιάζει σωστά τα ανθρώπινα χέρια.

Η ιστορία έχει τώρα ένα κακό δίδυμο. Πρόσεχε ποιον εμπιστεύεσαι.

Σάιμον Έβανς είναι ένα εμπλουτισμένος αρθρογράφος και χιουμορίστας.

Category: A.I

Leave a Reply

Your email address will not be published. Required fields are marked *