Η επιβολή τεχνητής νοημοσύνης στους προγραμματιστές είναι μια κακή ιδέα που περιμένει να συμβεί • Το μητρώο

By | February 12, 2024

Ειδοποίηση Υπάρχει ένα πράγμα που κάνουν οι εταιρείες, η παθολογική συμπεριφορά που κάνει τους πελάτες δυσαρεστημένους και χειροτερεύει την κατάσταση γενικά. Είναι τόσο κοινό και τόσο παλιό που θα έπρεπε να έχει το δικό του όνομα, ακριβώς όπως μια δυσάρεστη ιατρική κατάσταση. Δεν είναι, αλλά θα το αναγνωρίσετε επειδή καταστρέφει τη ζωή σας αρκετά συχνά: είναι το νέο ανεπιθύμητο χαρακτηριστικό.

Το Hacker’s Dictionary, το οποίο έχει τις ρίζες του στη δεκαετία του 1970, πλησίασε τον «αχαλίνωτο χαρακτηριστικό χαρακτήρα», αλλά αυτό δεν επιτυγχάνει ακριβώς την κακοήθεια που μπορεί να κάνει το αποτέλεσμα. Μπορεί να σκοντάψει τη μυϊκή μνήμη των καθημερινών εργασιών, μπορεί να σας θυμώσει επιμένοντας να εξερευνήσετε και να απολαύσετε τη νέα του καλοσύνη, μπορεί ακόμη και να σας κάνει να ξαναμάθετε μια εργασία που έχετε κατακτήσει. Πόντοι μπόνους εάν είναι δύσκολο να γίνει σίγαση ή σίγαση, και διπλάσιος σκορ εάν είναι αδύνατο.

Αλλά για μέγιστο αποτέλεσμα, θα πρέπει να κάνει τη δουλειά σας αδύνατη και να σας αναγκάσει να εγκαταλείψετε ένα εργαλείο στο οποίο βασίζετε την επαγγελματική σας ζωή. Γεια σας, JetBrains, δημιουργός του IDE. Η εισαγωγή μιας μη αφαιρούμενης προσθήκης AI Assistant στην καθημερινή ζωή των προγραμματιστών είναι τόσο κακή ιδέα που υπάρχει μεγάλη πιθανότητα ολόκληρη η κατηγορία φαινομένων να ονομαστεί Σύνδρομο JetBrains.

Αυτό δεν έχει καμία απολύτως σχέση με την ποιότητα της βοήθειας AI που προσφέρεται και Ολα έχει να κάνει με την κατανόηση των πρακτικών πτυχών του επαγγέλματος του προγραμματιστή. Κάθε χρήστης προϊόντων JetBrains πιέζεται για χρόνο για να παράγει κώδικα εργασίας σε ένα έργο. Θα υπάρχει χρόνος για να ανακαλύψετε τα νέα χαρακτηριστικά, αλλά σήμερα δεν είναι η κατάλληλη στιγμή. Εάν έχετε μια ουγγιά κοινής λογικής ή ένα μικρογραμμάριο εμπειρίας, τώρα είναι η ώρα να υιοθετήσετε νέα χαρακτηριστικά όταν είστε έτοιμοι, πιθανώς αφού άλλοι έχουν παρέμβει και βάλουν τα πόδια τους στα ελαστικά. Αυτός ο βοηθός τεχνητής νοημοσύνης μπορεί να είναι υπέροχος ή μπορεί να είναι ένας ενοχλητικός, μπερδεμένος χρόνος που επιβάλλει τις δικές του ιδέες στη δουλειά σας. Οι βοηθοί AI έχουν μια φόρμα για αυτό.

Επίσης, δεν έχει να κάνει με το γεγονός ότι το πρόσθετο είναι σε κατάσταση ηρεμίας και δεν θα κάνει τίποτα μέχρι να ενεργοποιηθεί, όπως λέει η JetBrains, και δεν πειράζει που δεν εξάγει κώδικα σε άγνωστα μέρη για σκοπούς εκμάθησης AI. Μπορεί να ενεργοποιηθεί στο μέλλον ή η συμπεριφορά του μπορεί να αλλάξει: δεν έχει σημασία αν ο κωδικός απλώς δεν υπάρχει εξαρχής. Αυτό δεν είναι επιλογή. Για προγραμματιστές που θέλουν να μελετήσουν την τεχνητή νοημοσύνη υπεύθυνα, στον χρόνο τους, αυτό είναι ένα κάλεσμα αφύπνισης. Ωστόσο, δεν είναι τόσο καυτό και προβληματικό όσο η εισαγωγή μιας ενότητας AI σε ένα περιβάλλον ανάπτυξης που χρησιμοποιείται σε εταιρείες με αυστηρές πολιτικές “χωρίς κωδικοποίηση AI”. «Ναι, υπάρχει AI, αλλά πιστέψτε μας, είναι απενεργοποιημένο; » Ποιος θα ήθελε να είναι ο προγραμματιστής που θα έπρεπε να κάνει αυτό το επιχείρημα στη διοίκηση;

Είναι απλά περίεργο. Οι προγραμματιστές της JetBrains είναι στην πραγματικότητα προγραμματιστές. Θα έχουν εμπειρία από πρώτο χέρι για τις πιέσεις και τους παράγοντες της αναπτυξιακής ζωής που κάνουν τον αχαλίνωτο μη προαιρετικό ιδεατισμό τόσο βρωμερό. Λάβετε υπόψη τις πολιτικές ασφάλειας, κινδύνου IP και ποιότητας κώδικα. Είναι το ίδιο δυσεπίλυτο παράδοξο που όλοι όσοι εμπλέκονται στη δημιουργία μιας τέτοιας φρικτής εμπειρίας πελάτη πρέπει να βιώνουν οι ίδιοι φρικτή υποστήριξη πελατών. Γιατί δεν βελτιώνουν το μερίδιό τους;

Η πιο ευγενική απάντηση στην περίπτωση του JetBrains είναι ότι, λόγω έλλειψης διαβούλευσης, γνώσης ή προνοητικότητας, η εταιρεία απλά δεν γνώριζε ότι δεν υπήρχαν πολιτικές που να απαγορεύουν την τεχνητή νοημοσύνη σε ορισμένες επιχειρηματικές ομάδες ανάπτυξης. Αυτό είναι πιο ωραίο από το “ξέραμε, αλλά το μάρκετινγκ μας έκανε να το κάνουμε”. Ας υποθέσουμε λοιπόν ότι η υποστήριξη της τεχνητής νοημοσύνης στην ανάπτυξη δεν περιορίζεται στο μάρκετινγκ: πώς μπορούν εταιρείες όπως η JetBrains, και μάλιστα όλοι όσοι εργάζονται στη δημιουργία λογισμικού, να κάνουν άχρηστες πολιτικές χωρίς AI;

Σύμφωνα με τα λόγια του Rick Deckard, κυνηγού android του Philip K Dick, “τα replicants είναι όπως κάθε άλλη μηχανή, είναι είτε πλεονέκτημα είτε κίνδυνος. σχετικά με τη φύση της τεχνητής νοημοσύνης που παραμορφώνει την πραγματικότητα, το PKD είναι ο οραματιστής σας. Δεν ξέρουμε πού βρίσκεται η τεχνητή νοημοσύνη ανάπτυξης σε αυτήν την κλίμακα, αλλά μπορούμε να αλλάξουμε το τοπίο για να μας βοηθήσουμε να μάθουμε.

Μην ανησυχείτε, η χρήση κώδικα AI σημαίνει τη χρήση κώδικα που ο προγραμματιστής δεν κατανοεί πλήρως, με επιπτώσεις στην ασφάλεια, την αξιοπιστία και τη συντηρησιμότητα. Είναι αλήθεια, αλλά ο κώδικας AI εδώ δεν είναι αυτόματα χειρότερος από ορισμένα πράγματα που είναι εξ ολοκλήρου έργο μορφών ζωής με βάση τον άνθρακα. Η αντιγραφή και η επικόλληση, η χρήση εξωτερικών λειτουργιών και βιβλιοθηκών που δεν είναι πλήρως κατανοητές και “αυτό φαίνεται να λειτουργεί” είναι όλα ένοχοι εδώ, και έχουμε τεχνικές για να τα αντιμετωπίσουμε, όπως ελέγχους, περιηγήσεις και τη φρίκη της σωστά παρακολουθούμενης τεκμηρίωσης πρωτόκολλα. Ο κωδικός AI δεν θα λάβει μαγικό πάσο εδώ.

Το φάσμα ενός νέου νόμου για τις παραβιάσεις της πνευματικής ιδιοκτησίας είναι πολλά υποσχόμενο. Οι δικηγόροι το χρησιμοποιούν σε ιστορίες πριν τον ύπνο για να τρομάξουν τα παιδιά τους και να τους αποσπάσουν την προσοχή από τον εφιάλτη του να γίνουν προγραμματιστές. Αλλά εδώ, η dev AI έχει την ευκαιρία να ξεπεράσει τους γενικούς ξαδέρφους της, επειδή τα σύνολα δεδομένων εκπαίδευσης θα είναι κυρίως ανοιχτού κώδικα. Αυτό δεν εξαλείφει το πρόβλημα, αλλά είναι ένας κόσμος πολύ πιο ανεκτικός και διαφανής από τα σώματα κειμένου ή εικόνων, και ένας οργανισμός που επιτρέπει τη χρήση ανοιχτού κώδικα θα έχει ευκολότερο χρόνο να αφομοιώσει την τεχνητή νοημοσύνη που έχει εκπαιδευτεί μόνο σε ανοιχτό κώδικα.

Το τελικό πρόβλημα με την πολιτική που δεν είναι τεχνητή νοημοσύνη είναι, όπως τόσο συχνά έχει επισημάνει ο Philip K Dick, εάν δεν μπορείτε να διακρίνετε τη διαφορά μεταξύ του φυσικού και του τεχνητού, υπάρχει ουσιαστική διαφορά; Δεν μπορούμε να πούμε. Υπάρχει κώδικας που δημιουργείται από AI στα συστήματα που χρησιμοποιείτε για να το διαβάσετε αυτήν τη στιγμή, στο πρόγραμμα περιήγησης, στο cloud ή στην τοπική πλατφόρμα; Στη μαζικά δυναμική και αλληλεξαρτώμενη μάζα εξαρτημάτων που θα αποτελέσουν τον υπολογισμό το 2024, η απαίτηση της καθαρότητας ενός μόνο συστατικού μπορεί να έχει λίγες πιθανότητες. Εάν αυτό είναι σημαντικό, τότε θα πρέπει να κοιτάξουμε τα γενικά συστήματα τεχνητής νοημοσύνης, τα οποία εμπλέκονται στην ενσωμάτωση δακτυλικών αποτυπωμάτων σε περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη που το επισημαίνει ως τέτοιο. Πολύ εύκολο να γίνει στον πηγαίο κώδικα, πολύ πιο δύσκολο στο εκτελέσιμο. Εμεις πρέπει? Θα μπορούσαμε? Είναι καν ηθικό να μην το κάνουμε;

Είτε τον χρησιμοποιείτε είτε όχι, ο κώδικας AI θα γίνεται όλο και περισσότερο μέρος του περιβάλλοντος στο οποίο θα υπάρχει το προϊόν σας. Ως εκ τούτου, η θέσπιση κανόνων για τον προσδιορισμό και τη διαχείρισή του αποτελεί τη σημαντικότερη βάση. Δεν μπορείς να βάλεις στο ψυγείο, δεν μπορείς να ζορίσεις, δεν μπορείς να είσαι διφορούμενος. Όπως το JetBrains μόλις ανακάλυψε πολύ χρήσιμα. ®

Category: A.I

Leave a Reply

Your email address will not be published. Required fields are marked *