Λένε ότι για νεωτερισμούς τα κλασικά. Μια αλληγορία γραμμένη τέσσερις αιώνες της εποχής μας είναι ιδανική για να καταλάβουμε ποια είναι τα όρια των νέων εφαρμογών της Τεχνητής Νοημοσύνης. Αναφέρομαι στο «Σπήλαιο ChatGPT» που δεν είναι ούτε λίγο ούτε πολύ μια διασκευή της περίφημης αλληγορίας του σπηλαίου του Πλάτωνα.
Δεν έχω αντίρρηση για τη χρήση εργαλείων τεχνητής νοημοσύνης. Στην πραγματικότητα, θεωρώ ότι κάνουν τη δουλειά πολύ πιο εύκολη. Όσο όμως να χρησιμοποιηθεί από άτομα που έχουν επαρκείς γνώσεις για να αξιολογήσουν την εργασία σας.
Για παράδειγμα; μπορεί κανείς να ζητήσει από το ChatGPT να γράψει ένα πρόσθετο WordPress, αλλά αν δεν γνωρίζει PHP αυτό το πρόσθετο μπορεί να προκαλέσει σοβαρά προβλήματα ασφάλειας.
Η αλληγορία του σπηλαίου
Ο Πλάτων ήταν Έλληνας φιλόσοφος που έζησε μεταξύ XNUMXου και XNUMXου αιώνα π.Χ. Εξέφρασε τις σκέψεις του με τη μορφή μύθων και αλληγοριών. Το πιο γνωστό από αυτά ήταν αυτό του σπηλαίου.
Δημοσιεύτηκε στις Λα Ρούμπλιτσα, φαντάζεται η αλληγορία μια ομάδα ανθρώπων αλυσοδεμένοι σε ένα σπήλαιο, πίσω τους έχουν μια φωτιά που σκιάζει τον τοίχο μπροστά τους. Οι σκιές είναι το μόνο πράγμα που βλέπουν και φαντάζονται ότι είναι το μόνο πράγμα που υπάρχει, αγνοώντας αυτό που βρίσκεται πέρα.
Όταν ένας από τους κρατούμενους απελευθερώνεται, μπορεί να δει τον κόσμο όπως πραγματικά είναι και συνειδητοποιεί πόσο περιορισμένες ήταν οι εμπειρίες του στη σπηλιά.
Σύμφωνα με τους μελετητές του Πλάτωνα, αυτή η αλληγορία υπογραμμίζει ότι όλοι ζούμε τη ζωή μας με βάση τις δικές μας πληροφορίες και εμπειρίες. Πληροφορίες και εμπειρίες ισοδύναμες με τις σκιές του σπηλαίου. Όπως και οι κρατούμενοι, υπάρχει η αληθινή πραγματικότητα και είναι πέρα από την κατανόησή μας.
Η σπηλιά του ChatGPT
Το ChatGPT και οι ανταγωνιστές του έχουν θαυμαστές και επικριτές. Όμως, κανείς δεν είχε δώσει τεχνική εξήγηση για τις αστοχίες του μέχρι ένα άρθρο δημοσιεύθηκε στο New Yorker από τον συγγραφέα επιστημονικής φαντασίας Τεντ Τσανγκ
Για να εξηγήσει τα ελαττώματα στα γλωσσικά μοντέλα, ο Chang κάνει μια αναλογία με αυτό που συμβαίνει με τις εικόνες και τα αρχεία ήχου.
Η εγγραφή και η αναπαραγωγή ενός ψηφιακού αρχείου απαιτεί δύο βήματα: το πρώτο είναι το κωδικοποίηση, οπότε το αρχείο μετατρέπεται σε πιο συμπαγή μορφή, ακολουθούμενη από αποκωδικοποίηση, η οποία είναι η αντίστροφη διαδικασία. Η διαδικασία μετατροπής ονομάζεται χωρίς απώλειες (το αρχείο που έχει αποκατασταθεί είναι το ίδιο με το αρχικό) ή με απώλειες (Ορισμένες πληροφορίες χάνονται για πάντα). Η συμπίεση με απώλεια εφαρμόζεται σε αρχεία εικόνας, βίντεο ή ήχου και τις περισσότερες φορές δεν γίνεται αντιληπτή. Όταν είναι, ονομάζεται τεχνούργημα συμπίεσης. Τα τεχνουργήματα συμπίεσης εμφανίζονται με τη μορφή θαμπώματος στις εικόνες ή με κροτάλισμα στον ήχο.
Ο Chang χρησιμοποιεί την αναλογία ενός ασαφούς JPG από τον Ιστό για να αναφερθεί σε μοντέλα γλώσσας. Και, αυτό είναι αρκετά ακριβές. Και οι δύο συμπιέζουν τις πληροφορίες διατηρώντας μόνο «Το σημαντικό». μεγάλοΤα γλωσσικά μοντέλα δημιουργούν, από μεγάλες ποσότητες δεδομένων κειμένου, μια συμπαγή αναπαράσταση των προτύπων και των σχέσεων μεταξύ λέξεων και φράσεων.
Από αυτό δημιουργείται ένα νέο κείμενο προσπαθώντας όσο το δυνατόν περισσότερο να το κάνει παρόμοιο σε περιεχόμενο και νόημα με το αρχικό κείμενο. Το πρόβλημα είναι όταν δεν υπάρχουν αρκετές πληροφορίες στον ιστό για τη δημιουργία ενός νέου κειμένου. Αυτό μεταφράζεται στο ότι το ChatGPT μπορεί να γράψει ένα δοκίμιο σε επίπεδο κολεγίου, αλλά όχι να κάνει απλές πράξεις 5 ψηφίων.
Ο Chang καταλήγει στο συμπέρασμα ότι:
Ακόμα κι αν είναι δυνατό να περιοριστεί η συμμετοχή μεγάλων γλωσσικών μοντέλων στη συγγραφή, θα πρέπει να τα χρησιμοποιήσουμε για τη δημιουργία περιεχομένου ιστού; Αυτό θα είχε νόημα μόνο εάν ο στόχος μας είναι να ανασυσκευάσουμε πληροφορίες που είναι ήδη διαθέσιμες στον Ιστό. Ορισμένες εταιρείες υπάρχουν για να κάνουν ακριβώς αυτό. τα ονομάζουμε γενικά εργοστάσια περιεχομένου. Ίσως η ασάφεια των γλωσσικών μοντέλων να τους είναι χρήσιμη, ως τρόπος αποφυγής παραβίασης πνευματικών δικαιωμάτων. Σε γενικές γραμμές όμως, θα έλεγα ότι ό,τι είναι καλό για τα εργοστάσια περιεχομένου δεν είναι καλό για όσους αναζητούν πληροφορίες. Η άνοδος αυτού του τύπου επανασυσκευασίας είναι αυτή που μας δυσκολεύει να βρούμε αυτό που ψάχνουμε στο διαδίκτυο αυτήν τη στιγμή.; Όσο περισσότερο κείμενο που δημιουργείται από μεγάλα μοντέλα γλωσσών δημοσιεύεται στον Ιστό, τόσο περισσότερο ο Ιστός γίνεται μια πιο θολή εκδοχή του εαυτού του.
Και, όπως οι κρατούμενοι στο σπήλαιο, η εμπειρία μας θα ήταν πολύ μικρότερη από αυτή που μας προσφέρει η πραγματικότητα.