Πόση ζημιά έχει κάνει το Skynet: Μια ανοιχτή επιστολή ζητά να σταματήσουν πειράματα τεχνητής νοημοσύνης μεγάλης κλίμακας από το ChatGPT 4

Διακοπή ChatGPT 4

Ναι, πόση ζημιά έχει κάνει το Skynet. Δεν νομίζω ότι το να μιλάς για ένα έργο που κυκλοφόρησε το πρώτο του επεισόδιο πριν από σχεδόν 40 χρόνια (1984) είναι κακό, αλλά πριν από τέσσερις δεκαετίες δεν υπήρχε τεχνητή νοημοσύνη πέρα ​​από μικρά προγράμματα που μάθαιναν λίγο και άφηναν τη φαντασία σου ελεύθερη. Έτσι σχεδιάστηκε η φιγούρα του Skynet, ενός προγράμματος που έμαθε από μόνο του, βελτιώθηκε και βελτιώθηκε μέχρι να συνειδητοποιήσει τον εαυτό του, «φοβήθηκε» να μάθει ότι επρόκειτο να σβήσει και να τερματίσει την ανθρωπότητα όπως ήταν γνωστό εκτοξεύοντας πυραύλους μεταξύ ΗΠΑ και Ρωσίας.. Το πιο εξελιγμένο που υπάρχει τώρα, τουλάχιστον αυτό είναι γνωστό, είναι ChatGPT4, και οι βελτιώσεις του έφτασαν να τρομάζουν ή, τουλάχιστον, να ενοχλούν.

Ας πάμε όμως σε ένα πιο ρεαλιστικό σημείο. Η ανησυχία των υπογραφόντων της ανοίγω γράμμα, συμπεριλαμβανομένου του Έλον Μασκ, έχουν άλλες ανησυχίες ή χωρίς πλήρη φόρμα. Αυτός ο φόβος τους είναι το άγνωστο, ένας από τους πιο συνηθισμένους φόβους, είναι ότι το OpenAI και άλλα ιδρύματα, προγράμματα και έργα βελτιώνουν την τεχνητή νοημοσύνη τους σαν να επρόκειτο για έναν αγώνα δρόμου για να δούμε ποιος θα προχωρήσει περισσότερο και πότε, και αυτό μπορεί να δώσει ανόμοια αποτελέσματα.

Το ChatGPT 4 στο επίκεντρο

Με την έκδοση < 4 του OpenAI chatbot, τα πράγματα φαίνονταν πιο «αστεία» ή «χαριτωμένα», χρησιμοποιήστε όποια λέξη προτιμάτε. Τον ρωτάνε πράγματα και εκείνος απαντά. σας ζητείται να διορθώσετε ένα τμήμα του κώδικα και το κάνετε. του ζητάς το νόημα ενός γράμματος από ένα τραγούδι ή μια ταινία και σου το εξηγεί? αλλά το ChatGPT 4 έχει προχωρήσει περισσότερο. Οι απαντήσεις σας έχουν βελτιωθεί πολύ, και μπορείτε ακόμη και να δημιουργήσετε περιεχόμενο που θα μπορούσε να είναι ψευδές.

Γιατί αυτός είναι ένας από τους προβληματισμούς που αναφέρονται: ας φανταστούμε ότι γράφω ένα πολύ αναλυτικό άρθρο για το γιατί ο άνθρωπος δεν έφτασε ποτέ στο φεγγάρι. Αυτό το άρθρο έχει πολλές επισκέψεις και κοινοποιείται παντού, αν και σε ορισμένες περιπτώσεις είναι για να το επικρίνουμε. Αργότερα, ζητάμε από το ChatGPT τι συνέβη εκείνη τη στιγμή, να μας γράψει ένα άρθρο για αυτό το συμβάν, μας γράφει κάτι με βάση αυτά που έχω γράψει και, καθώς δεν έχει τη δυνατότητα να ανιχνεύσει ψεύτικο ειδήσεις, γράψτε μας κάτι ψεύτικο. Αυτό, ή με ένα καλύτερο παράδειγμα, θα μπορούσε να πλημμυρίσει τα δίκτυα.

Διάλειμμα 6 μηνών για έλεγχο μελέτης

Το ζητούμενο είναι αυτόΌλα τα εργαστήρια AI σταματήστε για τουλάχιστον 6 μήνες την εκπαίδευση συστημάτων AI πιο ισχυρών από το ChatGPT-4. Αυτή η παύση θα πρέπει να είναι δημόσια και επαληθεύσιμη και να περιλαμβάνει όλους τους βασικούς παίκτες. Εάν η παύση δεν μπορεί να εφαρμοστεί γρήγορα, οι κυβερνήσεις θα πρέπει να επιταχύνουν και να θεσπίσουν μορατόριουμ.".

Όλα τα εργαστήρια και ανεξάρτητοι εμπειρογνώμονες θα πρέπει να χρησιμοποιήσουν αυτό το χρόνο για να εφαρμόστε ένα σύνολο πρωτοκόλλων ασφαλείας, το οποίο μεταφράζεται θα μπορούσε να εκληφθεί ως ένας άλλος τρόπος να πούμε ότι πρέπει να γράψετε νόμους παρόμοιους με τους περίφημους νόμους της ρομποτικής.

Το ίδιο δεν ισχύει και για τις κυβερνήσεις;

Αυτό που με εντυπωσιάζει προσωπικά είναι ένα σημείο όπου λέει ότι, παράλληλα, οι προγραμματιστές τεχνητής νοημοσύνης πρέπει να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για να επιταχύνουν την ανάπτυξη τεχνητής νοημοσύνης για κυβερνητικά συστήματα. Δηλαδή, βοηθούν τις κυβερνήσεις με τη δική τους τεχνητή νοημοσύνη να μπορεί, με λίγα λόγια, να ελέγξει την τεχνητή νοημοσύνη. Κάνε αυτό που λέω, όχι αυτό που κάνω.

Το ότι την επιστολή υπέγραψε ο Έλον Μασκ δεν με εκπλήσσει. Αποκαλύφθηκε ότι ήταν συνιδρυτής του OpenAI και φαίνεται ότι, μετά την αποχώρησή του από την εταιρεία, η επιτυχία του πληγώνει. Κατά τα λοιπά, ναι, είναι αλήθεια ότι η τεχνητή νοημοσύνη, όσο έξυπνη κι αν είναι, στη λήψη αποφάσεων λέγεται ότι δεν είναι καλύτερη από ένα 7χρονο παιδί και ότι μπορεί να είναι δύσκολο για αυτούς να διαφοροποιήσουν την αλήθεια από ψευδείς πληροφορίες. , επομένως το θέμα των ψευδών ειδήσεων είναι μια πιθανότητα και πρέπει να ληφθούν μέτρα. Για όλα τα άλλα, νομίζω ότι από τη στιγμή που δεν τους δίνονται οι κωδικοί εκτόξευσης πυραύλων, τα πράγματα δεν φαίνονται τόσο άσχημα. Ελπίζω να μην κάνω λάθος.


Γίνε ο πρώτος που θα σχολιάσει

Αφήστε το σχόλιό σας

Η διεύθυνση email σας δεν θα δημοσιευθεί. Τα υποχρεωτικά πεδία σημειώνονται με *

*

*

  1. Υπεύθυνος για τα δεδομένα: AB Internet Networks 2008 SL
  2. Σκοπός των δεδομένων: Έλεγχος SPAM, διαχείριση σχολίων.
  3. Νομιμοποίηση: Η συγκατάθεσή σας
  4. Κοινοποίηση των δεδομένων: Τα δεδομένα δεν θα κοινοποιούνται σε τρίτους, εκτός από νομική υποχρέωση.
  5. Αποθήκευση δεδομένων: Βάση δεδομένων που φιλοξενείται από τα δίκτυα Occentus (ΕΕ)
  6. Δικαιώματα: Ανά πάσα στιγμή μπορείτε να περιορίσετε, να ανακτήσετε και να διαγράψετε τις πληροφορίες σας.