Πριν από λίγο, ο συνεργάτης μου στο Pablinux Αυτός μας είπε επί η επιστολή που έγραψαν ο ανυπόφορος Έλον Μασκ και άλλες προσωπικότητες ζητώντας μια παύση στην έρευνα στην Τεχνητή Νοημοσύνη μέχρι να ληφθούν μέτρα για την αποφυγή των πιθανών δυσμενών συνεπειών της. Αυτό μου δίνει τη δικαιολογία να μιλήσω για τους πραγματικούς και φανταστικούς κινδύνους της Τεχνητής Νοημοσύνης.
Με τον κίνδυνο να κοροϊδεύω τον εαυτό μου με αποτυχημένες προβλέψεις τύπου Bill Gates, ξεκινώ λέγοντας ότι κατά τη γνώμη μου ο μεγαλύτερος κίνδυνος αυτή τη στιγμή είναι να σκάσει μια φούσκα Αυτό θα αφήσει τα dot-coms σε ένα ήπιο σοκ.
Οι πραγματικοί και φανταστικοί κίνδυνοι της Τεχνητής Νοημοσύνης
Συμφωνώ με τον Pablinux ότι το γράμμα έχει περισσότερο μεσαιωνικό σκοταδισμό παρά επιστημονικό σκεπτικό. Οτι ενώ συνεχίζει να συμμερίζεται την ιδέα ότι πρέπει να θεσπιστεί νομοθεσία για τη ρύθμιση της χρήσης του περιεχομένου του. Ωστόσο, δεν μπορούμε να αρνηθούμε ότι όλη η τεχνολογία μπέρδευε και τρόμαζε τους ανθρώπους μέχρι να γίνει γνωστή.
Η προβολή της άφιξης ενός τρένου στην αρχή του κινηματογράφου έκανε τον κόσμο να φύγει από το δωμάτιο και, παρόλο που έχει μεγάλο αστικό μύθο, η ραδιοφωνική έκδοση του Πόλεμος των κόσμων από τον Orson Welles προκάλεσε μεγάλο πανικό μεταξύ των ανθρώπων που πίστευαν ότι ήταν αληθινό.
Στην πραγματικότητα, αυτός ο τύπος ρύθμισης λογισμικού δεν είναι κάτι νέο. Οι οικονομικές ρυθμιστικές αρχές σε πολλές χώρες απαγορεύουν σε προγράμματα όπως το Photoshop να επεξεργάζονται εικόνες τραπεζογραμματίων ή επιταγών.
Το 1994 ο Tom Clancy δημοσίευσε Χρέος τιμής. Θεωρούμενος ειδικός σε θέματα άμυνας, ο Clancy iφαντάστηκε μια επίθεση στο χρηματοπιστωτικό σύστημα των Ηνωμένων Πολιτειών, χειραγωγώντας τα έμπειρα συστήματα των χρηματιστηριακών εταιρειών ώστε να πιστέψουν ότι συνέβαινε μια κρίση εξαπολύοντας ένα κύμα πωλήσεων που τελικά προκάλεσε την κρίση.
Πριν το απορρίψετε ως μυθοπλασία, θυμηθείτε ότι στο ίδιο μυθιστόρημα, 7 χρόνια πριν από τους Δίδυμους Πύργους, η Κλάνσι περίμενε ότι οι Ηνωμένες Πολιτείες θα μπορούσαν να υποστούν επιθέσεις χρησιμοποιώντας εμπορικά αεροπλάνα.
Στην πραγματικότητα η ιδέα δεν είναι καινούργια. την ταινία του 1983 Παιχνίδια πολέμου Αφηγήθηκε πώς ένας έφηβος μπέρδεψε τον υπολογιστή που ήταν υπεύθυνος για την εκτόξευση του πυραύλου, νομίζοντας ότι οι Ρώσοι επιτίθενται.
Ας φανταστούμε ότι ακούμε έναν καλπασμό να πλησιάζει. Το πρώτο μας συμπέρασμα είναι ότι είναι άλογο και 9 φορές στις 10 θα έχουμε δίκιο. Όμως, υπάρχει πάντα η πιθανότητα να πρόκειται για ζέβρα που δραπέτευσε από τον ζωολογικό κήπο. Οι γιατροί, οι αστροναύτες και οι πιλότοι αεροπλάνων λαμβάνουν αυστηρή εκπαίδευση σχετικά με τις ζέβρες, γνωρίζοντας τι να κάνουν εάν παρουσιαστεί μια ανωμαλία. Τα μοντέλα τεχνητής νοημοσύνης εκπαιδεύονται έχοντας κατά νου τα άλογα.
Ένα μοντέλο όπως αυτό που χρησιμοποιεί το ChatGPT βασίζεται σε υπάρχουσες πληροφορίες στη βάση γνώσεων του. Όσο περισσότερες φορές επαναλαμβάνεται αυτή η πληροφορία, τόσο μεγαλύτερη είναι η αξιοπιστία που αποδίδει.
Δεδομένου ότι η αποθήκευση όλων των διαθέσιμων πληροφοριών θα απαιτούσε πολύ χώρο αποθήκευσης, αποθηκεύει μόνο ό,τι είναι σχετικό και στη συνέχεια το ξαναχτίζει όπως ζητήθηκε χρησιμοποιώντας τη δομή που στατιστικά φαίνεται η πιο σχετική. Ως εκ τούτου, πολλές φορές αναφέρω αναφορές που δεν υπάρχουν μόνο και μόνο επειδή στατιστικά είναι πιθανό να υπάρχει ένα έγγραφο με αυτόν τον τίτλο που περιέχει αυτό το περιεχόμενο.
Σχετικά με τις ζέβρες και τα σκυλιά που δεν γαβγίζουν
Υπάρχει κάποιο άλλο σημείο στο οποίο θέλετε να επιστήσετε την προσοχή μου;
-Το περίεργο περιστατικό του σκύλου τη νύχτα.
-Ο σκύλος δεν έκανε τίποτα τη νύχτα.
Αυτό ήταν το περίεργο περιστατικό.
Ο Sir Arthur Conan Doyle
Ένας άλλος από τους κινδύνους που έχουν τα συστήματα Τεχνητής Νοημοσύνης είναι αυτό που δεν κάνουν. Και είναι επίσης ένα σημαντικό σημείο που πρέπει να θυμάστε.
Στη δεκαετία του XNUMX, ένας Αυστραλός γιατρός υπέθεσε ότι η πιο κοινή αιτία ελκών ήταν τα βακτήρια. Επειδή δεν είχε σπουδαίο βιογραφικό, του γέλασαν στα μούτρα μέχρι να αποδειχτεί ότι είχε δίκιο. Όπως πολλές άλλες επιστημονικές ανακαλύψεις (η περιστροφή των πλανητών, το γεγονός ότι όσο περισσότερα διαλείμματα κάνεις, τόσο πιο παραγωγικός είσαι) είναι αντίθετες με τη σοφία της στιγμής.
Όμως, τα μοντέλα νοημοσύνης βασίζονται στη σοφία της στιγμής. Σε εκείνες τις γνώσεις στις οποίες υπάρχει συναίνεση. Ακριβώς όπως η τεχνολογία κατάψυξης, τα αυτοκίνητα και η παράδοση αύξησαν τον αριθμό των παχύσαρκων, η διαθεσιμότητα εργαλείων Τεχνητής τεχνολογίας μπορεί να μας κάνει τεμπέληδες διανοούμενους και να καταπνίξει την καινοτομία.
Όπως μπορείτε να δείτε, υπάρχουν αρκετά πράγματα για τα οποία πρέπει να ανησυχείτε πέρα από το να φοβάστε ότι θα σας υποδουλώσουν οι μηχανές. Και ότι ακόμα δεν μιλάμε για πρόσβαση στον πηγαίο κώδικα και το απόρρητο των χρηστών.