Το ChatGPT είναι ένα πρωτότυπο chatbot τεχνητής νοημοσύνης
Η είδηση κυκλοφόρησε ότι Το OpenAI αναπτύσσει λογισμικό που μπορεί να ανιχνεύσει εάν το μοντέλο ChatGPT δημιούργησε κείμενο, αυτό λίγο αφότου οι εκπαιδευτικοί υπάλληλοι της Νέας Υόρκης ανακοίνωσαν ότι θα εμποδίσουν την πρόσβαση των μαθητών στο εργαλείο στα δημόσια σχολεία.
Και είναι ότι έχουν κυκλοφορήσει διάφορες αναφορές για το τι μαθητές που χρησιμοποιούν τεχνητή νοημοσύνη για να κάνουν την εργασία τους, έχουν κάνει τους δασκάλους να σκεφτούν πώς επηρεάζει την εκπαίδευση.
Κάποιοι έχουν εκφράσει τα δικά τους ανησυχία για το πώς διαμορφώνει τη γλώσσα μπορεί να επιτρέψουν στους μαθητές να εξαπατήσουν.
Λαμβάνοντας υπόψη αυτό, το OpenAI ανακοίνωσε ότι εργάζεται για να αναπτύξει «μετριασμούς» που θα βοηθήσουν τους ανθρώπους να εντοπίζουν το κείμενο που δημιουργείται αυτόματα από το ChatGPT.
«Διαθέτουμε το ChatGPT ως προεπισκόπηση έρευνας για να μάθουμε από τη χρήση του πραγματικού κόσμου, η οποία πιστεύουμε ότι αποτελεί ουσιαστικό μέρος της ανάπτυξης και ανάπτυξης ικανών και ασφαλών συστημάτων AI. Ενσωματώνουμε συνεχώς σχόλια και διδάγματα», δήλωσε εκπρόσωπος της εταιρείας.
Σύμφωνα με μαρτυρίες πανεπιστημιακών καθηγητών, οι μαθητές εμπιστεύονται το ChatGPT για να λύσουν την εργασία τους, ειδικά στις πρόβες.
«Η ακαδημία δεν το είδε να έρχεται. Έτσι μας ξάφνιασε», λέει ο Ντάρεν Χάντσον Χικ, επίκουρος καθηγητής φιλοσοφίας στο Πανεπιστήμιο Φούρμαν.
«Το ανέφερα στο Facebook και οι φίλοι μου [δάσκαλοι] είπαν «ναι! Έπιασα κι εγώ ένα», πρόσθεσε. Νωρίτερα αυτό το μήνα, ο Χικ φέρεται να ζήτησε από την τάξη του να γράψει ένα δοκίμιο 500 λέξεων για τον Σκωτσέζο φιλόσοφο Ντέιβιντ Χιουμ και το παράδοξο τρόμου, το οποίο εξετάζει πώς οι άνθρωποι μπορούν να αντλήσουν ευχαρίστηση από κάτι που φοβούνται. , για μια δοκιμή στο σπίτι. Όμως, σύμφωνα με τον καθηγητή φιλοσοφίας, ένα από τα δοκίμια που του ήρθαν είχε κάποια χαρακτηριστικά που «σημάδεψαν» τη χρήση της τεχνητής νοημοσύνης στην «στοιχειώδη» απάντηση του μαθητή. Ο Hick εξηγεί ότι αυτό μπορεί να ανιχνευθεί από ένα εκπαιδευμένο μάτι.
Να είναι σε θέση να διακρίνει τη γραφή με το χέρι που παράγεται από άνθρωπο ή μηχανή θα αλλάξει τον τρόπο που μπορούν να χρησιμοποιηθούν στην ακαδημία. Τα σχολεία θα μπορούσαν να επιβάλουν πιο αποτελεσματικά την απαγόρευση δοκιμών που δημιουργείται από την τεχνητή νοημοσύνη,
Ναι, τα γενετικά μοντέλα γλώσσας μπορεί να είναι καλά, αλλά δεν ξέρουν για τι πράγμα μιλάνε.
Όσο εντυπωσιακή κι αν η γραφή που δημιουργείται από την τεχνητή νοημοσύνη γίνεται πρωτοσέλιδο με πανεπιστημιακά συνέδρια και σχολεία που απαγορεύουν τις δακτυλόγραφες εργασίες, εδώ είναι μια υπενθύμιση ότι δεν κατανοούν την πραγματική ανθρώπινη γραφή.
Και είναι ότι το OpenAI έχει εντυπωσιάσει το Διαδίκτυο με τις προσπάθειές του να αναπαράγει την ανθρώπινη νοημοσύνη και τις καλλιτεχνικές ικανότητες από το 2015. Αλλά τον περασμένο Νοέμβριο, η εταιρεία έγινε τελικά mega viral με την κυκλοφορία της γεννήτριας κειμένου AI ChatGPT. Οι χρήστες του εργαλείου beta δημοσίευσαν παραδείγματα απαντήσεων κειμένου που δημιουργήθηκαν από την τεχνητή νοημοσύνη σε προτροπές που φαινόταν τόσο θεμιτές που προκάλεσαν φόβο στις καρδιές των δασκάλων και έκαναν ακόμη και την Google να φοβάται ότι το εργαλείο θα μπορούσε να εξοντώσει την ερευνητική τους δραστηριότητα.
Εάν οι μηχανικοί του OpenAI μπορούν να δημιουργήσουν ένα ρομπότ που μπορεί να πληκτρολογεί εξίσου ή καλύτερα από τον μέσο άνθρωπο, είναι λογικό ότι μπορούν επίσης να δημιουργήσουν ένα ρομπότ που είναι καλύτερο από τον μέσο άνθρωπο στο να ανιχνεύει εάν το κείμενο δημιουργήθηκε από AI.
Δεδομένου ότι όπως αναφέρθηκε αυτή τη στιγμή το OpenAI εργάζεται σε μια λύση, έχουν ήδη κυκλοφορήσει τουλάχιστον τρία εργαλεία ανίχνευσης που μπορούν να χρησιμοποιηθούν:
Ανιχνευτής εξόδου GPT-2
Η διαδικτυακή επίδειξη του μοντέλου ανιχνευτή εξόδου GPT-2 σάς επιτρέπει να επικολλήσετε κείμενο σε ένα πλαίσιο και να δείτε αμέσως την πιθανότητα το κείμενο να πληκτρολογήθηκε από το AI. Σύμφωνα με την έρευνα του OpenAI, το εργαλείο έχει σχετικά υψηλό ποσοστό ανίχνευσης, αλλά «πρέπει να συνδυαστεί με προσεγγίσεις που βασίζονται στα μεταδεδομένα, την ανθρώπινη κρίση και τη δημόσια εκπαίδευση για να είναι πιο αποτελεσματικό».
GLTR
Όταν το OpenAI κυκλοφόρησε το GPT-2 το 2019, οι άνθρωποι στο MIT-IBM Watson AI Lab και το Harvard Natural Language Processing Group συνεργάστηκαν για να δημιουργήσουν έναν αλγόριθμο που προσπαθεί να εντοπίσει εάν το κείμενο έχει πληκτρολογηθεί από ένα bot.
Το κείμενο που δημιουργείται από υπολογιστή μπορεί να φαίνεται ότι είναι γραμμένο από άνθρωπο, αλλά ένας άνθρωπος συγγραφέας είναι πιο πιθανό να επιλέξει απρόβλεπτες λέξεις. Χρησιμοποιώντας τη μέθοδο "takes one to know one", εάν ο αλγόριθμος GLTR μπορεί να προβλέψει την επόμενη λέξη σε μια πρόταση, θα υποθέσει ότι η πρόταση γράφτηκε από ένα bot.
GPTZero
Κατά τη διάρκεια της περιόδου των Χριστουγέννων, ο Edward Tian ήταν απασχολημένος με τη δημιουργία του GPTZero, μιας εφαρμογής που μπορεί να σας βοηθήσει να προσδιορίσετε εάν το κείμενο γράφτηκε από άνθρωπο ή από ένα bot. Ως ακαδημαϊκός στο Πρίνστον, ο Τιάν κατανοεί πώς οι καθηγητές πανεπιστημίου μπορούν να έχουν ιδιόκτητο συμφέρον στον εντοπισμό λογοκλοπής υποβοηθούμενης από τεχνητή νοημοσύνη ή λογοκλοπής υποβοηθούμενης από την τεχνητή νοημοσύνη.
Ο Tian λέει ότι το εργαλείο του μετρά την τυχαιότητα των προτάσεων ("buzz") συν τη συνολική τυχαιότητα ("bursts") για να υπολογίσει την πιθανότητα ότι το κείμενο γράφτηκε από το ChatGPT. Από τότε που έγραψε στο Twitter για το GPTZero στις 2 Ιανουαρίου, ο Tian λέει ότι τον έχουν ήδη προσεγγίσει επιχειρηματίες επιχειρηματικών κεφαλαίων που θέλουν να επενδύσουν και ότι θα αναπτύξει σύντομα ενημερωμένες εκδόσεις.
πηγή: https://techcrunch.com