Πρόσφατα OpenAI, μη κερδοσκοπική εταιρεία ερευνών τεχνητής νοημοσύνης το έκανε γνωστό μέσω δημοσίευσης εργαλεία ελέγχου περιεχομένου Νέα και βελτιωμένα (Content Moderation Tooling), τα οποία αναφέρει ότι είναι πιο ακριβή και προορίζονται να βοηθήσουν τους προγραμματιστές API να προστατεύσουν τις εφαρμογές τους.
Η ερευνητική ομάδα του OpenAI ανακοίνωσε μια ενημέρωση για το δωρεάν εργαλείο εποπτείας περιεχομένου που είναι πλέον διαθέσιμο σε όλους τους προγραμματιστές.
Τελικό σημείο εποπτείας επιτρέπει την πρόσβαση μέσω μιας διεπαφής προγραμματισμού εφαρμογών στους παραγωγικούς προεκπαιδευμένους ταξινομητές του OpenAI που βασίζονται σε μετασχηματιστές, τι είναι τα μοντέλα AI που έχουν εκπαιδευτεί για τον εντοπισμό ανεπιθύμητου περιεχομένου στις εφαρμογές, είπε η εταιρεία σε μια ανάρτηση ιστολογίου. Αυτοί οι ταξινομητές εντοπίζουν οποιοδήποτε περιττό περιεχόμενο στις εφαρμογές.
Η εταιρεία έχει επιβάλει αυτήν την ενημέρωση να αποδώσει ισχυρά σε ένα ευρύ φάσμα εφαρμογών, συμπεριλαμβανομένων των κοινωνικών δικτύων, των συστημάτων ανταλλαγής μηνυμάτων και των chatbot AI.
Μόλις παρέχετε ένα κείμενο εισαγωγής, Το τελικό σημείο εποπτείας αναλύει το περιεχόμενο ως ρητορική μίσους, σεξουαλικό περιεχόμενο, υβριστική γλώσσα κ.λπ., να φιλτραριστεί. Αποκλεισμός όλου του περιεχομένου (δημιουργήθηκε από το OpenAI API) που έρχεται σε αντίθεση με την πολιτική περιεχομένου OpenAI. Επιπλέον, το τελικό σημείο μπορεί επίσης να αφαιρέσει και να αποκλείσει επιβλαβές περιεχόμενο που δημιουργείται από τον άνθρωπο.
Το τελικό σημείο έχει εκπαιδευτεί ώστε να είναι γρήγορο, ακριβές και ισχυρό σε μια ποικιλία εφαρμογών. Είναι σημαντικό ότι αυτό μειώνει τις πιθανότητες τα προϊόντα να "λένε" το λάθος, ακόμη και όταν κυκλοφορούν σε χρήστες σε μεγάλη κλίμακα. Κατά συνέπεια, η τεχνητή νοημοσύνη μπορεί να ξεκλειδώσει τα οφέλη σε ευαίσθητα περιβάλλοντα, όπως η εκπαίδευση, όπου διαφορετικά δεν θα μπορούσε να χρησιμοποιηθεί με σιγουριά.
Η βελτιωμένη έκδοση του παραμέτρου Moderation σχεδιασμένο να είναι γρήγορο, ακριβές και στιβαρό σε πολλούς τύπους εφαρμογών, συμπεριλαμβανομένων των chatbot με τεχνητή νοημοσύνη, των συστημάτων ανταλλαγής μηνυμάτων και των τοποθεσιών κοινωνικής δικτύωσης.
Είναι σημαντικό ότι το OpenAI είπε ότι μειώνει σημαντικά τις πιθανότητες ενός μοντέλου AI να «λέει» το λάθος. Αυτό σημαίνει ότι η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί σε πιο ευαίσθητα περιβάλλοντα, όπως εκπαιδευτικές εφαρμογές, όπου οι άνθρωποι μπορεί να είχαν προηγουμένως επιφυλάξεις σχετικά με την εφαρμογή της τεχνολογίας.
Αξίζει να το αναφέρουμε το εργαλείο είναι δωρεάν όταν χρησιμοποιείται με περιεχόμενο που δημιουργείται από το OpenAI API. Εκτός από την εποπτεία ρομπότ, μπορείτε επίσης να αποκλείσετε επιβλαβές περιεχόμενο που δημιουργείται όχι από OpenAI API, αλλά από ανθρώπους. Η ανώνυμη πλατφόρμα ανταλλαγής μηνυμάτων NGL, η οποία παρέχει μια πλατφόρμα στους νέους να μοιράζονται τα συναισθήματα και τις απόψεις τους, χρησιμοποιεί το εργαλείο OpenAI για τον εντοπισμό ρητορικής μίσους και παρενόχλησης. Η NGL είπε ότι το εργαλείο έχει τη μοναδική ικανότητα να γενικεύει γύρω από την πιο πρόσφατη αργκό, επιτρέποντάς του να ταιριάζει με την εξέλιξη της γλώσσας που χρησιμοποιούν οι έφηβοι, για παράδειγμα.
Είναι επίσης σημαντικό να αναφέρουμε ότι στην περίπτωση επισκεψιμότητας εκτός API, το τελικό σημείο εποπτείας υπόκειται σε χρέωση.
Ως μέρος της δέσμευσης του OpenAI να κάνει το οικοσύστημα AI πιο ασφαλές, παρέχουμε αυτό το τελικό σημείο για να επιτρέψουμε τη δωρεάν εποπτεία όλου του περιεχομένου που δημιουργείται από το OpenAI API. Για παράδειγμα, το Inworld, ένας πελάτης OpenAI API, χρησιμοποιεί το τελικό σημείο εποπτείας για να βοηθήσει τους εικονικούς χαρακτήρες του που βασίζονται σε AI «να παραμείνουν στο σενάριο». Αξιοποιώντας την τεχνολογία OpenAI, η Inworld μπορεί να επικεντρωθεί στο βασικό της προϊόν: τη δημιουργία αξέχαστων χαρακτήρων.
Το OpenAI είπε αυτό Οι προγραμματιστές μπορούν ήδη να αρχίσουν να το χρησιμοποιούν συμβουλευόμενοι την τεκμηρίωσή του. Δημοσίευσε επίσης ένα έγγραφο που περιγράφει λεπτομερώς τη διαδικασία εκπαίδευσης και απόδοσης, μαζί με ένα σύνολο δεδομένων αξιολόγησης που είπε ότι θα εμπνεύσει περαιτέρω έρευνα στον τομέα της μετριοπάθειας που βασίζεται στην AI.
Τελικά αν ενδιαφέρεστε να μάθετε περισσότερα γι 'αυτό, μπορείτε να ελέγξετε τις λεπτομέρειες στο τον ακόλουθο σύνδεσμο.