Récemment OpenAI, société de recherche en intelligence artificielle à but non lucratif dévoilé par une publication outils de modération de contenu New and Improved (Content Moderation Tooling), qu'il mentionne sont plus précis et sont destinés à aider les développeurs d'API à protéger leurs applications.
L'équipe de recherche OpenAI a annoncé une mise à jour de son outil de modération de contenu gratuit qui est désormais disponible pour tous les développeurs.
Point final de modération permet l'accès via une interface de programmation d'application aux classificateurs génératifs pré-entraînés basés sur des transformateurs d'OpenAI, que sont les modèles d'IA qui ont été formés pour détecter le contenu indésirable dans les applications, a déclaré la société dans un article de blog. Ces classificateurs détectent tout contenu inutile dans les applications.
L'entreprise a imposé cette mise à jour pour fonctionner de manière robuste dans une large gamme d'applications, y compris les réseaux sociaux, les systèmes de messagerie et les chatbots IA.
Une fois que vous avez fourni un texte d'entrée, Le point de terminaison de modération analyse le contenu comme un discours de haine, contenu sexuel, langage abusif, etc., à filtrer. Bloquer tout le contenu (généré par l'API OpenAI) qui va à l'encontre de la politique de contenu d'OpenAI. De plus, le point de terminaison peut également supprimer et bloquer le contenu nuisible généré par l'homme.
Le terminal a été formé pour être rapide, précis et robuste dans une variété d'applications. Surtout, cela réduit les risques que les produits "disent" la mauvaise chose, même lorsqu'ils sont déployés à grande échelle auprès des utilisateurs. En conséquence, l'IA peut débloquer des avantages dans des environnements sensibles, tels que l'éducation, où elle ne pourrait autrement être utilisée en toute confiance.
La version améliorée du point de terminaison de modération conçu pour être rapide, précis et robuste sur plusieurs types d'applications, y compris les chatbots alimentés par l'IA, les systèmes de messagerie et les sites de réseaux sociaux.
Surtout, OpenAI a déclaré qu'il réduisait considérablement les chances qu'un modèle d'IA "dise" la mauvaise chose. Cela signifie que l'IA peut être utilisée dans des environnements plus sensibles, comme les applications éducatives, où les gens peuvent avoir déjà eu des réserves quant à la mise en œuvre de la technologie.
Il est important de mentionner que l'outil est gratuit lorsqu'il est utilisé avec du contenu généré par l'API OpenAI. En plus de modérer les robots, vous pouvez également bloquer le contenu nuisible généré non pas par les API OpenAI, mais par des humains. La plate-forme de messagerie anonyme NGL, qui permet aux jeunes de partager leurs sentiments et leurs opinions, utilise l'outil OpenAI pour détecter les discours de haine et le harcèlement. NGL a déclaré que l'outil a la capacité unique de généraliser autour du dernier argot, ce qui lui permet de correspondre à l'évolution de la langue utilisée par les adolescents, par exemple.
Il est également important de mentionner qu'en cas de trafic non API, le point de terminaison de modération est soumis à des frais.
Dans le cadre de l'engagement d'OpenAI à rendre l'écosystème de l'IA plus sûr, nous fournissons ce point de terminaison pour permettre la modération gratuite de tout le contenu généré par l'API OpenAI. Par exemple, Inworld, un client API OpenAI, utilise le point de terminaison de modération pour aider ses personnages virtuels basés sur l'IA à "rester sur le script". En tirant parti de la technologie OpenAI, Inworld peut se concentrer sur son produit phare : créer des personnages mémorables.
OpenAI a dit que les développeurs peuvent déjà commencer à l'utiliser en consultant sa documentation. Il a également publié un document détaillant son processus de formation et de performance, ainsi qu'un ensemble de données d'évaluation qui, selon lui, inspirera de nouvelles recherches dans le domaine de la modération alimentée par l'IA.
Enfin si vous souhaitez en savoir plus, vous pouvez vérifier les détails dans le lien suivant.