हाल ही में ओपनएआई, गैर-लाभकारी कृत्रिम बुद्धिमत्ता अनुसंधान कंपनी रिहा एक प्रकाशन के माध्यम से सामग्री मॉडरेशन उपकरण नया और बेहतर (कंटेंट मॉडरेशन टूलिंग), जिसका यह उल्लेख करता है, अधिक सटीक है और इसका उद्देश्य एपीआई डेवलपर्स को उनके अनुप्रयोगों की सुरक्षा में मदद करना है।
OpenAI अनुसंधान दल ने अपने मुफ्त सामग्री मॉडरेशन टूल के अपडेट की घोषणा की जो अब सभी डेवलपर्स के लिए उपलब्ध है।
मॉडरेशन समापन बिंदु ओपनएआई के जनरेटिव प्रीट्रेन्ड ट्रांसफॉर्मर-आधारित क्लासिफायर के लिए एप्लिकेशन प्रोग्रामिंग इंटरफेस के माध्यम से पहुंच की अनुमति देता है, एआई मॉडल क्या हैं जिन्हें प्रशिक्षित किया गया है अवांछित सामग्री का पता लगाने के लिए ऐप्स में, कंपनी ने एक ब्लॉग पोस्ट में कहा। ये क्लासिफायर एप्लिकेशन में किसी भी अनावश्यक सामग्री का पता लगाते हैं।
कंपनी ने लगाया है ये अपडेट अनुप्रयोगों की एक विस्तृत श्रृंखला में मजबूती से प्रदर्शन करने के लिए, जिसमें सोशल नेटवर्क, मैसेजिंग सिस्टम और एआई चैटबॉट शामिल हैं।
एक बार जब आप एक इनपुट टेक्स्ट प्रदान करते हैं, मॉडरेशन एंडपॉइंट सामग्री का विश्लेषण अभद्र भाषा के रूप में करता है, यौन सामग्री, अपमानजनक भाषा, आदि को फ़िल्टर किया जाना है। सभी सामग्री को ब्लॉक करें (ओपनएआई एपीआई द्वारा उत्पन्न) जो OpenAI सामग्री नीति के विरुद्ध है. इसके अतिरिक्त, एंडपॉइंट हानिकारक मानव-जनित सामग्री को हटा और ब्लॉक भी कर सकता है।
समापन बिंदु को विभिन्न प्रकार के अनुप्रयोगों में तेज, सटीक और मजबूत होने के लिए प्रशिक्षित किया गया है। महत्वपूर्ण रूप से, यह उत्पादों की गलत बात "कहने" की संभावना को कम करता है, तब भी जब इसे बड़े पैमाने पर उपयोगकर्ताओं के लिए रोल आउट किया जाता है। परिणामस्वरूप, एआई शिक्षा जैसे संवेदनशील वातावरण में लाभों को अनलॉक कर सकता है, जहां इसे अन्यथा आत्मविश्वास के साथ उपयोग नहीं किया जा सकता है।
मॉडरेशन एंडपॉइंट का बेहतर संस्करण तेज, सटीक और मजबूत होने के लिए डिज़ाइन किया गया एआई-पावर्ड चैटबॉट, मैसेजिंग सिस्टम और सोशल नेटवर्किंग साइट्स सहित कई तरह के एप्लिकेशन में।
महत्वपूर्ण रूप से, ओपनएआई ने कहा कि यह एआई मॉडल की गलत बात "कहने" की संभावना को काफी कम कर देता है। इसका मतलब है कि एआई का उपयोग अधिक संवेदनशील सेटिंग्स में किया जा सकता है, जैसे शैक्षिक अनुप्रयोग, जहां लोगों को पहले प्रौद्योगिकी को लागू करने के बारे में आपत्ति थी।
यह उल्लेखनीय है OpenAI API द्वारा उत्पन्न सामग्री के साथ उपयोग किए जाने पर उपकरण मुफ़्त है। बॉट्स को मॉडरेट करने के अलावा, आप हानिकारक सामग्री को भी ब्लॉक कर सकते हैं जो ओपनएआई एपीआई द्वारा नहीं, बल्कि मनुष्यों द्वारा उत्पन्न की जाती है। बेनामी मैसेजिंग प्लेटफॉर्म NGL, जो युवाओं को अपनी भावनाओं और विचारों को साझा करने के लिए एक मंच प्रदान करता है, OpenAI टूल का उपयोग अभद्र भाषा और उत्पीड़न का पता लगाने के लिए करता है। एनजीएल ने कहा कि टूल में नवीनतम स्लैंग के आसपास सामान्यीकरण करने की अद्वितीय क्षमता है, उदाहरण के लिए, यह किशोरों द्वारा उपयोग की जाने वाली भाषा के विकास से मेल खाने की अनुमति देता है।
यह उल्लेख करना भी महत्वपूर्ण है कि गैर-एपीआई ट्रैफ़िक के मामले में, मॉडरेशन समापन बिंदु शुल्क के अधीन है।
एआई पारिस्थितिकी तंत्र को और अधिक सुरक्षित बनाने के लिए ओपनएआई की प्रतिबद्धता के हिस्से के रूप में, हम ओपनएआई एपीआई द्वारा उत्पन्न सभी सामग्री के मुफ्त मॉडरेशन को सक्षम करने के लिए यह समापन बिंदु प्रदान करते हैं। उदाहरण के लिए, इनवर्ल्ड, एक ओपनएआई एपीआई क्लाइंट, अपने वर्चुअल एआई-आधारित पात्रों को "स्क्रिप्ट पर बने रहने" में मदद करने के लिए मॉडरेशन एंडपॉइंट का उपयोग करता है। ओपनएआई तकनीक का लाभ उठाकर, इनवर्ल्ड अपने मुख्य उत्पाद पर ध्यान केंद्रित कर सकता है: यादगार पात्र बनाना।
ओपनएआई ने कहा कि डेवलपर्स पहले से ही इसके प्रलेखन से परामर्श करके इसका उपयोग शुरू कर सकते हैं। इसने एक मूल्यांकन डेटासेट के साथ अपने प्रशिक्षण और प्रदर्शन प्रक्रिया का विवरण देते हुए एक दस्तावेज भी प्रकाशित किया, जो एआई-संचालित मॉडरेशन के क्षेत्र में आगे के शोध को प्रेरित करेगा।
अंत में यदि आप इसके बारे में अधिक जानने में रुचि रखते हैं, आप इसमें विवरण देख सकते हैं निम्नलिखित लिंक।