अलीकडे OpenAI, ना-नफा कृत्रिम बुद्धिमत्ता संशोधन कंपनी ते ज्ञात केले प्रकाशनाद्वारे सामग्री नियंत्रण साधने नवीन आणि सुधारित (सामग्री मॉडरेशन टूलिंग), ज्याचा उल्लेख केला आहे ते अधिक अचूक आहेत आणि API विकसकांना त्यांच्या अनुप्रयोगांचे संरक्षण करण्यात मदत करण्याच्या हेतूने आहेत.
ओपनएआय संशोधन कार्यसंघाने त्याच्या विनामूल्य सामग्री नियंत्रण साधनासाठी अद्यतनाची घोषणा केली जी आता सर्व विकसकांसाठी उपलब्ध आहे.
मॉडरेशन एंडपॉइंट OpenAI च्या जनरेटिव्ह प्रीट्रेन्ड ट्रान्सफॉर्मर-आधारित क्लासिफायर्समध्ये ऍप्लिकेशन प्रोग्रामिंग इंटरफेसद्वारे प्रवेश करण्याची परवानगी देते, AI मॉडेल्स काय आहेत ज्यांना प्रशिक्षण देण्यात आले आहे अवांछित सामग्री शोधण्यासाठी अॅप्समध्ये, कंपनीने एका ब्लॉग पोस्टमध्ये म्हटले आहे. हे वर्गीकरण अनुप्रयोगांमध्ये कोणतीही अनावश्यक सामग्री शोधतात.
कंपनीने हे अपडेट लागू केले आहे अनुप्रयोगांच्या विस्तृत श्रेणीमध्ये मजबूतपणे कार्य करण्यासाठी, सोशल नेटवर्क्स, मेसेजिंग सिस्टम आणि AI चॅटबॉट्ससह.
एकदा तुम्ही इनपुट मजकूर प्रदान केल्यानंतर, मॉडरेशन एंडपॉइंट सामग्रीचे द्वेषयुक्त भाषण म्हणून विश्लेषण करते, लैंगिक सामग्री, अपमानास्पद भाषा, इ. फिल्टर करणे. सर्व सामग्री अवरोधित करा (OpenAI API द्वारे व्युत्पन्न) जे OpenAI सामग्री धोरणाच्या विरोधात जाते. याव्यतिरिक्त, एंडपॉईंट हानीकारक मानवी व्युत्पन्न सामग्री देखील काढू आणि अवरोधित करू शकतो.
एंडपॉईंटला विविध ऍप्लिकेशन्समध्ये वेगवान, अचूक आणि मजबूत होण्यासाठी प्रशिक्षित केले गेले आहे. महत्त्वाचे म्हणजे, यामुळे वापरकर्त्यांना मोठ्या प्रमाणावर आणले तरीही, चुकीची गोष्ट "म्हटण्याची" शक्यता कमी होते. परिणामी, AI संवेदनशील वातावरणात फायदे अनलॉक करू शकते, जसे की शिक्षण, जेथे ते अन्यथा आत्मविश्वासाने वापरले जाऊ शकत नाही.
मॉडरेशन एंडपॉइंटची सुधारित आवृत्ती जलद, अचूक आणि मजबूत होण्यासाठी डिझाइन केलेले एआय-चालित चॅटबॉट्स, मेसेजिंग सिस्टम आणि सोशल नेटवर्किंग साइट्ससह अनेक प्रकारच्या ऍप्लिकेशन्समध्ये.
महत्त्वाचे म्हणजे, OpenAI ने म्हटले आहे की ते AI मॉडेलने चुकीची गोष्ट "म्हटण्याची" शक्यता लक्षणीयरीत्या कमी करते. याचा अर्थ एआय अधिक संवेदनशील सेटिंग्जमध्ये वापरला जाऊ शकतो, जसे की शैक्षणिक ऍप्लिकेशन्स, जिथे लोकांना पूर्वी तंत्रज्ञानाची अंमलबजावणी करण्याबद्दल आरक्षण असू शकते.
हे उल्लेखनीय आहे OpenAI API द्वारे व्युत्पन्न केलेल्या सामग्रीसह वापरल्यास साधन विनामूल्य आहे. मॉडरेटिंग बॉट्स व्यतिरिक्त, तुम्ही OpenAI API द्वारे नाही तर मानवाद्वारे व्युत्पन्न केलेली हानिकारक सामग्री देखील अवरोधित करू शकता. निनावी मेसेजिंग प्लॅटफॉर्म NGL, जे तरुणांना त्यांच्या भावना आणि मते सामायिक करण्यासाठी व्यासपीठ प्रदान करते, द्वेषयुक्त भाषण आणि छळ शोधण्यासाठी OpenAI टूल वापरते. एनजीएलने सांगितले की, टूलमध्ये नवीनतम अपभाषाचे सामान्यीकरण करण्याची अद्वितीय क्षमता आहे, उदाहरणार्थ, किशोरवयीन मुलांद्वारे वापरल्या जाणार्‍या भाषेच्या उत्क्रांतीशी जुळण्याची अनुमती देते.
हे नमूद करणे देखील महत्त्वाचे आहे की नॉन-एपीआय रहदारीच्या बाबतीत, मॉडरेशन एंडपॉइंट शुल्काच्या अधीन आहे.
AI इकोसिस्टम अधिक सुरक्षित करण्याच्या OpenAI च्या वचनबद्धतेचा एक भाग म्हणून, आम्ही OpenAI API द्वारे व्युत्पन्न केलेल्या सर्व सामग्रीचे विनामूल्य नियंत्रण सक्षम करण्यासाठी हा एंडपॉइंट प्रदान करतो. उदाहरणार्थ, Inworld, OpenAI API क्लायंट, त्याच्या आभासी AI-आधारित वर्णांना "स्क्रिप्टवर राहण्यासाठी" मदत करण्यासाठी मॉडरेशन एंडपॉइंट वापरतो. OpenAI तंत्रज्ञानाचा लाभ घेऊन, Inworld त्याच्या मूळ उत्पादनावर लक्ष केंद्रित करू शकते: संस्मरणीय पात्रे तयार करणे.
असे OpenAI ने सांगितले डेव्हलपर त्याच्या कागदपत्रांचा सल्ला घेऊन आधीच त्याचा वापर सुरू करू शकतात. एआय-संचालित मॉडरेशनच्या क्षेत्रात पुढील संशोधनास प्रेरणा देईल असे मूल्यमापन डेटासेटसह, त्याचे प्रशिक्षण आणि कार्यप्रदर्शन प्रक्रियेचे तपशील देणारे दस्तऐवज देखील प्रकाशित केले.
शेवटी आपल्याला त्याबद्दल अधिक जाणून घेण्यात स्वारस्य असल्यास, आपण तपशील तपासू शकता खालील दुवा.