તાજેતરમાં OpenAI, બિન-લાભકારી કૃત્રિમ બુદ્ધિ સંશોધન કંપની તેને જાણીતું બનાવ્યું પ્રકાશન દ્વારા સામગ્રી મધ્યસ્થતા સાધનો નવું અને સુધારેલ (સામગ્રી મધ્યસ્થતા ટૂલિંગ), જેનો તે ઉલ્લેખ કરે છે તે વધુ ચોક્કસ છે અને API વિકાસકર્તાઓને તેમની એપ્લિકેશનોને સુરક્ષિત કરવામાં મદદ કરવાનો હેતુ છે.
ઓપનએઆઈ રિસર્ચ ટીમે તેના ફ્રી કન્ટેન્ટ મોડરેશન ટૂલના અપડેટની જાહેરાત કરી છે જે હવે તમામ ડેવલપર્સ માટે ઉપલબ્ધ છે.
મધ્યસ્થતા અંતિમ બિંદુ ઓપનએઆઈના જનરેટિવ પ્રીટ્રેઇન્ડ ટ્રાન્સફોર્મર-આધારિત વર્ગીકરણને એપ્લિકેશન પ્રોગ્રામિંગ ઈન્ટરફેસ દ્વારા ઍક્સેસ કરવાની મંજૂરી આપે છે, AI મોડલ શું છે જેમને તાલીમ આપવામાં આવી છે અનિચ્છનીય સામગ્રી શોધવા માટે એપ્લિકેશન્સમાં, કંપનીએ એક બ્લોગ પોસ્ટમાં જણાવ્યું હતું. આ વર્ગીકરણ એપ્લિકેશન્સમાં કોઈપણ બિનજરૂરી સામગ્રી શોધી કાઢે છે.
કંપનીએ આ અપડેટ લાદ્યું છે એપ્લિકેશનની વિશાળ શ્રેણીમાં મજબૂત રીતે પ્રદર્શન કરવા માટે, સામાજિક નેટવર્ક્સ, મેસેજિંગ સિસ્ટમ્સ અને AI ચેટબોટ્સ સહિત.
એકવાર તમે ઇનપુટ ટેક્સ્ટ પ્રદાન કરો, મધ્યસ્થતા એન્ડપોઇન્ટ સામગ્રીનું અપ્રિય ભાષણ તરીકે વિશ્લેષણ કરે છે, જાતીય સામગ્રી, અપમાનજનક ભાષા, વગેરે, ફિલ્ટર કરવા માટે. બધી સામગ્રીને અવરોધિત કરો (OpenAI API દ્વારા જનરેટ થયેલ) જે OpenAI સામગ્રી નીતિની વિરુદ્ધ છે. વધુમાં, એન્ડપોઇન્ટ હાનિકારક માનવ-નિર્મિત સામગ્રીને દૂર અને અવરોધિત પણ કરી શકે છે.
અંતિમ બિંદુને વિવિધ એપ્લિકેશન્સમાં ઝડપી, સચોટ અને મજબૂત બનવાની તાલીમ આપવામાં આવી છે. મહત્ત્વની વાત એ છે કે, આનાથી ઉત્પાદનોની ખોટી વાત "કહેવાની" શક્યતાઓ ઘટી જાય છે, પછી ભલેને તે સ્કેલ પર વપરાશકર્તાઓને રજૂ કરવામાં આવે. પરિણામે, AI સંવેદનશીલ વાતાવરણમાં લાભો ખોલી શકે છે, જેમ કે શિક્ષણ, જ્યાં તેનો વિશ્વાસ સાથે ઉપયોગ કરી શકાતો નથી.
મધ્યસ્થતા એન્ડપોઇન્ટનું સુધારેલ સંસ્કરણ ઝડપી, સચોટ અને મજબૂત બનવા માટે રચાયેલ છે AI-સંચાલિત ચેટબોટ્સ, મેસેજિંગ સિસ્ટમ્સ અને સોશિયલ નેટવર્કિંગ સાઇટ્સ સહિત વિવિધ પ્રકારની એપ્લિકેશન્સમાં.
મહત્વની વાત એ છે કે, OpenAI એ કહ્યું કે તે AI મોડલ ખોટી વાતને "કહેવાની" શક્યતાઓને નોંધપાત્ર રીતે ઘટાડે છે. તેનો અર્થ એ છે કે AI નો ઉપયોગ વધુ સંવેદનશીલ સેટિંગ્સમાં થઈ શકે છે, જેમ કે શૈક્ષણિક એપ્લિકેશનો, જ્યાં લોકોએ ટેક્નોલોજીના અમલીકરણ વિશે અગાઉ રિઝર્વેશન કર્યું હશે.
તે ઉલ્લેખનીય છે જ્યારે OpenAI API દ્વારા જનરેટ કરાયેલ સામગ્રી સાથે ઉપયોગ કરવામાં આવે ત્યારે સાધન મફત છે. બૉટોને મધ્યસ્થી કરવા ઉપરાંત, તમે હાનિકારક સામગ્રીને પણ અવરોધિત કરી શકો છો જે OpenAI API દ્વારા નહીં, પરંતુ મનુષ્યો દ્વારા જનરેટ કરવામાં આવે છે. અનામી મેસેજિંગ પ્લેટફોર્મ NGL, જે યુવાનોને તેમની લાગણીઓ અને મંતવ્યો શેર કરવા માટે પ્લેટફોર્મ પૂરું પાડે છે, તે દ્વેષયુક્ત ભાષણ અને ઉત્પીડન શોધવા માટે OpenAI ટૂલનો ઉપયોગ કરે છે. NGL એ જણાવ્યું હતું કે ટૂલમાં નવીનતમ અશિષ્ટ ભાષાને સામાન્ય બનાવવાની અનન્ય ક્ષમતા છે, ઉદાહરણ તરીકે, તે કિશોરો દ્વારા ઉપયોગમાં લેવાતી ભાષાના ઉત્ક્રાંતિ સાથે મેળ ખાય છે.
એ ઉલ્લેખ કરવો પણ મહત્વપૂર્ણ છે કે નોન-API ટ્રાફિકના કિસ્સામાં, મધ્યસ્થતા અંતિમ બિંદુ ફીને આધીન છે.
AI ઇકોસિસ્ટમને વધુ સુરક્ષિત બનાવવા માટે OpenAI ની પ્રતિબદ્ધતાના ભાગરૂપે, અમે OpenAI API દ્વારા જનરેટ કરાયેલ તમામ સામગ્રીના મફત મધ્યસ્થતાને સક્ષમ કરવા માટે આ અંતિમ બિંદુ પ્રદાન કરીએ છીએ. ઉદાહરણ તરીકે, Inworld, એક OpenAI API ક્લાયંટ, તેના વર્ચ્યુઅલ AI-આધારિત અક્ષરોને "સ્ક્રીપ્ટ પર રહેવા" મદદ કરવા માટે મધ્યસ્થતા એન્ડપોઇન્ટનો ઉપયોગ કરે છે. ઓપનએઆઈ ટેક્નોલોજીનો લાભ લઈને, ઇનવર્લ્ડ તેના મુખ્ય ઉત્પાદન પર ધ્યાન કેન્દ્રિત કરી શકે છે: યાદગાર પાત્રો બનાવવા.
ઓપનએઆઈએ જણાવ્યું હતું વિકાસકર્તાઓ પહેલાથી જ તેના દસ્તાવેજોની સલાહ લઈને તેનો ઉપયોગ શરૂ કરી શકે છે. તેણે મૂલ્યાંકન ડેટાસેટ સાથે તેની તાલીમ અને કામગીરીની પ્રક્રિયાની વિગતો આપતો દસ્તાવેજ પણ પ્રકાશિત કર્યો હતો જે તેણે કહ્યું હતું કે AI-સંચાલિત મધ્યસ્થતાના ક્ષેત્રમાં વધુ સંશોધનને પ્રેરણા આપશે.
છેલ્લે જો તમને તેના વિશે વધુ જાણવામાં રસ છે, તમે તેમાં વિગતો ચકાસી શકો છો નીચેની કડી.