Недавно ОпенАИ, непрофитна компанија за истраживање вештачке интелигенције дао до знања преко публикације алати за модерирање садржаја Нови и побољшани (алатке за модерирање садржаја), за које се помиње да су прецизнији и имају за циљ да помогну програмерима АПИ-ја да заштите своје апликације.
Истраживачки тим ОпенАИ најавио је ажурирање свог бесплатног алата за модерирање садржаја који је сада доступан свим програмерима.
Крајња тачка модерације омогућава приступ преко интерфејса за програмирање апликације ОпенАИ-јевим генеративним унапред обученим класификаторима заснованим на трансформаторима, шта су АИ модели који су обучени за откривање нежељеног садржаја у апликацијама, рекла је компанија у посту на блогу. Ови класификатори откривају било какав непотребан садржај у апликацијама.
Компанија је наметнула ово ажурирање да ради робусно у широком спектру апликација, укључујући друштвене мреже, системе за размену порука и АИ цхат ботове.
Када унесете текст за унос, Крајња тачка модерирања анализира садржај као говор мржње, сексуални садржај, увредљиви језик итд., које треба филтрирати. Блокирајте сав садржај (генерисан од ОпенАИ АПИ-ја) то је у супротности са политиком садржаја ОпенАИ. Поред тога, крајња тачка такође може да уклони и блокира штетан садржај који генерише људи.
Крајња тачка је обучена да буде брза, прецизна и робусна у разним апликацијама. Оно што је важно, ово смањује шансе да производи „казују“ погрешну ствар, чак и када су представљени корисницима у великом обиму. Као последица тога, вештачка интелигенција може да откључа предности у осетљивим окружењима, као што је образовање, где се иначе не би могла поуздано користити.
Побољшана верзија крајње тачке Модератион дизајниран да буде брз, прецизан и робустан преко више врста апликација, укључујући четботе са вештачком интелигенцијом, системе за размену порука и сајтове за друштвене мреже.
Важно је да ОпенАИ каже да значајно смањује шансе да АИ модел „каже“ погрешну ствар. То значи да се вештачка интелигенција може користити у осетљивијим окружењима, као што су образовне апликације, где су људи можда раније имали резерве у погледу примене технологије.
Вреди то напоменути алат је бесплатан када се користи са садржајем који генерише ОпенАИ АПИ. Поред модерирања ботова, можете блокирати и штетан садржај који не генерише ОпенАИ АПИ, већ људи. Анонимна платформа за размену порука НГЛ, која пружа платформу младим људима да поделе своја осећања и мишљења, користи ОпенАИ алат за откривање говора мржње и узнемиравања. НГЛ је рекао да алат има јединствену способност да се генерализује око најновијег сленга, што му омогућава да одговара еволуцији језика који користе тинејџери, на пример.
Такође је важно напоменути да у случају саобраћаја без АПИ-ја, крајња тачка модерирања подлеже наплати.
Као део посвећености ОпенАИ-а да учини АИ екосистем сигурнијим, пружамо ову крајњу тачку како бисмо омогућили бесплатно модерирање целокупног садржаја који генерише ОпенАИ АПИ. На пример, Инворлд, ОпенАИ АПИ клијент, користи крајњу тачку модерирања да помогне својим виртуелним ликовима заснованим на вештачкој интелигенцији да „остану на скрипти“. Коришћењем ОпенАИ технологије, Инворлд се може фокусирати на свој основни производ: стварање незаборавних ликова.
ОпенАИ је то рекао програмери већ могу почети да га користе консултујући његову документацију. Такође је објавио документ са детаљима о процесу обуке и перформанси, заједно са скупом података за евалуацију за који је рекао да ће инспирисати даља истраживања у области модерирања засноване на вештачкој интелигенцији.
Коначно ако сте заинтересовани да сазнате више о томе, детаље можете погледати у следећи линк.