Kamakailan lamang OpenAI, non-profit na kumpanya ng pananaliksik sa artificial intelligence ipinaalam ito sa pamamagitan ng isang publikasyon mga tool sa pagmo-moderate ng nilalaman Bago at Pinahusay (Content Moderation Tooling), na binanggit nito ay mas tumpak at nilayon upang matulungan ang mga developer ng API na protektahan ang kanilang mga application.
Ang koponan ng pananaliksik ng OpenAI ay nag-anunsyo ng isang update sa libreng tool sa pag-moderate ng nilalaman na magagamit na ngayon sa lahat ng mga developer.
Endpoint ng moderation nagbibigay-daan sa pag-access sa pamamagitan ng isang application programming interface sa mga generative pretrained na transformer-based classifier ng OpenAI, ano ang mga modelo ng AI na sinanay upang makita ang hindi gustong nilalaman sa mga app, sinabi ng kumpanya sa isang post sa blog. Nakikita ng mga classifier na ito ang anumang hindi kinakailangang nilalaman sa mga application.
Ipinataw ng kumpanya ang update na ito upang gumanap nang matatag sa isang malawak na hanay ng mga aplikasyon, kabilang ang mga social network, messaging system at AI chatbots.
Kapag nagbigay ka ng input text, Sinusuri ng moderation endpoint ang content bilang hate speech, nilalamang sekswal, mapang-abusong pananalita, atbp., na i-filter. I-block ang lahat ng nilalaman (binuo ng OpenAI API) na sumasalungat sa patakaran sa nilalaman ng OpenAI. Bukod pa rito, maaari ding alisin at i-block ng endpoint ang mapaminsalang content na binuo ng tao.
Ang endpoint ay sinanay upang maging mabilis, tumpak, at matatag sa iba't ibang mga application. Mahalaga, binabawasan nito ang mga pagkakataon ng mga produkto na "magsabi" ng maling bagay, kahit na inilunsad sa mga user nang malawakan. Bilang resulta, maaaring i-unlock ng AI ang mga benepisyo sa mga sensitibong kapaligiran, gaya ng edukasyon, kung saan hindi ito magagamit nang may kumpiyansa.
Ang pinahusay na bersyon ng moderation endpoint idinisenyo upang maging mabilis, tumpak at matatag sa maraming uri ng mga application, kabilang ang mga chatbot na pinapagana ng AI, mga sistema ng pagmemensahe, at mga social networking site.
Mahalaga, sinabi ng OpenAI na makabuluhang binabawasan nito ang pagkakataon ng isang modelo ng AI na "magsabi" ng maling bagay. Ibig sabihin, magagamit ang AI sa mga mas sensitibong setting, tulad ng mga application na pang-edukasyon, kung saan maaaring may mga reserbasyon ang mga tao tungkol sa pagpapatupad ng teknolohiya.
Ito ay nagkakahalaga ng pagbanggit na ang tool ay libre kapag ginamit sa nilalamang nabuo ng OpenAI API. Bilang karagdagan sa pagmo-moderate ng mga bot, maaari mo ring i-block ang mapaminsalang nilalaman na hindi nabuo ng mga OpenAI API, ngunit ng mga tao. Ang anonymous messaging platform NGL, na nagbibigay ng platform para sa mga kabataan na ibahagi ang kanilang mga damdamin at opinyon, ay gumagamit ng OpenAI tool upang makita ang mapoot na pananalita at panliligalig. Sinabi ng NGL na ang tool ay may natatanging kakayahang mag-generalize sa pinakabagong slang, na nagbibigay-daan dito na tumugma sa ebolusyon ng wikang ginagamit ng mga tinedyer, halimbawa.
Mahalaga rin na banggitin na sa kaso ng hindi API na trapiko, ang moderation endpoint ay napapailalim sa isang bayad.
Bilang bahagi ng pangako ng OpenAI na gawing mas secure ang AI ecosystem, ibinibigay namin ang endpoint na ito para paganahin ang libreng pag-moderate ng lahat ng content na nabuo ng OpenAI API. Halimbawa, ang Inworld, isang OpenAI API client, ay gumagamit ng moderation endpoint para tulungan ang mga virtual AI-based na character na "manatili sa script." Sa pamamagitan ng paggamit ng teknolohiya ng OpenAI, maaaring tumuon ang Inworld sa pangunahing produkto nito: paglikha ng mga hindi malilimutang character.
Sinabi iyon ng OpenAI maaari nang simulan ng mga developer ang paggamit nito sa pamamagitan ng pagkonsulta sa dokumentasyon nito. Nag-publish din ito ng isang dokumento na nagdedetalye ng proseso ng pagsasanay at pagganap nito, kasama ang isang dataset ng pagsusuri na sinabi nitong magbibigay inspirasyon sa karagdagang pananaliksik sa larangan ng AI-powered moderation.
Sa wakas kung interesado kang malaman ang tungkol dito, maaari mong suriin ang mga detalye sa ang sumusunod na link.