Pred kratkim OpenAI, neprofitno podjetje za raziskave umetne inteligence dal vedeti preko publikacije orodja za moderiranje vsebine Novo in izboljšano (orodje za moderiranje vsebine), ki je omenjeno, je natančnejše in je namenjeno pomoči razvijalcem API-jev pri zaščiti njihovih aplikacij.
Raziskovalna skupina OpenAI je napovedala posodobitev svojega brezplačnega orodja za moderiranje vsebine, ki je zdaj na voljo vsem razvijalcem.
Končna točka moderiranja omogoča dostop prek vmesnika za programiranje aplikacij do generativnih vnaprej usposobljenih klasifikatorjev OpenAI, ki temeljijo na transformatorjih, kaj so AI modeli ki so bili usposobljeni za odkrivanje neželene vsebine v aplikacijah, je družba zapisala v objavi na blogu. Ti klasifikatorji zaznajo nepotrebno vsebino v aplikacijah.
Podjetje je uvedlo to posodobitev za robustno delovanje v številnih aplikacijah, vključno s socialnimi omrežji, sistemi za sporočanje in klepetalnimi roboti AI.
Ko vnesete besedilo za vnos, Končna točka moderiranja vsebino analizira kot sovražni govor, spolna vsebina, žaljiv jezik itd., ki jih je treba filtrirati. Blokiraj vso vsebino (ustvarjeno z API-jem OpenAI) ki je v nasprotju s pravilnikom o vsebini OpenAI. Poleg tega lahko končna točka tudi odstrani in blokira škodljivo vsebino, ki jo ustvari človek.
Končna točka je bila usposobljena za hitro, natančno in robustno delovanje v različnih aplikacijah. Pomembno je, da to zmanjša možnosti, da bi izdelki "sporočili" napačno stvar, tudi če so uvedeni uporabnikom v velikem obsegu. Posledično lahko umetna inteligenca odklene prednosti v občutljivih okoljih, kot je izobraževanje, kjer je drugače ne bi bilo mogoče zanesljivo uporabljati.
Izboljšana različica končne točke moderiranja zasnovan tako, da je hiter, natančen in robusten v več vrstah aplikacij, vključno s klepetalnimi roboti, ki jih poganja AI, sistemi za sporočanje in spletnimi mesti za družabna omrežja.
Pomembno je, da je OpenAI dejal, da bistveno zmanjša možnosti, da bi model AI "rekel" napačno stvar. To pomeni, da je AI mogoče uporabiti v bolj občutljivih okoljih, kot so izobraževalne aplikacije, kjer so ljudje morda prej imeli zadržke glede izvajanja tehnologije.
Omeniti velja to orodje je brezplačno, če ga uporabljate z vsebino, ki jo ustvari OpenAI API. Poleg moderiranja botov lahko tudi blokirate škodljivo vsebino, ki je ne ustvarijo API-ji OpenAI, temveč ljudje. Platforma za anonimno sporočanje NGL, ki mladim ponuja platformo za izmenjavo svojih občutkov in mnenj, uporablja orodje OpenAI za odkrivanje sovražnega govora in nadlegovanja. NGL je dejal, da ima orodje edinstveno sposobnost posploševanja okoli najnovejšega slenga, kar mu omogoča, da se ujema z razvojem jezika, ki ga na primer uporabljajo najstniki.
Pomembno je tudi omeniti, da je v primeru prometa, ki ni API, končna točka moderiranja predmet plačila.
Kot del zaveze OpenAI, da naredi ekosistem AI bolj varen, nudimo to končno točko, da omogočimo brezplačno moderiranje vse vsebine, ki jo ustvari OpenAI API. Na primer, Inworld, odjemalec OpenAI API, uporablja končno točko moderiranja, da pomaga svojim virtualnim likom, ki temeljijo na AI, "ostati pri skriptu". Z uporabo tehnologije OpenAI se lahko Inworld osredotoči na svoj glavni izdelek: ustvarjanje nepozabnih likov.
OpenAI je to rekel razvijalci ga že lahko začnejo uporabljati, če si ogledajo njegovo dokumentacijo. Objavil je tudi dokument, ki podrobno opisuje proces usposabljanja in uspešnosti, skupaj z naborom podatkov o vrednotenju, za katerega je dejal, da bo navdihnil nadaljnje raziskave na področju moderiranja, ki ga poganja AI.
Končno če vas zanima več o tem, podrobnosti lahko preverite v naslednjo povezavo.