Nedavno OpenAI, neprofitna kompanija za istraživanje umjetne inteligencije dao do znanja putem publikacije alati za moderiranje sadržaja Novi i poboljšani (Alati za moderiranje sadržaja), za koje se pominje da su precizniji i imaju za cilj da pomognu API programerima da zaštite svoje aplikacije.
Istraživački tim OpenAI najavio je ažuriranje svog besplatnog alata za moderiranje sadržaja koji je sada dostupan svim programerima.
Krajnja tačka moderiranja omogućava pristup preko interfejsa za programiranje aplikacije OpenAI-jevim generativnim unapred obučenim klasifikatorima zasnovanim na transformatorima, šta su AI modeli koji su prošli obuku za otkrivanje neželjenog sadržaja u aplikacijama, rekla je kompanija u postu na blogu. Ovi klasifikatori otkrivaju bilo kakav nepotreban sadržaj u aplikacijama.
Kompanija je nametnula ovo ažuriranje za robusne performanse u širokom spektru aplikacija, uključujući društvene mreže, sisteme za razmenu poruka i AI chat botove.
Nakon što unesete tekst za unos, Krajnja tačka moderiranja analizira sadržaj kao govor mržnje, seksualni sadržaj, uvredljivi jezik, itd., koje treba filtrirati. Blokiraj sav sadržaj (generira OpenAI API) to je u suprotnosti sa politikom sadržaja OpenAI. Osim toga, krajnja tačka također može ukloniti i blokirati štetni sadržaj koji stvaraju ljudi.
Krajnja tačka je obučena da bude brza, precizna i robusna u raznim aplikacijama. Ono što je važno, ovo smanjuje šanse da proizvodi "kazuju" pogrešnu stvar, čak i kada su predstavljeni korisnicima u velikom obimu. Kao posljedica toga, AI može otkriti prednosti u osjetljivim okruženjima, kao što je obrazovanje, gdje se inače ne bi mogla pouzdano koristiti.
Poboljšana verzija krajnje točke Moderation dizajniran da bude brz, precizan i robustan preko više vrsta aplikacija, uključujući chat botove s AI-om, sisteme za razmjenu poruka i stranice društvenih mreža.
Važno je da OpenAI kaže da značajno smanjuje šanse da AI model "kaže" pogrešnu stvar. To znači da se AI može koristiti u osjetljivijim okruženjima, poput obrazovnih aplikacija, gdje su ljudi možda ranije imali rezerve u pogledu implementacije tehnologije.
Vrijedno je to spomenuti alat je besplatan kada se koristi sa sadržajem koji generiše OpenAI API. Osim moderiranja botova, možete blokirati i štetni sadržaj koji ne generiraju OpenAI API-ji, već ljudi. Anonimna platforma za razmjenu poruka NGL, koja pruža platformu mladim ljudima da podijele svoja osjećanja i mišljenja, koristi OpenAI alat za otkrivanje govora mržnje i uznemiravanja. NGL je rekao da alat ima jedinstvenu sposobnost generalizacije oko najnovijeg slenga, omogućavajući mu da se uklopi u evoluciju jezika koji koriste tinejdžeri, na primjer.
Također je važno napomenuti da u slučaju ne-API saobraćaja, krajnja tačka moderiranja podliježe naknadi.
Kao dio predanosti OpenAI-a da učini AI ekosistem sigurnijim, pružamo ovu krajnju tačku kako bismo omogućili besplatno moderiranje cijelog sadržaja generiranog OpenAI API-jem. Na primjer, Inworld, OpenAI API klijent, koristi krajnju tačku moderiranja kako bi pomogao svojim virtuelnim likovima baziranim na AI da "ostanu na skripti". Koristeći OpenAI tehnologiju, Inworld se može fokusirati na svoj osnovni proizvod: stvaranje nezaboravnih likova.
OpenAI je to rekao programeri već mogu početi da ga koriste konsultujući njegovu dokumentaciju. Također je objavio dokument u kojem se detaljno opisuje proces obuke i performansi, zajedno sa skupom podataka o evaluaciji za koji je rekao da će inspirirati daljnja istraživanja u području moderiranja koje pokreće AI.
Konačno ako ste zainteresirani da saznate više o tome, detalje možete provjeriti u sljedeći link.