nedavno OpenAI, neprofitna tvrtka za istraživanje umjetne inteligencije dao do znanja kroz publikaciju alati za moderiranje sadržaja Novo i poboljšano (alat za moderiranje sadržaja), za koje se spominje da su preciznije i namijenjene su pomoći programerima API-ja u zaštiti njihovih aplikacija.
Istraživački tim OpenAI najavio je ažuriranje svog besplatnog alata za moderiranje sadržaja koji je sada dostupan svim programerima.
Krajnja točka moderiranja omogućuje pristup putem sučelja za programiranje aplikacija OpenAI-jevim generativnim unaprijed obučenim klasifikatorima temeljenim na transformatorima, što su AI modeli koji su bili obučeni za otkrivanje neželjenog sadržaja u aplikacijama, rekla je tvrtka u objavi na blogu. Ovi klasifikatori otkrivaju svaki nepotreban sadržaj u aplikacijama.
Tvrtka je nametnula ovo ažuriranje za robusnu izvedbu u širokom rasponu primjena, uključujući društvene mreže, sustave za razmjenu poruka i AI chatbotove.
Nakon što unesete tekst za unos, Krajnja točka moderiranja analizira sadržaj kao govor mržnje, seksualni sadržaj, uvredljiv jezik itd., koje treba filtrirati. Blokiraj sav sadržaj (generira OpenAI API) to je u suprotnosti s politikom sadržaja OpenAI. Osim toga, krajnja točka također može ukloniti i blokirati štetan sadržaj koji su stvorili ljudi.
Krajnja točka je osposobljena da bude brza, točna i robusna u različitim primjenama. Ono što je važno, to smanjuje šanse da proizvodi "govore" pogrešnu stvar, čak i kada se šire korisnicima. Kao posljedica toga, umjetna inteligencija može otključati prednosti u osjetljivim okruženjima, kao što je obrazovanje, gdje se inače ne bi mogla koristiti s povjerenjem.
Poboljšana verzija krajnje točke moderiranja dizajniran da bude brz, točan i robustan u više vrsta aplikacija, uključujući chatbotove koje pokreće umjetna inteligencija, sustave za razmjenu poruka i web stranice za društveno umrežavanje.
Ono što je važno, OpenAI je rekao da značajno smanjuje šanse da AI model "kaže" krivu stvar. To znači da se AI može koristiti u osjetljivijim okruženjima, kao što su obrazovne aplikacije, gdje su ljudi prethodno mogli imati rezerve prema implementaciji tehnologije.
Vrijedno je to spomenuti alat je besplatan kada se koristi sa sadržajem koji generira OpenAI API. Osim moderiranja botova, također možete blokirati štetan sadržaj koji nisu generirali OpenAI API-ji, već ljudi. Platforma za anonimnu razmjenu poruka NGL, koja mladima pruža platformu za dijeljenje svojih osjećaja i mišljenja, koristi alat OpenAI za otkrivanje govora mržnje i uznemiravanja. NGL je rekao da alat ima jedinstvenu sposobnost generaliziranja oko najnovijeg slenga, što mu omogućuje da odgovara evoluciji jezika koji koriste, na primjer, tinejdžeri.
Također je važno spomenuti da u slučaju prometa koji nije povezan s API-jem krajnja točka moderiranja podliježe naknadi.
Kao dio OpenAI-jeve predanosti da ekosustav umjetne inteligencije učini sigurnijim, nudimo ovu krajnju točku kako bismo omogućili besplatno moderiranje svih sadržaja koje generira OpenAI API. Na primjer, Inworld, OpenAI API klijent, koristi krajnju točku moderiranja kako bi pomogao svojim virtualnim likovima temeljenim na umjetnoj inteligenciji da "ostanu na scenariju". Koristeći tehnologiju OpenAI, Inworld se može usredotočiti na svoj temeljni proizvod: stvaranje nezaboravnih likova.
OpenAI je to rekao programeri ga već mogu početi koristiti pregledavanjem njegove dokumentacije. Također je objavio dokument u kojem je detaljno opisan proces obuke i izvedbe, zajedno sa skupom podataka o procjeni za koji je rekao da će potaknuti daljnja istraživanja u području moderiranja koje pokreće AI.
Konačno ako vas zanima više o tome, detalje možete provjeriti u sljedeći link.