Nesen OpenAI, bezpeļņas mākslīgā intelekta pētniecības uzņēmums darīja to zināmu izmantojot publikāciju satura regulēšanas rīki Jauni un uzlaboti (satura moderēšanas rīki), kas tajā minēti, ir precīzāki un paredzēti, lai palīdzētu API izstrādātājiem aizsargāt savas lietojumprogrammas.
OpenAI pētniecības komanda paziņoja par sava bezmaksas satura regulēšanas rīka atjauninājumu, kas tagad ir pieejams visiem izstrādātājiem.
Moderācijas galapunkts ļauj piekļūt, izmantojot lietojumprogrammu saskarni, OpenAI ģeneratīviem iepriekš apmācītiem transformatoriem balstītiem klasifikatoriem, kas ir AI modeļi kuri ir apmācīti lai atklātu nevēlamu saturu lietotnēs, uzņēmums teica emuāra ierakstā. Šie klasifikatori atklāj jebkādu nevajadzīgu saturu lietojumprogrammās.
Uzņēmums ir ieviesis šo atjauninājumu stabili darboties plašā lietojumu klāstā, tostarp sociālajos tīklos, ziņojumapmaiņas sistēmās un AI tērzēšanas robotos.
Kad esat ievadījis ievades tekstu, Moderācijas galapunkts analizē saturu kā naida runu, seksuāla rakstura saturs, aizskaroša valoda utt., kas jāfiltrē. Bloķēt visu saturu (ģenerēja OpenAI API) kas ir pretrunā OpenAI satura politikai. Turklāt galapunkts var arī noņemt un bloķēt kaitīgu cilvēku radītu saturu.
Galapunkts ir apmācīts, lai tas būtu ātrs, precīzs un izturīgs dažādās lietojumprogrammās. Svarīgi, ka tas samazina iespēju, ka produkti "pateiks" nepareizo vārdu pat tad, ja tie tiek plaši izplatīti lietotājiem. Rezultātā mākslīgais intelekts var sniegt priekšrocības jutīgā vidē, piemēram, izglītībā, kur to citādi nevarētu droši izmantot.
Moderācijas galapunkta uzlabotā versija izstrādāts tā, lai tas būtu ātrs, precīzs un izturīgs vairāku veidu lietojumprogrammās, tostarp ar AI darbināmos tērzēšanas robotos, ziņojumapmaiņas sistēmās un sociālo tīklu vietnēs.
Svarīgi ir tas, ka OpenAI teica, ka tas ievērojami samazina iespēju, ka AI modelis "pasaka" nepareizi. Tas nozīmē, ka mākslīgo intelektu var izmantot sensitīvākos iestatījumos, piemēram, izglītības lietojumprogrammās, kur cilvēkiem, iespējams, iepriekš bija iebildumi pret šīs tehnoloģijas ieviešanu.
Ir vērts to pieminēt rīks ir bezmaksas, ja to lieto kopā ar saturu, ko ģenerē OpenAI API. Papildus robotu regulēšanai varat arī bloķēt kaitīgu saturu, ko ģenerē nevis OpenAI API, bet gan cilvēki. Anonīmā ziņojumapmaiņas platforma NGL, kas nodrošina platformu jauniešiem, lai dalītos savās jūtās un viedokļos, izmanto OpenAI rīku, lai atklātu naida runu un uzmākšanos. NGL teica, ka rīkam ir unikāla spēja vispārināt jaunāko slengu, ļaujot tam pielāgoties, piemēram, pusaudžu lietotās valodas attīstībai.
Ir arī svarīgi pieminēt, ka ne-API trafika gadījumā moderēšanas galapunktam ir jāmaksā.
Kā daļu no OpenAI apņemšanās padarīt AI ekosistēmu drošāku, mēs nodrošinām šo galapunktu, lai nodrošinātu visa OpenAI API ģenerētā satura bezmaksas regulēšanu. Piemēram, Inworld, OpenAI API klients, izmanto moderēšanas galapunktu, lai palīdzētu savām virtuālajām AI rakstzīmēm "palikt pie skripta". Izmantojot OpenAI tehnoloģiju, Inworld var koncentrēties uz savu pamatproduktu: neaizmirstamu varoņu radīšanu.
OpenAI to teica izstrādātāji jau var sākt to lietot, iepazīstoties ar tā dokumentāciju. Tā arī publicēja dokumentu, kurā sīki aprakstīts apmācības un veiktspējas process, kā arī novērtējuma datu kopa, kas, pēc tās teiktā, iedvesmos turpmākus pētījumus ar AI darbināmas moderācijas jomā.
Beidzot ja jūs interesē uzzināt vairāk par to, sīkāku informāciju varat pārbaudīt sadaļā šo saiti.