Neseniai OpenAI, pelno nesiekianti dirbtinio intelekto tyrimų bendrovė paviešino per leidinį turinio moderavimo įrankiai Nauji ir patobulinti (turinio moderavimo įrankiai), kurie jame minimi, yra tikslesni ir skirti padėti API kūrėjams apsaugoti savo programas.
OpenAI tyrimų komanda paskelbė apie savo nemokamo turinio moderavimo įrankio atnaujinimą, kuris dabar prieinamas visiems kūrėjams.
Moderavimo galutinis taškas leidžia per taikomųjų programų programavimo sąsają pasiekti generatyvius iš anksto paruoštus transformatorių klasifikatorius, kas yra AI modeliai kurie buvo apmokyti aptikti nepageidaujamą turinį programėlėse, rašoma bendrovės tinklaraščio įraše. Šie klasifikatoriai aptinka bet kokį nereikalingą turinį programose.
Bendrovė pritaikė šį atnaujinimą tvirtai veikti įvairiose srityse, įskaitant socialinius tinklus, pranešimų sistemas ir AI pokalbių robotus.
Kai pateiksite įvesties tekstą, Moderavimo tikslas analizuoja turinį kaip neapykantą kurstančią kalbą, seksualinis turinys, įžeidžianti kalba ir kt., kuriuos reikia filtruoti. Blokuoti visą turinį (sugeneruota OpenAI API) tai prieštarauja OpenAI turinio politikai. Be to, galutinis taškas taip pat gali pašalinti ir blokuoti žalingą žmogaus sukurtą turinį.
Galutinis taškas buvo išmokytas būti greitas, tikslus ir patikimas įvairiose programose. Svarbu tai, kad tai sumažina tikimybę, kad produktai „pasakys“ neteisingai, net jei jie platinami naudotojams. Todėl dirbtinis intelektas gali pasinaudoti jautrioje aplinkoje, pvz., švietime, kur kitu atveju jo nebūtų galima patikimai naudoti.
Patobulinta moderavimo galutinio taško versija sukurtas taip, kad būtų greitas, tikslus ir tvirtas įvairių tipų programose, įskaitant AI valdomus pokalbių robotus, pranešimų sistemas ir socialinių tinklų svetaines.
Svarbu tai, kad „OpenAI“ teigė, kad tai žymiai sumažina tikimybę, kad AI modelis „pasakys“ neteisingą dalyką. Tai reiškia, kad dirbtinis intelektas gali būti naudojamas jautresnėse aplinkose, pvz., švietimo programose, kur žmonės anksčiau galėjo abejoti šios technologijos diegimu.
Verta tai paminėti įrankis yra nemokamas, kai naudojamas su OpenAI API sugeneruotu turiniu. Be botų moderavimo, taip pat galite blokuoti žalingą turinį, kurį generuoja ne OpenAI API, o žmonės. Anoniminė pranešimų siuntimo platforma NGL, kuri suteikia platformą jauniems žmonėms dalytis savo jausmais ir nuomonėmis, naudoja OpenAI įrankį neapykantos kurstymui ir priekabiavimui aptikti. NGL teigė, kad įrankis turi unikalią galimybę apibendrinti naujausią žargoną, kad jis atitiktų, pavyzdžiui, paauglių vartojamos kalbos raidą.
Taip pat svarbu paminėti, kad ne API srauto atveju moderavimo galutinis taškas yra apmokestinamas.
Atsižvelgdami į „OpenAI“ įsipareigojimą padaryti dirbtinio intelekto ekosistemą saugesnę, mes suteikiame šį galutinį tašką, kad būtų galima nemokamai moderuoti visą turinį, sugeneruotą naudojant OpenAI API. Pavyzdžiui, „Inworld“, „OpenAI“ API klientas, naudoja moderavimo tašką, kad padėtų savo virtualiems AI pagrįstiems simboliams „išlikti scenarijuje“. Naudodama OpenAI technologiją, „Inworld“ gali sutelkti dėmesį į savo pagrindinį produktą: kurti įsimintinus personažus.
OpenAI tai pasakė kūrėjai jau gali pradėti juo naudotis, susipažinę su jo dokumentacija. Ji taip pat paskelbė dokumentą, kuriame išsamiai aprašomas jo mokymo ir veiklos procesas, kartu su vertinimo duomenų rinkiniu, kuris, pasak jos, paskatins tolesnius tyrimus dirbtinio intelekto valdomo moderavimo srityje.
Pagaliau jei norite sužinoti daugiau apie tai, išsamią informaciją galite sužinoti šią nuorodą.