äskettäin OpenAI, voittoa tavoittelematon tekoälytutkimusyhtiö teki siitä tunnetuksi julkaisun kautta sisällönvalvontatyökalut Uudet ja parannetut (Content Moderation Tooling), jotka siinä mainitaan ovat tarkempia ja joiden tarkoituksena on auttaa API-kehittäjiä suojaamaan sovelluksiaan.
OpenAI-tutkimusryhmä ilmoitti päivityksestä ilmaiseen sisällönvalvontatyökaluun, joka on nyt kaikkien kehittäjien saatavilla.
Moderoinnin päätepiste mahdollistaa pääsyn sovellusohjelmointirajapinnan kautta OpenAI:n generatiivisiin esiopetettuihin muuntajapohjaisiin luokittimiin, mitä ovat AI-mallit jotka on koulutettu ei-toivotun sisällön havaitsemiseksi sovelluksissa, yritys sanoi blogikirjoituksessaan. Nämä luokittimet havaitsevat tarpeettoman sisällön sovelluksista.
Yritys on tehnyt tämän päivityksen toimii lujasti monenlaisissa sovelluksissa, mukaan lukien sosiaaliset verkostot, viestijärjestelmät ja AI-chatbotit.
Kun annat syöttötekstin, Moderoinnin päätepiste analysoi sisällön vihapuheena, seksuaalista sisältöä, loukkaavaa kielenkäyttöä jne., jotka suodatetaan. Estä kaikki sisältö (OpenAI-sovellusliittymän luoma) mikä on vastoin OpenAI-sisältökäytäntöä. Lisäksi päätepiste voi myös poistaa ja estää haitallisen ihmisen luoman sisällön.
Päätepiste on koulutettu olemaan nopea, tarkka ja kestävä useissa eri sovelluksissa. Tärkeää on, että tämä vähentää mahdollisuuksia, että tuotteet "sanovat" väärän asian, vaikka ne levitettäisiin käyttäjille suuressa mittakaavassa. Tämän seurauksena tekoäly voi avata etuja herkissä ympäristöissä, kuten koulutuksessa, joissa sitä ei muuten voisi käyttää luotettavasti.
Moderoinnin päätepisteen parannettu versio suunniteltu nopeaksi, tarkaksi ja kestäväksi monenlaisissa sovelluksissa, mukaan lukien tekoälypohjaiset chatbotit, viestintäjärjestelmät ja sosiaaliset verkostot.
Tärkeää on, että OpenAI sanoi, että se vähentää merkittävästi mahdollisuuksia, että AI-malli "sanoo" väärän asian. Tämä tarkoittaa, että tekoälyä voidaan käyttää herkemmissä olosuhteissa, kuten koulutussovelluksissa, joissa ihmiset ovat saaneet aiemmin suhtautua varauksellisesti tekniikan käyttöön.
On syytä mainita se työkalu on ilmainen, kun sitä käytetään OpenAI API:n luoman sisällön kanssa. Bottien valvomisen lisäksi voit myös estää haitallisen sisällön, joka ei ole OpenAI-sovellusliittymien, vaan ihmisten tuottamaa. Anonyymi viestintäalusta NGL, joka tarjoaa nuorille foorumin tunteidensa ja mielipiteidensä jakamiseen, käyttää OpenAI-työkalua vihapuheen ja häirinnän havaitsemiseen. NGL sanoi, että työkalulla on ainutlaatuinen kyky yleistää uusimman slangin ympärille, mikä mahdollistaa sen vastaamisen esimerkiksi teini-ikäisten käyttämän kielen kehitykseen.
On myös tärkeää mainita, että ei-API-liikenteen tapauksessa moderoinnin päätepiste on maksullinen.
Osana OpenAI:n sitoumusta tehdä tekoälyekosysteemistä turvallisempi tarjoamme tämän päätepisteen, joka mahdollistaa kaiken OpenAI API:n luoman sisällön ilmaisen moderoinnin. Esimerkiksi Inworld, OpenAI API -asiakas, käyttää moderoinnin päätepistettä auttaakseen virtuaalisia tekoälypohjaisia merkkejä "pysymään käsikirjoituksessa". Hyödyntämällä OpenAI-teknologiaa Inworld voi keskittyä ydintuotteeseen: ikimuistoisten hahmojen luomiseen.
OpenAI sanoi sen kehittäjät voivat jo aloittaa sen käytön tutustumalla sen dokumentaatioon. Se julkaisi myös asiakirjan, jossa kerrotaan yksityiskohtaisesti sen koulutus- ja suorituskykyprosessista, sekä arviointitietoaineisto, jonka se sanoi inspiroivan lisätutkimukseen tekoälyn käyttämän moderoinnin alalla.
Vihdoin jos olet kiinnostunut tietämään siitä lisää, voit tarkistaa yksityiskohdat seuraava linkki.