nylig OpenAI, non-profit forskningsselskap for kunstig intelligens gjort det kjent gjennom en publikasjon verktøy for innholdsmoderering Ny og forbedret (Content Moderation Tooling), som den nevner er mer presise og er ment å hjelpe API-utviklere med å beskytte applikasjonene sine.
OpenAI-forskningsteamet kunngjorde en oppdatering til sitt gratis innholdsmodereringsverktøy som nå er tilgjengelig for alle utviklere.
Moderasjonsendepunkt gir tilgang via et applikasjonsprogrammeringsgrensesnitt til OpenAIs generative forhåndstrente transformatorbaserte klassifikatoren, hva er AI-modeller som har fått opplæring for å oppdage uønsket innhold i apper, sa selskapet i et blogginnlegg. Disse klassifikatorene oppdager unødvendig innhold i applikasjonene.
Selskapet har pålagt denne oppdateringen å yte robust i et bredt spekter av bruksområder, inkludert sosiale nettverk, meldingssystemer og AI chatbots.
Når du har oppgitt en inndatatekst, Moderasjonsendepunkt analyserer innhold som hatytringer, seksuelt innhold, krenkende språk osv., som skal filtreres. Blokker alt innhold (generert av OpenAI API) som er i strid med OpenAIs innholdspolicy. I tillegg kan endepunktet også fjerne og blokkere skadelig menneskeskapt innhold.
Endepunktet har blitt opplært til å være raskt, nøyaktig og robust i en rekke bruksområder. Viktigere er at dette reduserer sjansene for at produkter "sier" feil ting, selv når de rulles ut til brukere i stor skala. Som en konsekvens kan AI låse opp fordeler i sensitive miljøer, for eksempel utdanning, der den ellers ikke kunne brukes med selvtillit.
Den forbedrede versjonen av Moderering-endepunkt designet for å være rask, nøyaktig og robust på tvers av flere typer applikasjoner, inkludert AI-drevne chatbots, meldingssystemer og sosiale nettverkssider.
Viktigere, OpenAI sa at det reduserer sjansene betydelig for at en AI-modell "sier" feil ting. Det betyr at AI kan brukes i mer sensitive omgivelser, som pedagogiske applikasjoner, der folk tidligere kan ha hatt forbehold om å implementere teknologien.
Det er verdt å nevne det verktøyet er gratis når det brukes med innhold generert av OpenAI API. I tillegg til å moderere roboter, kan du også blokkere skadelig innhold som ikke genereres av OpenAI APIer, men av mennesker. Anonym meldingsplattform NGL, som gir unge mennesker en plattform for å dele følelser og meninger, bruker OpenAI-verktøyet for å oppdage hatytringer og trakassering. NGL sa at verktøyet har den unike evnen til å generalisere rundt den siste slangen, slik at den kan matche utviklingen av språket som brukes av for eksempel tenåringer.
Det er også viktig å nevne at ved ikke-API-trafikk er moderasjonsendepunktet avgiftsbelagt.
Som en del av OpenAIs forpliktelse til å gjøre AI-økosystemet sikrere, tilbyr vi dette endepunktet for å muliggjøre gratis moderering av alt innhold generert av OpenAI API. For eksempel bruker Inworld, en OpenAI API-klient, moderasjonsendepunktet for å hjelpe sine virtuelle AI-baserte karakterer med å "bli på skriptet." Ved å utnytte OpenAI-teknologien kan Inworld fokusere på sitt kjerneprodukt: å skape minneverdige karakterer.
OpenAI sa det utviklere kan allerede begynne å bruke den ved å konsultere dokumentasjonen. Den publiserte også et dokument som beskriver trenings- og ytelsesprosessen, sammen med et evalueringsdatasett som den sa vil inspirere til videre forskning innen området AI-drevet moderering.
Endelig hvis du er interessert i å vite mer om det, kan du sjekke detaljene i følgende lenke.