nylig OpenAI, non-profit forskningsvirksomhed inden for kunstig intelligens gjort det kendt gennem en udgivelse værktøjer til moderering af indhold Nye og forbedrede (Content Moderation Tooling), som den nævner, er mere præcise og har til formål at hjælpe API-udviklere med at beskytte deres applikationer.
OpenAI-forskerteamet annoncerede en opdatering til deres gratis indholdsmodereringsværktøj, der nu er tilgængeligt for alle udviklere.
Modereringsslutpunkt giver adgang via en applikationsprogrammeringsgrænseflade til OpenAIs generative fortrænede transformer-baserede klassifikatorer, hvad er AI-modeller som er blevet uddannet at opdage uønsket indhold i apps, sagde virksomheden i et blogindlæg. Disse klassifikatorer registrerer unødvendigt indhold i applikationerne.
Virksomheden har pålagt denne opdatering at yde robust i en bred vifte af applikationer, herunder sociale netværk, beskedsystemer og AI-chatbots.
Når du har angivet en inputtekst, Modereringsendepunkt analyserer indhold som hadefulde ytringer, seksuelt indhold, krænkende sprog osv., der skal filtreres. Bloker alt indhold (genereret af OpenAI API) det er i strid med OpenAI-indholdspolitikken. Derudover kan slutpunktet også fjerne og blokere skadeligt menneskeskabt indhold.
Slutpunktet er blevet trænet til at være hurtigt, præcist og robust i en række forskellige applikationer. Det er vigtigt, at dette reducerer chancerne for, at produkter "siger" det forkerte, selv når de rulles ud til brugere i stor skala. Som en konsekvens kan AI frigøre fordele i følsomme miljøer, såsom uddannelse, hvor den ellers ikke kunne bruges med tillid.
Den forbedrede version af Moderation endpoint designet til at være hurtig, præcis og robust på tværs af flere typer applikationer, herunder AI-drevne chatbots, beskedsystemer og sociale netværkssider.
Det er vigtigt, at OpenAI sagde, at det reducerer chancerne for, at en AI-model "siger" det forkerte. Det betyder, at kunstig intelligens kan bruges i mere følsomme omgivelser, som f.eks. uddannelsesapplikationer, hvor folk tidligere kan have haft forbehold over for implementering af teknologien.
Det er værd at nævne det værktøjet er gratis, når det bruges med indhold genereret af OpenAI API. Ud over at moderere bots kan du også blokere skadeligt indhold, der ikke er genereret af OpenAI API'er, men af mennesker. Anonym meddelelsesplatform NGL, som giver unge mennesker en platform til at dele deres følelser og meninger, bruger OpenAI-værktøjet til at opdage hadefulde ytringer og chikane. NGL sagde, at værktøjet har den unikke evne til at generalisere omkring den nyeste slang, hvilket gør det muligt at matche udviklingen af det sprog, der bruges af teenagere, for eksempel.
Det er også vigtigt at nævne, at i tilfælde af ikke-API-trafik er modereringsendepunktet pålagt et gebyr.
Som en del af OpenAI's forpligtelse til at gøre AI-økosystemet mere sikkert, leverer vi dette slutpunkt for at muliggøre gratis moderering af alt indhold genereret af OpenAI API. For eksempel bruger Inworld, en OpenAI API-klient, modereringsslutpunktet til at hjælpe sine virtuelle AI-baserede karakterer med at "blive på scriptet." Ved at udnytte OpenAI-teknologien kan Inworld fokusere på sit kerneprodukt: at skabe mindeværdige karakterer.
OpenAI sagde det udviklere kan allerede begynde at bruge det ved at konsultere dets dokumentation. Det udgav også et dokument, der beskriver dets trænings- og præstationsproces sammen med et evalueringsdatasæt, som det sagde vil inspirere til yderligere forskning inden for området AI-drevet moderering.
Endelig hvis du er interesseret i at vide mere om det, kan du tjekke detaljerne i følgende link.