nyligen OpenAI, ideellt forskningsföretag för artificiell intelligens gjorde det känt genom en publikation verktyg för innehållsmoderering Nya och förbättrade (Content Moderation Tooling), som den nämner är mer exakta och är avsedda att hjälpa API-utvecklare att skydda sina applikationer.
OpenAI-forskarteamet tillkännagav en uppdatering av sitt kostnadsfria innehållsmodereringsverktyg som nu är tillgängligt för alla utvecklare.
Moderering slutpunkt ger åtkomst via ett applikationsprogrammeringsgränssnitt till OpenAI:s generativa förtränade transformatorbaserade klassificerare, vad är AI-modeller som har utbildats för att upptäcka oönskat innehåll i appar, sa företaget i ett blogginlägg. Dessa klassificerare upptäcker allt onödigt innehåll i applikationerna.
Företaget har infört denna uppdatering att prestera robust i ett brett spektrum av applikationer, inklusive sociala nätverk, meddelandesystem och AI-chatbots.
När du har angett en inmatningstext, Modereringsslutpunkt analyserar innehåll som hatpropaganda, sexuellt innehåll, kränkande språk etc., som ska filtreras. Blockera allt innehåll (genererad av OpenAI API) som strider mot OpenAIs innehållspolicy. Dessutom kan slutpunkten också ta bort och blockera skadligt mänskligt genererat innehåll.
Endpointen har tränats för att vara snabb, exakt och robust i en mängd olika applikationer. Viktigt är att detta minskar risken för att produkter "säger" fel sak, även när de rullas ut till användare i stor skala. Som en konsekvens kan AI låsa upp fördelar i känsliga miljöer, som utbildning, där den annars inte skulle kunna användas med tillförsikt.
Den förbättrade versionen av Moderering endpoint designad för att vara snabb, exakt och robust över flera typer av applikationer, inklusive AI-drivna chatbots, meddelandesystem och sociala nätverkssajter.
Viktigt, OpenAI sa att det avsevärt minskar chanserna för en AI-modell att "säga" fel sak. Det betyder att AI kan användas i mer känsliga miljöer, som utbildningsapplikationer, där människor tidigare kan ha haft reservationer mot att implementera tekniken.
Det är värt att nämna det Verktyget är gratis när det används med innehåll som genereras av OpenAI API. Förutom att moderera bots kan du också blockera skadligt innehåll som inte genereras av OpenAI API:er utan av människor. Anonym meddelandeplattform NGL, som tillhandahåller en plattform för unga människor att dela sina känslor och åsikter, använder OpenAI-verktyget för att upptäcka hatretorik och trakasserier. NGL sa att verktyget har den unika förmågan att generalisera kring den senaste slangen, vilket gör att det kan matcha utvecklingen av språket som används av tonåringar, till exempel.
Det är också viktigt att nämna att vid icke-API-trafik är modereringsändpunkten avgiftsbelagd.
Som en del av OpenAIs åtagande att göra AI-ekosystemet säkrare tillhandahåller vi denna slutpunkt för att möjliggöra gratis moderering av allt innehåll som genereras av OpenAI API. Till exempel använder Inworld, en OpenAI API-klient, modereringsslutpunkten för att hjälpa sina virtuella AI-baserade karaktärer att "hålla sig på skriptet." Genom att utnyttja OpenAI-tekniken kan Inworld fokusera på sin kärnprodukt: att skapa minnesvärda karaktärer.
OpenAI sa det utvecklare kan redan börja använda den genom att läsa dess dokumentation. Den publicerade också ett dokument som beskriver dess utbildnings- och prestationsprocess, tillsammans med en utvärderingsdatauppsättning som den sa kommer att inspirera till ytterligare forskning inom området för AI-driven moderering.
Slutligen om du är intresserad av att veta mer om detkan du kolla in detaljerna följande länk.