Ostatnio OpenAI, firma non-profit zajmująca się badaniami sztucznej inteligencji dał mi znać poprzez publikację narzędzia do moderacji treści Nowe i ulepszone (narzędzia do moderacji treści), o których wspomina, są bardziej precyzyjne i mają na celu pomóc programistom API chronić ich aplikacje.
Zespół badawczy OpenAI ogłosił aktualizację swojego bezpłatnego narzędzia do moderowania treści, które jest teraz dostępne dla wszystkich programistów.
Punkt końcowy moderacji umożliwia dostęp za pośrednictwem interfejsu programowania aplikacji do generatywnych, wstępnie przeszkolonych klasyfikatorów opartych na transformatorach OpenAI, jakie są modele AI którzy zostali przeszkoleni do wykrywania niechcianych treści w aplikacjach, podała firma w poście na blogu. Te klasyfikatory wykrywają wszelkie niepotrzebne treści w aplikacjach.
Firma narzuciła tę aktualizację do niezawodnego działania w szerokim zakresie zastosowań, w tym sieci społecznościowe, systemy przesyłania wiadomości i chatboty AI.
Po wprowadzeniu tekstu wejściowego Punkt końcowy moderacji analizuje treść jako mowę nienawiści, treści o charakterze seksualnym, obraźliwy język itp. do filtrowania. Blokuj całą zawartość (generowane przez API OpenAI) co jest sprzeczne z polityką treści OpenAI. Ponadto punkt końcowy może również usuwać i blokować szkodliwe treści tworzone przez ludzi.
Punkt końcowy został przeszkolony tak, aby był szybki, dokładny i niezawodny w różnych zastosowaniach. Co ważne, zmniejsza to szanse na to, że produkty „powiedzą” niewłaściwą rzecz, nawet po udostępnieniu użytkownikom na dużą skalę. W konsekwencji sztuczna inteligencja może odblokowywać korzyści w wrażliwych środowiskach, takich jak edukacja, gdzie inaczej nie mogłaby być używana z pewnością.
Ulepszona wersja punktu końcowego moderacji zaprojektowany tak, aby był szybki, dokładny i solidny w wielu typach aplikacji, w tym chatbotach wykorzystujących sztuczną inteligencję, systemach przesyłania wiadomości i serwisach społecznościowych.
Co ważne, OpenAI powiedział, że znacznie zmniejsza szanse, że model AI „mówi” niewłaściwą rzecz. Oznacza to, że sztuczna inteligencja może być używana w bardziej wrażliwych ustawieniach, takich jak aplikacje edukacyjne, w których ludzie mogli wcześniej mieć zastrzeżenia do wdrażania technologii.
Warto zaznaczyć, że narzędzie jest bezpłatne, gdy jest używane z treściami generowanymi przez API OpenAI. Oprócz moderowania botów możesz także blokować szkodliwe treści, które są generowane nie przez API OpenAI, ale przez ludzi. Platforma anonimowych wiadomości NGL, która zapewnia młodym ludziom platformę do dzielenia się swoimi uczuciami i opiniami, wykorzystuje narzędzie OpenAI do wykrywania mowy nienawiści i nękania. NGL powiedział, że narzędzie ma wyjątkową zdolność do generalizowania na podstawie najnowszego slangu, co pozwala na przykład na dopasowanie do ewolucji języka używanego przez nastolatków.
Należy również wspomnieć, że w przypadku ruchu non-API, moderacyjny punkt końcowy podlega opłacie.
W ramach zobowiązania OpenAI do zwiększenia bezpieczeństwa ekosystemu AI udostępniamy ten punkt końcowy, aby umożliwić bezpłatne moderowanie wszystkich treści generowanych przez API OpenAI. Na przykład Inworld, klient API OpenAI, używa punktu końcowego moderacji, aby pomóc swoim wirtualnym postaciom opartym na sztucznej inteligencji „pozostać w skrypcie”. Wykorzystując technologię OpenAI, Inworld może skupić się na swoim podstawowym produkcie: tworzeniu niezapomnianych postaci.
OpenAI powiedział, że programiści mogą już zacząć z niego korzystać, zapoznając się z jego dokumentacją. Opublikowała również dokument szczegółowo opisujący proces szkolenia i wydajności, wraz z zestawem danych ewaluacyjnych, który, jak twierdzi, zainspiruje dalsze badania w obszarze moderacji opartej na sztucznej inteligencji.
W końcu jeśli chcesz dowiedzieć się więcej na ten temat, możesz sprawdzić szczegóły w poniższy link.