onlangs Open AI, non-profit onderzoeksbureau voor kunstmatige intelligentie maakte het bekend via een publicatie tools voor contentmoderatie Nieuw en verbeterd (Content Moderation Tooling), die het noemt, zijn nauwkeuriger en zijn bedoeld om API-ontwikkelaars te helpen hun applicaties te beschermen.
Het onderzoeksteam van OpenAI heeft een update aangekondigd van zijn gratis tool voor contentmoderatie die nu beschikbaar is voor alle ontwikkelaars.
Moderatie eindpunt biedt toegang via een applicatie-programmeerinterface tot OpenAI's generatieve, vooraf getrainde, op transformatoren gebaseerde classifiers, wat zijn AI-modellen? die zijn opgeleid om ongewenste inhoud te detecteren in apps, zei het bedrijf in een blogpost. Deze classifiers detecteren onnodige inhoud in de applicaties.
Het bedrijf heeft deze update opgelegd om robuust te presteren in een breed scala aan toepassingen, inclusief sociale netwerken, berichtensystemen en AI-chatbots.
Zodra u een invoertekst opgeeft, Moderatie-eindpunt analyseert inhoud als aanzetten tot haat, seksuele inhoud, grof taalgebruik, enz., moeten worden gefilterd. Alle inhoud blokkeren (gegenereerd door de OpenAI API) dat druist in tegen het inhoudsbeleid van OpenAI. Bovendien kan het eindpunt ook schadelijke door mensen gegenereerde inhoud verwijderen en blokkeren.
Het eindpunt is getraind om snel, nauwkeurig en robuust te zijn in een verscheidenheid aan toepassingen. Belangrijk is dat dit de kans verkleint dat producten het verkeerde 'zeggen', zelfs wanneer ze op grote schaal naar gebruikers worden uitgerold. Als gevolg hiervan kan AI voordelen ontsluiten in gevoelige omgevingen, zoals onderwijs, waar het anders niet met vertrouwen zou kunnen worden gebruikt.
De verbeterde versie van Moderatie-eindpunt ontworpen om snel, nauwkeurig en robuust te zijn voor meerdere soorten toepassingen, waaronder door AI aangedreven chatbots, berichtensystemen en sociale netwerksites.
Belangrijk is dat OpenAI zei dat het de kans aanzienlijk verkleint dat een AI-model het verkeerde "zegt". Dat betekent dat AI kan worden gebruikt in meer gevoelige omgevingen, zoals educatieve toepassingen, waar mensen eerder bedenkingen hadden bij het implementeren van de technologie.
Dat is het vermelden waard de tool is gratis bij gebruik met inhoud die is gegenereerd door de OpenAI API. Naast het modereren van bots, kunt u ook schadelijke inhoud blokkeren die niet door OpenAI API's, maar door mensen wordt gegenereerd. Anoniem berichtenplatform NGL, dat jongeren een platform biedt om hun gevoelens en meningen te delen, gebruikt de OpenAI-tool om haatzaaiende uitlatingen en intimidatie te detecteren. NGL zei dat de tool het unieke vermogen heeft om te generaliseren rond het nieuwste jargon, waardoor het past bij de evolutie van de taal die bijvoorbeeld door tieners wordt gebruikt.
Het is ook belangrijk om te vermelden dat in het geval van niet-API-verkeer, het moderatie-eindpunt onderworpen is aan een vergoeding.
Als onderdeel van OpenAI's inzet om het AI-ecosysteem veiliger te maken, bieden we dit eindpunt om gratis moderatie mogelijk te maken van alle inhoud die wordt gegenereerd door de OpenAI API. Inworld, een OpenAI API-client, gebruikt bijvoorbeeld het moderatie-eindpunt om zijn virtuele AI-gebaseerde karakters te helpen "op het script te blijven". Door gebruik te maken van OpenAI-technologie kan Inworld zich concentreren op zijn kernproduct: het creëren van gedenkwaardige personages.
OpenAI zei dat ontwikkelaars kunnen het al gaan gebruiken door de documentatie te raadplegen. Het publiceerde ook een document waarin het training- en prestatieproces wordt beschreven, samen met een evaluatiedataset waarvan het zei dat het verder onderzoek op het gebied van AI-aangedreven moderatie zal inspireren.
Eindelijk als u er meer over wilt weten, kunt u de details inchecken de volgende link.