наскоро OpenAI, компания с нестопанска цел за изследване на изкуствения интелект го направи известен чрез публикация инструменти за модериране на съдържание Нови и подобрени (инструменти за модериране на съдържание), които се споменават, че са по-прецизни и имат за цел да помогнат на разработчиците на API да защитят своите приложения.
Изследователският екип на OpenAI обяви актуализация на своя безплатен инструмент за модериране на съдържание, който вече е достъпен за всички разработчици.
Крайна точка на модериране позволява достъп чрез интерфейс за програмиране на приложения до генеративните предварително обучени класификатори, базирани на трансформатор на OpenAI, какво представляват AI моделите които са били обучени за откриване на нежелано съдържание в приложенията, каза компанията в публикация в блог. Тези класификатори откриват всяко ненужно съдържание в приложенията.
Компанията е наложила тази актуализация да работи стабилно в широк спектър от приложения, включително социални мрежи, системи за съобщения и AI chatbots.
След като предоставите текст за въвеждане, Крайната точка на модерирането анализира съдържанието като реч на омразата, сексуално съдържание, обиден език и т.н., които да бъдат филтрирани. Блокирайте цялото съдържание (генериран от OpenAI API) това противоречи на политиката за съдържание на OpenAI. Освен това крайната точка може също да премахва и блокира вредно съдържание, генерирано от човека.
Крайната точка е обучена да бъде бърза, точна и стабилна в различни приложения. Важно е, че това намалява шансовете продуктите да „казват“ грешното нещо, дори когато се разпространяват на потребителите в мащаб. В резултат на това AI може да отключи предимства в чувствителни среди, като например образование, където иначе не би могъл да се използва с увереност.
Подобрената версия на крайната точка за модериране проектиран да бъде бърз, точен и здрав в множество типове приложения, включително базирани на AI чатботове, системи за съобщения и сайтове за социални мрежи.
Важното е, че OpenAI каза, че значително намалява шансовете AI модел да „каже“ грешното нещо. Това означава, че AI може да се използва в по-чувствителни настройки, като образователни приложения, където хората преди това може да са имали резерви относно внедряването на технологията.
Струва си да се спомене това инструментът е безплатен, когато се използва със съдържание, генерирано от OpenAI API. В допълнение към модерирането на ботове, можете също да блокирате вредно съдържание, което се генерира не от OpenAI API, а от хора. Платформата за анонимни съобщения NGL, която предоставя платформа за младите хора да споделят своите чувства и мнения, използва инструмента OpenAI за откриване на реч на омразата и тормоз. NGL каза, че инструментът има уникалната способност да обобщава най-новия жаргон, което му позволява да съответства на еволюцията на езика, използван от тийнейджърите, например.
Също така е важно да се спомене, че в случай на трафик, различен от API, крайната точка за модериране подлежи на такса.
Като част от ангажимента на OpenAI да направи AI екосистемата по-сигурна, ние предоставяме тази крайна точка, за да позволим безплатно модериране на цялото съдържание, генерирано от OpenAI API. Например, Inworld, OpenAI API клиент, използва крайната точка за модериране, за да помогне на своите виртуални базирани на AI герои да „останат на сценария“. Използвайки технологията OpenAI, Inworld може да се съсредоточи върху своя основен продукт: създаване на запомнящи се герои.
OpenAI каза това разработчиците вече могат да започнат да го използват, като се консултират с неговата документация. Той също така публикува документ, описващ подробно процеса на обучение и ефективност, заедно с набор от данни за оценка, който според него ще вдъхнови по-нататъшни изследвания в областта на модерирането, задвижвано от AI.
Накрая ако се интересувате да научите повече за това, можете да проверите подробностите в следната връзка.