Недавно ОпенАИ, некоммерческая исследовательская компания в области искусственного интеллекта сделал это известным через публикацию инструменты модерации контента Новые и улучшенные (инструменты модерации контента), которые упоминаются, более точны и предназначены для того, чтобы помочь разработчикам API защитить свои приложения.
Исследовательская группа OpenAI объявила об обновлении своего бесплатного инструмента модерации контента, который теперь доступен всем разработчикам.
Конечная точка модерации обеспечивает доступ через интерфейс прикладного программирования к генеративным предварительно обученным классификаторам OpenAI на основе преобразователя, что такое модели ИИ которые прошли обучение для обнаружения нежелательного контента в приложениях, говорится в сообщении в блоге компании. Эти классификаторы обнаруживают любой ненужный контент в приложениях.
Компания ввела это обновление для надежной работы в широком диапазоне приложений, включая социальные сети, системы обмена сообщениями и чат-боты с искусственным интеллектом.
Как только вы предоставите входной текст, Конечная точка модерации анализирует контент как разжигание ненависти, сексуальное содержание, оскорбительные выражения и т. д., подлежащие фильтрации. Заблокировать весь контент (сгенерировано API OpenAI) это противоречит политике содержания OpenAI. Кроме того, конечная точка также может удалять и блокировать вредоносный контент, созданный людьми.
Конечная точка была обучена быть быстрой, точной и надежной в различных приложениях. Важно отметить, что это снижает вероятность того, что продукты «говорят» что-то не то, даже если они развернуты для пользователей в больших масштабах. Как следствие, ИИ может раскрыть преимущества в чувствительных средах, таких как образование, где иначе его нельзя было бы использовать с уверенностью.
Улучшенная версия конечной точки модерации разработан, чтобы быть быстрым, точным и надежным в различных типах приложений, включая чат-боты на базе ИИ, системы обмена сообщениями и сайты социальных сетей.
Важно отметить, что OpenAI заявила, что это значительно снижает вероятность того, что модель ИИ «скажет» не то. Это означает, что ИИ можно использовать в более чувствительных условиях, таких как образовательные приложения, где у людей ранее могли быть оговорки по поводу внедрения технологии.
Стоит отметить, что инструмент бесплатный при использовании с контентом, созданным API OpenAI. Помимо модерации ботов, вы также можете блокировать вредоносный контент, созданный не API OpenAI, а людьми. Платформа для обмена анонимными сообщениями NGL, которая предоставляет молодым людям возможность поделиться своими чувствами и мнениями, использует инструмент OpenAI для обнаружения разжигания ненависти и домогательств. NGL заявила, что инструмент обладает уникальной способностью обобщать новейший сленг, что позволяет ему соответствовать эволюции языка, используемого, например, подростками.
Также важно отметить, что в случае трафика, не связанного с API, за конечную точку модерации взимается плата.
В рамках стремления OpenAI сделать экосистему ИИ более безопасной, мы предоставляем эту конечную точку, чтобы обеспечить бесплатную модерацию всего контента, созданного API OpenAI. Например, Inworld, клиент API OpenAI, использует конечную точку модерации, чтобы помочь своим виртуальным персонажам на основе ИИ «оставаться в сценарии». Используя технологию OpenAI, Inworld может сосредоточиться на своем основном продукте: создании запоминающихся персонажей.
OpenAI сказал, что разработчики уже могут начать использовать его, ознакомившись с его документацией. Он также опубликовал документ, в котором подробно описывается процесс обучения и производительности, а также набор данных для оценки, который, по его словам, вдохновит на дальнейшие исследования в области модерации на основе ИИ.
В конце концов если вам интересно узнать об этом больше, вы можете проверить подробности в по следующей ссылке.