Останнім часом OpenAI, некомерційна дослідницька компанія штучного інтелекту дав про це знати через публікацію засоби модерації контенту Нові й покращені (інструменти модерації вмісту), які, як згадується, є більш точними та призначені для того, щоб допомогти розробникам API захистити свої програми.
Дослідницька група OpenAI оголосила про оновлення свого безкоштовного інструменту модерації вмісту, який тепер доступний для всіх розробників.
Кінцева точка модерації забезпечує доступ через інтерфейс прикладного програмування до генеративних класифікаторів на основі трансформаторів OpenAI, що таке моделі ШІ які пройшли навчання для виявлення небажаного вмісту у додатках, повідомляється в блозі компанії. Ці класифікатори виявляють будь-який непотрібний вміст у програмах.
Компанія запровадила це оновлення для надійної роботи в широкому діапазоні застосувань, включаючи соціальні мережі, системи обміну повідомленнями та чат-боти AI.
Після введення тексту, Кінцева точка модерації аналізує вміст як ворожнечу, вміст сексуального характеру, образлива лексика тощо, які підлягають фільтруванню. Блокувати весь вміст (генерується OpenAI API) що суперечить політиці щодо вмісту OpenAI. Крім того, кінцева точка також може видаляти та блокувати шкідливий вміст, створений людиною.
Кінцеву точку було навчено бути швидкою, точною та надійною в різноманітних програмах. Важливо те, що це зменшує ймовірність того, що продукти «скажуть» неправильні речі, навіть якщо їх розгортають серед користувачів. Як наслідок, штучний інтелект може розблокувати переваги в чутливих середовищах, таких як освіта, де інакше його неможливо використовувати з упевненістю.
Покращена версія кінцевої точки модерації розроблений як швидкий, точний і надійний у різних типах додатків, включаючи чат-боти на основі ШІ, системи обміну повідомленнями та сайти соціальних мереж.
Важливо те, що OpenAI сказав, що це значно зменшує ймовірність того, що модель ШІ «скаже» неправильні речі. Це означає, що штучний інтелект можна використовувати в більш чутливих умовах, наприклад, у навчальних програмах, де люди раніше могли сумніватися щодо впровадження технології.
Варто зазначити це інструмент є безкоштовним, якщо його використовувати з вмістом, створеним OpenAI API. Окрім модерації ботів, ви також можете блокувати шкідливий вміст, створений не OpenAI API, а людьми. Платформа анонімного обміну повідомленнями NGL, яка надає молодим людям платформу для обміну своїми почуттями та думками, використовує інструмент OpenAI для виявлення ненависті та переслідувань. NGL каже, що інструмент має унікальну здатність узагальнювати найновіший сленг, що дозволяє йому відповідати еволюції мови, якою користуються, наприклад, підлітки.
Також важливо зазначити, що у випадку трафіку, не пов’язаного з API, кінцева точка модерації підлягає оплаті.
У рамках зобов’язань OpenAI зробити екосистему штучного інтелекту більш безпечною, ми надаємо цю кінцеву точку, щоб увімкнути безкоштовну модерацію всього вмісту, створеного OpenAI API. Наприклад, Inworld, клієнт OpenAI API, використовує кінцеву точку модерації, щоб допомогти своїм віртуальним персонажам на основі ШІ «залишатися на сценарії». Використовуючи технологію OpenAI, Inworld може зосередитися на своєму основному продукті: створенні персонажів, що запам’ятовуються.
Це сказав OpenAI розробники вже можуть почати використовувати його, звернувшись до його документації. Він також опублікував документ із детальним описом процесу навчання та ефективності, а також набір оціночних даних, який, за його словами, надихне подальші дослідження в області модерування на основі ШІ.
В кінці кінців якщо вам цікаво дізнатись більше про це, Ви можете перевірити деталі в за наступним посиланням.