nemrég OpenAI, non-profit mesterséges intelligencia kutató cég tudtára adta kiadványon keresztül tartalommoderáló eszközök Új és továbbfejlesztett (Content Moderation Tooling), amelyek pontosabbak, és célja, hogy segítsék az API-fejlesztőket alkalmazásaik védelmében.
Az OpenAI kutatócsoportja bejelentette ingyenes tartalommoderáló eszközének frissítését, amely mostantól minden fejlesztő számára elérhető.
Moderálás végpontja lehetővé teszi a hozzáférést egy alkalmazásprogramozási felületen keresztül az OpenAI generatív előképzett transzformátor alapú osztályozóihoz, mik azok az AI modellek akiket képeztek ki a nem kívánt tartalom észlelésére alkalmazásokban, mondta a cég egy blogbejegyzésében. Ezek az osztályozók észlelnek minden szükségtelen tartalmat az alkalmazásokban.
A cég bevezette ezt a frissítést robusztus teljesítményre az alkalmazások széles körében, beleértve a közösségi hálózatokat, az üzenetküldő rendszereket és az AI chatbotokat.
Miután megadta a beviteli szöveget, A moderálás végpontja a tartalmat gyűlöletbeszédként elemzi, szexuális tartalom, sértő nyelvezet stb., ki kell szűrni. Az összes tartalom letiltása (az OpenAI API által generált) ami ellentétes az OpenAI tartalomszabályzatával. Ezenkívül a végpont eltávolíthatja és blokkolhatja a káros, ember által létrehozott tartalmat is.
A végpontot úgy tanították meg, hogy gyors, pontos és robusztus legyen számos alkalmazásban. Fontos, hogy ez csökkenti annak az esélyét, hogy a termékek rossz dolgot „mondjanak”, még akkor is, ha nagy mennyiségben teszik közzé a felhasználók számára. Következésképpen az AI olyan érzékeny környezetekben, mint például az oktatásban rejlő előnyökhöz juthat, ahol egyébként nem lehetne magabiztosan használni.
A moderálás végpont továbbfejlesztett verziója úgy tervezték, hogy gyors, pontos és robusztus legyen többféle alkalmazáson keresztül, beleértve az AI-alapú chatbotokat, üzenetküldő rendszereket és közösségi oldalakat.
Fontos, hogy az OpenAI szerint jelentősen csökkenti annak az esélyét, hogy egy mesterséges intelligenciamodell rosszat mondjon. Ez azt jelenti, hogy a mesterséges intelligencia érzékenyebb környezetben is használható, például oktatási alkalmazásokban, ahol az embereknek korábban fenntartásai voltak a technológia bevezetésével kapcsolatban.
Érdemes ezt megemlíteni az eszköz ingyenes, ha az OpenAI API által generált tartalommal használják. A botok moderálása mellett blokkolhatja azokat a káros tartalmakat is, amelyeket nem OpenAI API-k, hanem emberek generálnak. Az NGL névtelen üzenetküldő platform, amely platformot biztosít a fiataloknak érzéseik és véleményük megosztására, az OpenAI eszközt használja a gyűlöletbeszéd és a zaklatás észlelésére. Az NGL szerint az eszköz egyedülálló képességgel rendelkezik a legújabb szlengek általánosítására, lehetővé téve például, hogy megfeleljen a tinédzserek által használt nyelv fejlődésének.
Fontos megemlíteni azt is, hogy nem API forgalom esetén a moderálás végpontja díjköteles.
Az OpenAI azon elkötelezettségének részeként, hogy biztonságosabbá tegyük az AI-ökoszisztémát, ezt a végpontot biztosítjuk, hogy lehetővé tegyük az OpenAI API által generált összes tartalom ingyenes moderálását. Például az Inworld, egy OpenAI API-kliens, a moderálási végpontot használja, hogy segítse virtuális mesterségesintelligencia-alapú karaktereinek „a szkripten maradását”. Az OpenAI technológia kihasználásával az Inworld az alapvető termékére összpontosíthat: emlékezetes karakterek létrehozására.
Az OpenAI ezt mondta a fejlesztők már elkezdhetik használni a dokumentációjában. Kiadott egy dokumentumot is, amely részletezi a képzési és teljesítményfolyamatait, valamint egy értékelési adatkészletet, amely szerinte további kutatásokat inspirál az AI-alapú moderálás területén.
Végül ha érdekel, hogy többet tudjon meg róla, a részleteket itt ellenőrizheti a következő link.