kohët e fundit OpenAI, kompani kërkimore jofitimprurëse e inteligjencës artificiale e bëri të njohur përmes një botimi mjetet e moderimit të përmbajtjes Të reja dhe të përmirësuara (Content Moderation Tooling), të cilat përmend janë më të sakta dhe kanë për qëllim të ndihmojnë zhvilluesit e API-ve të mbrojnë aplikacionet e tyre.
Ekipi i kërkimit OpenAI njoftoi një përditësim të mjetit të tij falas të moderimit të përmbajtjes që tani është i disponueshëm për të gjithë zhvilluesit.
Pika përfundimtare e moderimit lejon aksesin nëpërmjet një ndërfaqe programimi aplikacioni në klasifikuesit gjenerues të para-trajnuar të bazuar në transformatorë të OpenAI, cilat janë modelet e AI të cilët janë trajnuar për të zbuluar përmbajtjen e padëshiruar në aplikacione, tha kompania në një postim në blog. Këta klasifikues zbulojnë çdo përmbajtje të panevojshme në aplikacione.
Kompania ka vendosur këtë përditësim për të performuar fuqishëm në një gamë të gjerë aplikimesh, duke përfshirë rrjetet sociale, sistemet e mesazheve dhe chatbots AI.
Pasi të jepni një tekst hyrës, Pika përfundimtare e moderimit analizon përmbajtjen si gjuhë urrejtjeje, përmbajtje seksuale, gjuhë fyese etj., të filtrohet. Blloko të gjithë përmbajtjen (gjeneruar nga OpenAI API) që bie ndesh me politikën e përmbajtjes OpenAI. Për më tepër, pika përfundimtare mund të heqë dhe bllokojë gjithashtu përmbajtjen e dëmshme të krijuar nga njeriu.
Pika përfundimtare është trajnuar të jetë e shpejtë, e saktë dhe e fuqishme në një sërë aplikacionesh. E rëndësishmja, kjo zvogëlon shanset që produktet të "thonë" gjërat e gabuara, edhe kur u shpërndahen përdoruesve në shkallë. Si pasojë, AI mund të zhbllokojë përfitimet në mjedise të ndjeshme, siç është arsimi, ku ndryshe nuk mund të përdoret me besim.
Versioni i përmirësuar i pikës fundore Moderation projektuar të jetë i shpejtë, i saktë dhe i fortë nëpër lloje të shumta aplikacionesh, duke përfshirë chatbot me AI, sistemet e mesazheve dhe faqet e rrjeteve sociale.
E rëndësishmja, OpenAI tha se zvogëlon ndjeshëm shanset që një model i AI "të thotë" gjënë e gabuar. Kjo do të thotë se AI mund të përdoret në mjedise më të ndjeshme, si aplikacionet arsimore, ku njerëzit mund të kenë pasur më parë rezerva për zbatimin e teknologjisë.
Vlen të përmendet se mjeti është falas kur përdoret me përmbajtje të krijuar nga OpenAI API. Përveç moderimit të robotëve, ju gjithashtu mund të bllokoni përmbajtje të dëmshme që krijohen jo nga API-të OpenAI, por nga njerëzit. Platforma e mesazheve anonime NGL, e cila ofron një platformë për të rinjtë për të ndarë ndjenjat dhe opinionet e tyre, përdor mjetin OpenAI për të zbuluar gjuhën e urrejtjes dhe ngacmimet. NGL tha se mjeti ka aftësinë unike për të përgjithësuar rreth zhargonit më të fundit, duke e lejuar atë të përputhet me evolucionin e gjuhës së përdorur nga adoleshentët, për shembull.
Është gjithashtu e rëndësishme të përmendet se në rastin e trafikut jo-API, pika përfundimtare e moderimit i nënshtrohet një tarife.
Si pjesë e angazhimit të OpenAI për ta bërë ekosistemin e AI më të sigurt, ne ofrojmë këtë pikë përfundimtare për të mundësuar moderimin falas të të gjithë përmbajtjes së krijuar nga OpenAI API. Për shembull, Inworld, një klient OpenAI API, përdor pikën përfundimtare të moderimit për të ndihmuar personazhet e tij virtualë të bazuar në AI "të qëndrojnë në skenar". Duke përdorur teknologjinë OpenAI, Inworld mund të përqendrohet në produktin e tij kryesor: krijimin e personazheve të paharrueshëm.
OpenAI tha këtë zhvilluesit tashmë mund të fillojnë ta përdorin atë duke u konsultuar me dokumentacionin e tij. Ai gjithashtu publikoi një dokument që detajon procesin e tij të trajnimit dhe performancës, së bashku me një grup të dhënash vlerësimi që tha se do të frymëzojë kërkime të mëtejshme në fushën e moderimit të fuqizuar nga AI.
Më në fund nëse jeni të interesuar të dini më shumë për të, ju mund të kontrolloni detajet në lidhja e mëposhtme.