recent OpenAI, companie non-profit de cercetare a inteligenței artificiale a făcut-o cunoscută printr-o publicație instrumente de moderare a conținutului Nou și îmbunătățit (Instrument de moderare a conținutului), despre care menționează că sunt mai precise și sunt menite să ajute dezvoltatorii API să-și protejeze aplicațiile.
Echipa de cercetare OpenAI a anunțat o actualizare a instrumentului său gratuit de moderare a conținutului, care este acum disponibil pentru toți dezvoltatorii.
Punct final de moderare permite accesul printr-o interfață de programare a aplicației la clasificatoarele generative pe bază de transformatoare de la OpenAI; ce sunt modelele AI care au fost instruiți pentru a detecta conținutul nedorit în aplicații, a spus compania într-o postare pe blog. Aceste clasificatoare detectează orice conținut inutil în aplicații.
Compania a impus această actualizare pentru a funcționa robust într-o gamă largă de aplicații, inclusiv rețele sociale, sisteme de mesagerie și chatbot AI.
După ce furnizați un text de intrare, Punctul final de moderare analizează conținutul ca discurs instigator la ură, conținut sexual, limbaj abuziv etc., să fie filtrate. Blocați tot conținutul (generat de API-ul OpenAI) care contravine politicii de conținut OpenAI. În plus, punctul final poate elimina și bloca conținutul dăunător generat de oameni.
Punctul final a fost antrenat pentru a fi rapid, precis și robust într-o varietate de aplicații. Important este că acest lucru reduce șansele ca produsele să „spună” un lucru greșit, chiar și atunci când sunt lansate utilizatorilor la scară largă. În consecință, AI poate debloca beneficii în medii sensibile, cum ar fi educația, unde altfel nu ar putea fi folosită cu încredere.
Versiunea îmbunătățită a punctului final de moderare conceput pentru a fi rapid, precis și robust în mai multe tipuri de aplicații, inclusiv chatbot-uri, sisteme de mesagerie și site-uri de rețele sociale alimentate de AI.
Important, OpenAI a spus că reduce semnificativ șansele ca un model AI să „spună” un lucru greșit. Aceasta înseamnă că inteligența artificială poate fi utilizată în setări mai sensibile, cum ar fi aplicațiile educaționale, unde oamenii ar fi avut anterior rezerve cu privire la implementarea tehnologiei.
Merită menționat faptul că instrumentul este gratuit atunci când este utilizat cu conținut generat de API-ul OpenAI. Pe lângă moderarea boților, puteți bloca și conținutul dăunător care este generat nu de API-urile OpenAI, ci de oameni. Platforma de mesagerie anonimă NGL, care oferă tinerilor o platformă pentru a-și împărtăși sentimentele și opiniile, folosește instrumentul OpenAI pentru a detecta discursul instigator la ură și hărțuirea. NGL a spus că instrumentul are capacitatea unică de a generaliza în jurul celui mai recent argo, permițându-i să se potrivească cu evoluția limbajului folosit de adolescenți, de exemplu.
De asemenea, este important de menționat că, în cazul traficului non-API, punctul final de moderare este supus unei taxe.
Ca parte a angajamentului OpenAI de a face ecosistemul AI mai sigur, oferim acest punct final pentru a permite moderarea gratuită a întregului conținut generat de API-ul OpenAI. De exemplu, Inworld, un client API OpenAI, folosește punctul final de moderare pentru a-și ajuta personajele virtuale bazate pe inteligență artificială „să rămână pe script”. Utilizând tehnologia OpenAI, Inworld se poate concentra pe produsul său principal: crearea de personaje memorabile.
OpenAI a spus asta dezvoltatorii pot începe deja să-l folosească consultând documentația acestuia. De asemenea, a publicat un document care detaliază procesul său de formare și performanță, împreună cu un set de date de evaluare despre care a spus că va inspira cercetări ulterioare în domeniul moderării bazate pe inteligență artificială.
În cele din urmă dacă sunteți interesat să aflați mai multe despre asta, puteți verifica detaliile în următorul link.