recentemente OpenAI, società di ricerca sull'intelligenza artificiale senza scopo di lucro lo ha reso noto attraverso una pubblicazione strumenti di moderazione dei contenuti Nuovi e migliorati (Content Moderation Tooling), che cita sono più precisi e hanno lo scopo di aiutare gli sviluppatori di API a proteggere le loro applicazioni.
Il team di ricerca di OpenAI ha annunciato un aggiornamento del suo strumento gratuito di moderazione dei contenuti che è ora disponibile per tutti gli sviluppatori.
Punto di moderazione consente l'accesso tramite un'interfaccia di programmazione dell'applicazione ai classificatori generativi basati su trasformatori pre-addestrati di OpenAI, cosa sono i modelli di intelligenza artificiale che sono stati formati per rilevare contenuti indesiderati nelle app, ha affermato la società in un post sul blog. Questi classificatori rilevano qualsiasi contenuto non necessario nelle applicazioni.
L'azienda ha imposto questo aggiornamento per funzionare in modo robusto in un'ampia gamma di applicazioni, inclusi social network, sistemi di messaggistica e chatbot di intelligenza artificiale.
Dopo aver fornito un testo di input, L'endpoint di moderazione analizza il contenuto come incitamento all'odio, contenuti sessuali, linguaggio offensivo, ecc. da filtrare. Blocca tutti i contenuti (generato dall'API OpenAI) che va contro la politica sui contenuti di OpenAI. Inoltre, l'endpoint può anche rimuovere e bloccare i contenuti dannosi generati dall'uomo.
L'endpoint è stato addestrato per essere veloce, accurato e robusto in una varietà di applicazioni. È importante sottolineare che questo riduce le possibilità che i prodotti "dicano" la cosa sbagliata, anche quando vengono distribuiti agli utenti su larga scala. Di conseguenza, l'IA può sbloccare vantaggi in ambienti sensibili, come l'istruzione, dove altrimenti non potrebbe essere utilizzata con sicurezza.
La versione migliorata dell'endpoint di moderazione progettato per essere veloce, preciso e robusto su più tipi di applicazioni, inclusi chatbot basati sull'intelligenza artificiale, sistemi di messaggistica e siti di social network.
È importante sottolineare che OpenAI ha affermato che riduce significativamente le possibilità che un modello di IA "dica" la cosa sbagliata. Ciò significa che l'IA può essere utilizzata in contesti più sensibili, come le applicazioni educative, in cui le persone potrebbero aver precedentemente avuto riserve sull'implementazione della tecnologia.
Vale la pena menzionarlo lo strumento è gratuito se utilizzato con contenuti generati dall'API OpenAI. Oltre a moderare i bot, puoi anche bloccare i contenuti dannosi generati non dalle API OpenAI, ma dagli esseri umani. La piattaforma di messaggistica anonima NGL, che fornisce ai giovani una piattaforma per condividere i propri sentimenti e opinioni, utilizza lo strumento OpenAI per rilevare l'incitamento all'odio e le molestie. NGL ha affermato che lo strumento ha la capacità unica di generalizzare attorno allo slang più recente, consentendogli di adattarsi all'evoluzione del linguaggio utilizzato dagli adolescenti, ad esempio.
È anche importante ricordare che nel caso di traffico non API, l'endpoint di moderazione è soggetto a una tariffa.
Come parte dell'impegno di OpenAI per rendere l'ecosistema AI più sicuro, forniamo questo endpoint per consentire la moderazione gratuita di tutti i contenuti generati dall'API OpenAI. Ad esempio, Inworld, un client API OpenAI, utilizza l'endpoint di moderazione per aiutare i suoi personaggi virtuali basati sull'intelligenza artificiale a "rimanere sullo script". Sfruttando la tecnologia OpenAI, Inworld può concentrarsi sul suo prodotto principale: creare personaggi memorabili.
Lo ha detto OpenAI gli sviluppatori possono già iniziare a usarlo consultando la sua documentazione. Ha anche pubblicato un documento che descrive in dettaglio il suo processo di formazione e performance, insieme a un set di dati di valutazione che, a suo avviso, ispirerà ulteriori ricerche nell'area della moderazione basata sull'intelligenza artificiale.
Infine se sei interessato a saperne di più, puoi controllare i dettagli in il seguente collegamento.