Baru-baru ini buka AI, perusahaan riset kecerdasan buatan nirlaba membuatnya dikenal melalui publikasi alat moderasi konten Baru dan yang Ditingkatkan (Perkakas Moderasi Konten), yang disebutkan lebih tepat dan dimaksudkan untuk membantu pengembang API melindungi aplikasi mereka.
Tim peneliti OpenAI mengumumkan pembaruan untuk alat moderasi konten gratisnya yang sekarang tersedia untuk semua pengembang.
Titik akhir moderasi memungkinkan akses melalui antarmuka pemrograman aplikasi ke pengklasifikasi berbasis transformator yang telah dilatih sebelumnya dari OpenAI, apa itu model AI? yang sudah terlatih untuk mendeteksi konten yang tidak diinginkan di aplikasi, kata perusahaan itu dalam posting blog. Pengklasifikasi ini mendeteksi konten yang tidak perlu dalam aplikasi.
Perusahaan telah memberlakukan pembaruan ini untuk tampil kokoh dalam berbagai aplikasi, termasuk jejaring sosial, sistem perpesanan, dan chatbot AI.
Setelah Anda memberikan teks input, Titik akhir moderasi menganalisis konten sebagai ujaran kebencian, konten seksual, bahasa kasar, dll., untuk difilter. Blokir semua konten (dihasilkan oleh OpenAI API) yang bertentangan dengan kebijakan konten OpenAI. Selain itu, titik akhir juga dapat menghapus dan memblokir konten berbahaya buatan manusia.
Titik akhir telah dilatih untuk menjadi cepat, akurat, dan kuat dalam berbagai aplikasi. Yang penting, ini mengurangi kemungkinan produk "mengatakan" hal yang salah, bahkan ketika diluncurkan ke pengguna dalam skala besar. Akibatnya, AI dapat membuka manfaat di lingkungan sensitif, seperti pendidikan, di mana ia tidak dapat digunakan dengan percaya diri.
Versi titik akhir Moderasi yang ditingkatkan dirancang untuk menjadi cepat, akurat dan kuat di berbagai jenis aplikasi, termasuk chatbot bertenaga AI, sistem pesan, dan situs jejaring sosial.
Yang penting, OpenAI mengatakan itu secara signifikan mengurangi kemungkinan model AI "mengatakan" hal yang salah. Itu berarti AI dapat digunakan dalam pengaturan yang lebih sensitif, seperti aplikasi pendidikan, di mana orang mungkin sebelumnya memiliki keraguan tentang penerapan teknologi tersebut.
Perlu disebutkan itu alat ini gratis bila digunakan dengan konten yang dihasilkan oleh OpenAI API. Selain memoderasi bot, Anda juga dapat memblokir konten berbahaya yang dihasilkan bukan oleh OpenAI API, tetapi oleh manusia. Platform pesan anonim NGL, yang menyediakan platform bagi kaum muda untuk berbagi perasaan dan pendapat mereka, menggunakan alat OpenAI untuk mendeteksi ujaran kebencian dan pelecehan. NGL mengatakan alat ini memiliki kemampuan unik untuk menggeneralisasi di sekitar bahasa gaul terbaru, yang memungkinkannya menyesuaikan dengan evolusi bahasa yang digunakan oleh remaja, misalnya.
Penting juga untuk menyebutkan bahwa dalam kasus lalu lintas non-API, titik akhir moderasi dikenakan biaya.
Sebagai bagian dari komitmen OpenAI untuk membuat ekosistem AI lebih aman, kami menyediakan titik akhir ini untuk memungkinkan moderasi gratis semua konten yang dihasilkan oleh OpenAI API. Misalnya, Inworld, klien OpenAI API, menggunakan titik akhir moderasi untuk membantu karakter virtual berbasis AI-nya "tetap pada skrip". Dengan memanfaatkan teknologi OpenAI, Inworld dapat fokus pada produk intinya: menciptakan karakter yang mudah diingat.
OpenAI mengatakan itu pengembang sudah dapat mulai menggunakannya dengan melihat dokumentasinya. Itu juga menerbitkan dokumen yang merinci pelatihan dan proses kinerjanya, bersama dengan kumpulan data evaluasi yang katanya akan menginspirasi penelitian lebih lanjut di bidang moderasi bertenaga AI.
Akhirnya jika Anda tertarik untuk mengetahui lebih banyak tentangnya, Anda dapat memeriksa detailnya di link berikut.