geçenlerde açık AI, kar amacı gütmeyen yapay zeka araştırma şirketi bilinir kıldı bir yayın yoluyla içerik denetleme araçları Bahsedilen Yeni ve İyileştirilmiş (İçerik Denetleme Aracı), daha kesindir ve API geliştiricilerinin uygulamalarını korumalarına yardımcı olmayı amaçlamaktadır.
OpenAI araştırma ekibi, artık tüm geliştiricilerin kullanımına sunulan ücretsiz içerik denetleme aracında bir güncelleme duyurdu.
Denetleme uç noktası OpenAI'nin üretici, önceden eğitilmiş transformatör tabanlı sınıflandırıcılarına bir uygulama programlama arabirimi aracılığıyla erişim sağlar, yapay zeka modelleri nelerdir kimler eğitildi istenmeyen içeriği algılamak için uygulamalarda, şirket bir blog gönderisinde söyledi. Bu sınıflandırıcılar, uygulamalardaki gereksiz içerikleri tespit eder.
Şirket bu güncellemeyi empoze etti geniş bir uygulama yelpazesinde sağlam bir şekilde performans göstermek içinsosyal ağlar, mesajlaşma sistemleri ve AI sohbet robotları dahil.
Bir giriş metni sağladıktan sonra, Denetleme uç noktası, içeriği nefret söylemi olarak analiz eder, cinsel içerik, küfürlü dil vb. filtrelenecek. Tüm içeriği engelle (OpenAI API tarafından oluşturulmuştur) OpenAI içerik politikasına aykırı olan. Ek olarak, uç nokta, insan tarafından oluşturulan zararlı içeriği de kaldırabilir ve engelleyebilir.
Uç nokta, çeşitli uygulamalarda hızlı, doğru ve sağlam olacak şekilde eğitilmiştir. Daha da önemlisi, bu, kullanıcılara geniş ölçekte sunulsa bile, ürünlerin yanlış bir şey "söyleme" şansını azaltır. Sonuç olarak, yapay zeka, aksi takdirde güvenle kullanılamayacağı eğitim gibi hassas ortamlarda faydaların kilidini açabilir.
Denetleme uç noktasının geliştirilmiş sürümü hızlı, doğru ve sağlam olacak şekilde tasarlanmıştır AI destekli sohbet robotları, mesajlaşma sistemleri ve sosyal ağ siteleri dahil olmak üzere birden fazla uygulama türü arasında.
Daha da önemlisi, OpenAI, bir AI modelinin yanlış şeyi "söyleme" şansını önemli ölçüde azalttığını söyledi. Bu, AI'nın, insanların daha önce teknolojinin uygulanması konusunda çekincelerinin olduğu eğitim uygulamaları gibi daha hassas ortamlarda kullanılabileceği anlamına geliyor.
Bahsetmeye değer araç, OpenAI API tarafından oluşturulan içerikle kullanıldığında ücretsizdir. Botları denetlemeye ek olarak, OpenAI API'leri tarafından değil, insanlar tarafından oluşturulan zararlı içeriği de engelleyebilirsiniz. Gençlerin duygu ve düşüncelerini paylaşmaları için bir platform sağlayan anonim mesajlaşma platformu NGL, nefret söylemini ve tacizi tespit etmek için OpenAI aracını kullanıyor. NGL, aracın, örneğin gençler tarafından kullanılan dilin evrimine uymasına izin vererek, en son argo etrafında genelleme yapma konusunda benzersiz bir yeteneğe sahip olduğunu söyledi.
API olmayan trafik durumunda, moderasyon bitiş noktasının bir ücrete tabi olduğunu da belirtmek önemlidir.
OpenAI'nin AI ekosistemini daha güvenli hale getirme taahhüdünün bir parçası olarak, OpenAI API tarafından oluşturulan tüm içeriğin ücretsiz olarak denetlenmesini sağlamak için bu uç noktayı sağlıyoruz. Örneğin, bir OpenAI API istemcisi olan Inworld, sanal AI tabanlı karakterlerinin "komut dosyasında kalmasına" yardımcı olmak için denetleme uç noktasını kullanır. Inworld, OpenAI teknolojisinden yararlanarak temel ürününe odaklanabilir: unutulmaz karakterler yaratmak.
OpenAI dedi ki geliştiriciler, belgelerine başvurarak zaten kullanmaya başlayabilir. Ayrıca, AI destekli moderasyon alanında daha fazla araştırmaya ilham vereceğini söylediği bir değerlendirme veri seti ile birlikte eğitim ve performans sürecini detaylandıran bir belge yayınladı.
Nihayet onun hakkında daha fazla bilgi edinmekle ilgileniyorsan, ayrıntıları kontrol edebilirsiniz aşağıdaki bağlantı.