مؤخرا أوبن إيه آي ، شركة أبحاث ذكاء اصطناعي غير ربحية كشف النقاب من خلال منشور أدوات تعديل المحتوى الجديدة والمحسّنة (أدوات تعديل المحتوى) ، والتي تشير إلى أنها أكثر دقة وتهدف إلى مساعدة مطوري واجهة برمجة التطبيقات على حماية تطبيقاتهم.
أعلن فريق بحث OpenAI عن تحديث لأداة الإشراف على المحتوى المجانية المتوفرة الآن لجميع المطورين.
نقطة نهاية الاعتدال يسمح بالوصول عبر واجهة برمجة التطبيقات إلى مصنفات OpenAI التوليدية القائمة على المحولات ، ما هي نماذج الذكاء الاصطناعي الذين تم تدريبهم لاكتشاف المحتوى غير المرغوب فيه في التطبيقات ، قالت الشركة في منشور مدونة. تكتشف هذه المصنفات أي محتوى غير ضروري في التطبيقات.
فرضت الشركة هذا التحديث لأداء قوي في مجموعة واسعة من التطبيقات، بما في ذلك الشبكات الاجتماعية وأنظمة المراسلة وروبوتات الدردشة بالذكاء الاصطناعي.
بمجرد تقديم نص الإدخال ، تقوم نقطة نهاية الاعتدال بتحليل المحتوى على أنه كلام يحض على الكراهية، والمحتوى الجنسي ، واللغة المسيئة ، وما إلى ذلك ، ليتم تصفيتها. حظر كل المحتوى (تم إنشاؤه بواسطة OpenAI API) يتعارض مع سياسة محتوى OpenAI. بالإضافة إلى ذلك ، يمكن لنقطة النهاية أيضًا إزالة المحتوى الضار من إنشاء الإنسان وحظره.
تم تدريب نقطة النهاية على أن تكون سريعة ودقيقة وقوية في مجموعة متنوعة من التطبيقات. الأهم من ذلك ، أن هذا يقلل من فرص "قول" المنتجات شيئًا خاطئًا ، حتى عند طرحها على المستخدمين على نطاق واسع. نتيجة لذلك ، يمكن للذكاء الاصطناعي أن يطلق العنان لمزايا في البيئات الحساسة ، مثل التعليم ، حيث لا يمكن استخدامه بثقة.
النسخة المحسّنة من نقطة نهاية الإشراف مصمم ليكون سريعًا ودقيقًا وقويًا عبر أنواع متعددة من التطبيقات ، بما في ذلك روبوتات الدردشة المدعومة بالذكاء الاصطناعي وأنظمة المراسلة ومواقع الشبكات الاجتماعية.
الأهم من ذلك ، قالت شركة OpenAI إنها تقلل بشكل كبير من فرص نموذج الذكاء الاصطناعي "الذي يقول" الشيء الخطأ. وهذا يعني أنه يمكن استخدام الذكاء الاصطناعي في أماكن أكثر حساسية ، مثل التطبيقات التعليمية ، حيث قد يكون لدى الأشخاص في السابق تحفظات بشأن تطبيق التكنولوجيا.
ومن الجدير بالذكر أن الأداة مجانية عند استخدامها مع المحتوى الذي تم إنشاؤه بواسطة OpenAI API. بالإضافة إلى الإشراف على برامج الروبوت ، يمكنك أيضًا حظر المحتوى الضار الذي لم يتم إنشاؤه بواسطة OpenAI APIs ، ولكن بواسطة البشر. منصة الرسائل المجهولة NGL ، التي توفر منصة للشباب لمشاركة مشاعرهم وآرائهم ، تستخدم أداة OpenAI للكشف عن خطاب الكراهية والتحرش. قالت NGL إن الأداة لديها قدرة فريدة على التعميم حول أحدث لغة عامية ، مما يسمح لها بمطابقة تطور اللغة المستخدمة من قبل المراهقين ، على سبيل المثال.
من المهم أيضًا الإشارة إلى أنه في حالة حركة المرور غير التابعة لواجهة برمجة التطبيقات ، تخضع نقطة نهاية المراجعة لرسوم.
كجزء من التزام OpenAI بجعل النظام البيئي للذكاء الاصطناعي أكثر أمانًا ، نقدم نقطة النهاية هذه لتمكين الإشراف المجاني على كل المحتوى الذي تم إنشاؤه بواسطة OpenAI API. على سبيل المثال ، يستخدم Inworld ، وهو عميل OpenAI API ، نقطة نهاية الاعتدال لمساعدة الشخصيات الافتراضية المستندة إلى الذكاء الاصطناعي على "البقاء على النص". من خلال الاستفادة من تقنية OpenAI ، يمكن لـ Inworld التركيز على منتجها الأساسي: إنشاء شخصيات لا تُنسى.
قال OpenAI ذلك يمكن للمطورين بالفعل البدء في استخدامه من خلال الرجوع إلى وثائقه. كما نشرت وثيقة توضح بالتفصيل عملية التدريب والأداء ، إلى جانب مجموعة بيانات التقييم التي قالت إنها ستلهم المزيد من البحث في مجال الاعتدال المدعوم بالذكاء الاصطناعي.
أخيرا إذا كنت مهتمًا بمعرفة المزيد عنها، يمكنك التحقق من التفاصيل في الرابط التالي.