เมื่อเร็ว ๆ นี้ โอเพ่นเอไอ, บริษัทวิจัยปัญญาประดิษฐ์ที่ไม่แสวงหาผลกำไร ทำให้เป็นที่รู้จัก ผ่านการตีพิมพ์ เครื่องมือตรวจสอบเนื้อหา ใหม่และปรับปรุงแล้ว (Content Moderation Tooling) ซึ่งกล่าวถึงมีความแม่นยำมากขึ้นและมีวัตถุประสงค์เพื่อช่วยให้นักพัฒนา API ปกป้องแอปพลิเคชันของตน
ทีมวิจัย OpenAI ได้ประกาศอัปเดตเครื่องมือควบคุมเนื้อหาฟรีซึ่งขณะนี้มีให้สำหรับนักพัฒนาทั้งหมดแล้ว
ปลายทางการกลั่นกรอง อนุญาตให้เข้าถึงผ่านอินเทอร์เฟซการเขียนโปรแกรมแอปพลิเคชันไปยังตัวแยกประเภทที่ใช้หม้อแปลงไฟฟ้าล่วงหน้าของ OpenAI โมเดล AI คืออะไร ที่ผ่านการอบรมมาแล้ว เพื่อตรวจจับเนื้อหาที่ไม่ต้องการ ในแอพ บริษัท กล่าวในโพสต์บล็อก ตัวแยกประเภทเหล่านี้จะตรวจจับเนื้อหาที่ไม่จำเป็นในแอปพลิเคชัน
บริษัทได้กำหนดการปรับปรุงนี้ เพื่อประสิทธิภาพในการใช้งานที่หลากหลายซึ่งรวมถึงเครือข่ายโซเชียล ระบบการส่งข้อความ และแชทบอท AI
เมื่อคุณป้อนข้อความแล้ว ปลายทางการกลั่นกรองจะวิเคราะห์เนื้อหาว่าเป็นคำพูดแสดงความเกลียดชังเนื้อหาเกี่ยวกับเรื่องเพศ ภาษาที่ไม่เหมาะสม ฯลฯ ให้กรองออก บล็อกเนื้อหาทั้งหมด (สร้างโดย OpenAI API) ที่ขัดต่อนโยบายเนื้อหา OpenAI. นอกจากนี้ ปลายทางยังสามารถลบและบล็อกเนื้อหาที่มนุษย์สร้างขึ้นที่เป็นอันตรายได้อีกด้วย
จุดสิ้นสุดได้รับการฝึกอบรมให้มีความรวดเร็ว แม่นยำ และมีประสิทธิภาพในการใช้งานที่หลากหลาย ที่สำคัญ วิธีนี้ช่วยลดโอกาสที่ผลิตภัณฑ์จะ "พูด" สิ่งผิดๆ ได้ แม้จะเปิดตัวต่อผู้ใช้ในวงกว้างก็ตาม ด้วยเหตุนี้ AI จึงสามารถปลดล็อกประโยชน์ในสภาพแวดล้อมที่ละเอียดอ่อน เช่น การศึกษา ซึ่งไม่สามารถใช้งานได้อย่างมั่นใจ
ปลายทางการดูแลเวอร์ชันที่ปรับปรุงแล้ว ออกแบบมาให้รวดเร็ว แม่นยำ และทนทาน ในแอปพลิเคชันหลายประเภท รวมถึงแชทบอทที่ขับเคลื่อนด้วย AI ระบบการรับส่งข้อความ และไซต์เครือข่ายสังคมออนไลน์
ที่สำคัญ OpenAI กล่าวว่าช่วยลดโอกาสที่โมเดล AI จะ "พูด" สิ่งที่ไม่ถูกต้องได้อย่างมาก นั่นหมายความว่า AI สามารถนำมาใช้ในการตั้งค่าที่มีความละเอียดอ่อนมากขึ้น เช่น แอปพลิเคชันด้านการศึกษา ซึ่งผู้คนอาจเคยลังเลที่จะใช้เทคโนโลยีนี้มาก่อน
เป็นมูลค่าการกล่าวขวัญว่า เครื่องมือนี้ฟรีเมื่อใช้กับเนื้อหาที่สร้างโดย OpenAI API นอกจากการกลั่นกรองบอทแล้ว คุณยังสามารถบล็อกเนื้อหาที่เป็นอันตรายซึ่งไม่ได้สร้างขึ้นโดย OpenAI API แต่โดยมนุษย์ แพลตฟอร์มการส่งข้อความแบบไม่ระบุชื่อ NGL ซึ่งเป็นแพลตฟอร์มสำหรับคนหนุ่มสาวในการแบ่งปันความรู้สึกและความคิดเห็น ใช้เครื่องมือ OpenAI เพื่อตรวจจับคำพูดแสดงความเกลียดชังและการล่วงละเมิด NGL กล่าวว่าเครื่องมือนี้มีความสามารถเฉพาะตัวในการสรุปคำสแลงล่าสุด ซึ่งช่วยให้สอดคล้องกับวิวัฒนาการของภาษาที่วัยรุ่นใช้ เป็นต้น
สิ่งสำคัญคือต้องพูดถึงว่าในกรณีของการรับส่งข้อมูลที่ไม่ใช่ API ปลายทางการดูแลจะมีค่าธรรมเนียม
ในฐานะที่เป็นส่วนหนึ่งของความมุ่งมั่นของ OpenAI ในการทำให้ระบบนิเวศ AI มีความปลอดภัยมากขึ้น เราให้บริการปลายทางนี้เพื่อให้สามารถควบคุมเนื้อหาทั้งหมดที่สร้างโดย OpenAI API ได้ฟรี ตัวอย่างเช่น Inworld ซึ่งเป็นไคลเอนต์ OpenAI API ใช้ปลายทางการควบคุมเพื่อช่วยให้อักขระที่ใช้ AI เสมือน "อยู่ในสคริปต์" ด้วยการใช้เทคโนโลยี OpenAI ทำให้ Inworld สามารถมุ่งเน้นไปที่ผลิตภัณฑ์หลัก: การสร้างตัวละครที่น่าจดจำ
OpenAI กล่าวว่า นักพัฒนาสามารถเริ่มใช้งานได้แล้วโดยดูจากเอกสารประกอบ นอกจากนี้ยังได้เผยแพร่เอกสารที่มีรายละเอียดเกี่ยวกับกระบวนการฝึกอบรมและการปฏิบัติงาน พร้อมด้วยชุดข้อมูลการประเมินที่กล่าวว่าจะสร้างแรงบันดาลใจให้การวิจัยเพิ่มเติมในด้านการควบคุมด้วย AI
ในที่สุด หากคุณสนใจที่จะทราบข้อมูลเพิ่มเติมคุณสามารถตรวจสอบรายละเอียดได้ใน ลิงค์ต่อไปนี้