最近 OpenAI， 非營利性人工智能研究公司 廣為人知 通過出版物 內容審核工具 它提到的新的和改進的（內容審核工具）更加精確，旨在幫助 API 開發人員保護他們的應用程序。
OpenAI 研究團隊宣布對其免費內容審核工具進行更新，該工具現在可供所有開發人員使用。
審核端點 允許通過應用程序編程接口訪問 OpenAI 的生成式預訓練基於變壓器的分類器， 什麼是人工智能模型 受過訓練的人 檢測不需要的內容 該公司在一篇博文中表示，在應用程序中。 這些分類器檢測應用程序中任何不必要的內容。
該公司已強制執行此更新 在廣泛的應用中表現穩健，包括社交網絡、消息系統和人工智能聊天機器人。
提供輸入文本後， 審核端點將內容分析為仇恨言論、色情內容、辱罵性語言等，進行過濾。 屏蔽所有內容 （由 OpenAI API 生成） 這違反了 OpenAI 內容政策. 此外，端點還可以刪除和阻止有害的人為生成的內容。
端點已經過訓練，可在各種應用中快速、準確且穩健。 重要的是，這減少了產品“說”錯話的機會，即使在大規模推廣給用戶時也是如此。 因此，人工智能可以在教育等敏感環境中釋放優勢，否則無法放心使用。
改進版的審核端點 旨在快速、準確和穩健 跨多種類型的應用程序，包括人工智能驅動的聊天機器人、消息系統和社交網站。
重要的是，OpenAI 表示它顯著降低了 AI 模型“說”錯話的機會。 這意味著 AI 可以用於更敏感的環境，例如教育應用，人們之前可能對實施該技術持保留態度。
值得一提的是 當與 OpenAI API 生成的內容一起使用時，該工具是免費的。 除了審核機器人之外，您還可以阻止不是由 OpenAI API 而是由人類生成的有害內容。 匿名消息平台 NGL 為年輕人提供了一個分享感受和意見的平台，它使用 OpenAI 工具來檢測仇恨言論和騷擾。 NGL 表示，該工具具有概括最新俚語的獨特能力，例如，使其能夠匹配青少年使用的語言的演變。
還需要提到的是，在非 API 流量的情況下，審核端點需要付費。
作為 OpenAI 致力於使 AI 生態系統更加安全的一部分，我們提供此端點以實現對 OpenAI API 生成的所有內容的免費審核。 例如，OpenAI API 客戶端 Inworld 使用審核端點來幫助其基於 AI 的虛擬角色“停留在腳本上”。 通過利用 OpenAI 技術，Inworld 可以專注於其核心產品：創造令人難忘的角色。
OpenAI 說 開發人員已經可以通過查閱其文檔開始使用它。 它還發布了一份文件，詳細介紹了其培訓和績效過程，以及一個評估數據集，據稱該數據集將激發人工智能驅動的適度領域的進一步研究。
終於 如果您有興趣了解更多信息，您可以在中查看詳細信息 以下鏈接。