最近 OpenAI， 非营利性人工智能研究公司 广为人知 通过出版物 内容审核工具 它提到的新的和改进的（内容审核工具）更加精确，旨在帮助 API 开发人员保护他们的应用程序。
OpenAI 研究团队宣布对其免费内容审核工具进行更新，该工具现在可供所有开发人员使用。
审核端点 允许通过应用程序编程接口访问 OpenAI 的生成式预训练基于变压器的分类器， 什么是人工智能模型 受过训练的人 检测不需要的内容 该公司在一篇博文中表示，在应用程序中。 这些分类器检测应用程序中任何不必要的内容。
该公司已强制执行此更新 在广泛的应用中表现稳健，包括社交网络、消息系统和人工智能聊天机器人。
提供输入文本后， 审核端点将内容分析为仇恨言论、色情内容、辱骂性语言等，进行过滤。 屏蔽所有内容 （由 OpenAI API 生成） 这违反了 OpenAI 内容政策. 此外，端点还可以删除和阻止有害的人为生成的内容。
端点已经过训练，可在各种应用中快速、准确且稳健。 重要的是，这减少了产品“说”错话的机会，即使在大规模推广给用户时也是如此。 因此，人工智能可以在教育等敏感环境中释放优势，否则无法放心使用。
改进版的审核端点 旨在快速、准确和稳健 跨多种类型的应用程序，包括人工智能驱动的聊天机器人、消息系统和社交网站。
重要的是，OpenAI 表示它显着降低了 AI 模型“说”错话的机会。 这意味着 AI 可以用于更敏感的环境，例如教育应用，人们之前可能对实施该技术持保留态度。
值得一提的是 当与 OpenAI API 生成的内容一起使用时，该工具是免费的。 除了审核机器人之外，您还可以阻止不是由 OpenAI API 而是由人类生成的有害内容。 匿名消息平台 NGL 为年轻人提供了一个分享感受和意见的平台，它使用 OpenAI 工具来检测仇恨言论和骚扰。 NGL 表示，该工具具有概括最新俚语的独特能力，使其能够匹配青少年使用的语言的演变。
还需要提到的是，在非 API 流量的情况下，审核端点需要付费。
作为 OpenAI 致力于使 AI 生态系统更加安全的一部分，我们提供此端点以实现对 OpenAI API 生成的所有内容的免费审核。 例如，OpenAI API 客户端 Inworld 使用审核端点来帮助其基于 AI 的虚拟角色“停留在脚本上”。 通过利用 OpenAI 技术，Inworld 可以专注于其核心产品：创造令人难忘的角色。
OpenAI 说 开发人员已经可以通过查阅其文档开始使用它。 它还发布了一份文件，详细介绍了其培训和绩效过程，以及一个评估数据集，据称该数据集将激发人工智能驱动的适度领域的进一步研究。
最后 如果您有兴趣了解更多有关它的信息，您可以在中查看详细信息 以下链接。