ChatGPT 是一个人工智能聊天机器人原型
发布的消息是 OpenAI 正在开发的软件可以检测您的 ChatGPT 模型是否生成了文本， 这是在纽约市教育官员宣布他们将阻止学生在公立学校使用该工具后不久。
就是他们发布了各种报告 学生使用人工智能做作业， 他们让老师们思考它是如何影响教育的。
一些人表达了他们的 关注语言模型如何 他们可能允许学生作弊。
鉴于此，OpenAI 宣布正在努力开发“缓解措施”，以帮助人们检测由 ChatGPT 自动生成的文本。
“我们已将 ChatGPT 作为研究预览提供，以从实际使用中学习，我们认为这是开发和部署功能强大且安全的 AI 系统的重要组成部分。 我们不断吸取反馈和经验教训，”公司发言人说。
根据大学教授的推荐， 学生信任 ChatGPT 来解决他们的家庭作业， 特别是在排练中。
“学院没有预见到它的到来。 所以这让我们大吃一惊，”弗曼大学哲学助理教授达伦哈德森希克说。
“我在 Facebook 上报告了这件事，我的 [老师] 朋友们说，‘是的！ 我也抓到了一个，’”他补充道。 据报道，本月早些时候，希克要求他的班级写一篇关于 500 世纪苏格兰哲学家大卫休谟和恐怖悖论的 XNUMX 字文章，该文章研究人们如何从他们害怕的事物中获得快乐。，用于家庭测试。 但根据这位哲学教授的说法，他收到的一篇论文具有一些特征，这些特征在学生的“基本”反应中“标记”了 AI 的使用。 希克解释说，这可以通过训练有素的眼睛检测到。
能够辨别笔迹 由人或机器手工制作 它将改变它们在学院中的使用方式。 学校可以更有效地执行人工智能生成的考试禁令，
是的，生成语言模型可以很好，但他们不知道他们在说什么。
尽管 AI 生成的写作成为大学会议的头条新闻，学校禁止打印论文，但这里提醒人们他们缺乏对实际人类写作的理解。
自 2015 年以来，OpenAI 一直在努力复制人类智能和艺术能力，给互联网留下了深刻印象。但去年 XNUMX 月，该公司终于随着人工智能文本生成器 ChatGPT 的推出而走红。 beta 工具的用户发布了 AI 生成的文本响应示例，这些提示看起来非常合法，以至于他们让教师心生恐惧，甚至让谷歌担心该工具可能会扼杀他们的研究活动。
如果 OpenAI 工程师能够创造出一个打字能力与普通人一样好或更好的机器人，那么按理说，他们也可以创造出一个比普通人更擅长检测文本是否由 AI 生成的机器人。
由于目前 OpenAI 正在研究解决方案，因此至少已经发布了三个可以使用的检测工具：
GPT-2 出口探测器
GPT-2 退出检测器模型的在线演示允许您将文本粘贴到一个框中，并立即看到该文本被 AI 键入的概率。 根据 OpenAI 的研究，该工具具有相对较高的检测率，但“需要与基于元数据、人类判断和公共教育的方法相结合才能最有效”。
GLTR
当 OpenAI 于 2 年发布 GPT-2019 时，麻省理工学院-IBM 沃森人工智能实验室和哈佛自然语言处理小组的人员联手创建了一种算法，试图检测文本是否由机器人输入。
计算机生成的文本可能看起来是由人类编写的，但人类作家更有可能选择不可预测的词语。 使用“以人为本”的方法，如果 GLTR 算法可以预测句子中的下一个单词，它将假定该句子是由机器人编写的。
GPT零
在圣诞节期间，Edward Tian 忙于创建 GPTZero，这是一款可以帮助确定文本是由人类还是机器人编写的应用程序。 作为普林斯顿大学的一名学者，Tian 了解大学教授如何在检测 AI 辅助剽窃或 AI 辅助剽窃方面拥有既得利益。
田说他的工具测量句子的随机性（“嗡嗡声”）加上整体随机性（“爆发”）来计算文本由 ChatGPT 编写的概率。 自从 2 月 XNUMX 日发布关于 GPTZero 的推文以来，Tian 表示已经有想要投资的风险资本家与他接洽，他将很快开发更新版本。
数据来源： https://techcrunch.com