ChatGPT 是一個人工智能聊天機器人原型
發布的消息是 OpenAI 正在開發的軟件可以檢測您的 ChatGPT 模型是否生成了文本， 這是在紐約市教育官員宣布他們將阻止學生在公立學校使用該工具後不久。
就是他們發布了各種報告 學生使用人工智能做作業， 他們讓老師們思考它是如何影響教育的。
一些人表達了他們的 關注語言模型如何 他們可能允許學生作弊。
鑑於此，OpenAI 宣布正在努力開發“緩解措施”，以幫助人們檢測由 ChatGPT 自動生成的文本。
“我們已將 ChatGPT 作為研究預覽提供，以從實際使用中學習，我們認為這是開發和部署功能強大且安全的 AI 系統的重要組成部分。 我們不斷吸取反饋和經驗教訓，”公司發言人說。
根據大學教授的推薦， 學生信任 ChatGPT 來解決他們的家庭作業， 特別是在排練中。
“學院沒有預見到它的到來。 所以這讓我們大吃一驚，”弗曼大學哲學助理教授達倫哈德森希克說。
“我在 Facebook 上報告了這件事，我的 [老師] 朋友們說，‘是的！ 我也抓到了一個，’”他補充道。 據報導，本月早些時候，希克要求他的班級寫一篇關於 500 世紀蘇格蘭哲學家大衛休謨和恐怖悖論的 XNUMX 字文章，該文章研究人們如何從他們害怕的事物中獲得快樂。，用於家庭測試。 但根據這位哲學教授的說法，他收到的一篇論文具有一些特徵，這些特徵在學生的“基本”反應中“標記”了 AI 的使用。 希克解釋說，這可以通過訓練有素的眼睛檢測到。
能夠辨別筆跡 由人或機器手工製作 它將改變它們在學院中的使用方式。 學校可以更有效地執行人工智能生成的考試禁令，
是的，生成語言模型可以很好，但他們不知道他們在說什麼。
儘管 AI 生成的寫作成為大學會議的頭條新聞，學校禁止打印論文，但這裡提醒人們他們缺乏對實際人類寫作的理解。
自 2015 年以來，OpenAI 一直在努力複製人類智能和藝術能力，給互聯網留下了深刻印象。但去年 XNUMX 月，該公司終於隨著人工智能文本生成器 ChatGPT 的推出而走紅。 beta 工具的用戶發布了 AI 生成的文本響應示例，這些提示看起來非常合法，以至於他們讓教師心生恐懼，甚至讓谷歌擔心該工具可能會扼殺他們的研究活動。
如果 OpenAI 工程師能夠創造出一個打字能力與普通人一樣好或更好的機器人，那麼按理說，他們也可以創造出一個比普通人更擅長檢測文本是否由 AI 生成的機器人。
由於目前 OpenAI 正在研究解決方案，因此至少已經發布了三個可以使用的檢測工具：
GPT-2 出口探測器
GPT-2 退出檢測器模型的在線演示允許您將文本粘貼到一個框中，並立即看到該文本被 AI 鍵入的概率。 根據 OpenAI 的研究，該工具具有相對較高的檢測率，但“需要與基於元數據、人類判斷和公共教育的方法相結合才能最有效”。
GLTR
當 OpenAI 於 2 年發布 GPT-2019 時，麻省理工學院-IBM 沃森人工智能實驗室和哈佛自然語言處理小組的人員聯手創建了一種算法，試圖檢測文本是否由機器人輸入。
計算機生成的文本可能看起來是由人類編寫的，但人類作家更有可能選擇不可預測的詞語。 使用“以人為本”的方法，如果 GLTR 算法可以預測句子中的下一個單詞，它將假定該句子是由機器人編寫的。
GPT零
在聖誕節期間，Edward Tian 忙於創建 GPTZero，這是一款可以幫助確定文本是由人類還是機器人編寫的應用程序。 作為普林斯頓大學的一名學者，Tian 了解大學教授如何在檢測 AI 輔助剽竊或 AI 輔助剽竊方面擁有既得利益。
田說他的工具測量句子的隨機性（“嗡嗡聲”）加上整體隨機性（“爆發”）來計算文本由 ChatGPT 編寫的概率。 自從 2 月 XNUMX 日發布關於 GPTZero 的推文以來，Tian 表示已經有想要投資的風險資本家與他接洽，他將很快開發更新版本。