ChatGPT は人工知能チャットボットのプロトタイプです
ニュースがリリースされました OpenAI は、ChatGPT モデルがテキストを生成したかどうかを検出できるソフトウェアを開発しています。 これは、ニューヨーク市の教育当局が、公立学校での生徒のツールへのアクセスをブロックすると発表した直後のことです。
そして、彼らが何のさまざまなレポートをリリースしたということです AI を使って宿題をする学生、 彼らは、それが教育にどのように影響するかについて教師に考えさせました。
一部は自分の意見を表明した 言語モデルの方法に関する懸念 彼らは学生が不正行為をするのを許すかもしれません。
これを受けて、OpenAI は、ChatGPT によって自動生成されたテキストを人々が検出するのに役立つ「軽減策」の開発に取り組んでいると発表しました。
「ChatGPT は、実際の使用から学ぶための研究プレビューとして利用できるようになりました。これは、有能で安全な AI システムの開発と展開に不可欠な部分であると考えています。 私たちは常にフィードバックと学んだ教訓を取り入れています」と同社の広報担当者は語った.
大学教授の証言によると、 学生はChatGPTを信頼して宿題を解決し、 特にリハーサルで。
「アカデミーはそれが来るとは思っていませんでした。 ファーマン大学の哲学助教授であるダレン・ハドソン・ヒックは言う。
「フェイスブックで報告したら、[先生の] 友達が『うん！ 私も一匹釣った」と付け加えた。 今月初め、ヒックはクラスに、500 世紀のスコットランドの哲学者デイビッド ヒュームと恐怖のパラドックスに関する XNUMX 語のエッセイを書くように依頼したと伝えられています。 しかし、哲学の教授によると、彼に届いたエッセイの XNUMX つには、学生の「初歩的な」反応における AI の使用を「際立たせる」特徴がいくつかありました。 ヒックは、これは訓練された目で検出できると説明しています。
筆跡の判別ができる 人間または機械によって手作業で生産される アカデミーでの使用方法が変わります。 学校は、AI によって生成されたテストの禁止をより効果的に実施できます。
はい、生成言語モデルは優れていますが、何について話しているのかわかりません。
AI によって生成された文章が、タイプライターで書かれた論文を禁止する大学の会議や学校の見出しになるのと同じくらい印象的ですが、実際の人間の文章に対する理解が不足していることを思い出してください。
そして、OpenAI は 2015 年以来、人間の知性と芸術的能力を再現する取り組みでインターネットに感銘を与えてきました。しかし、昨年 XNUMX 月、同社は AI テキスト ジェネレーター ChatGPT の発売により、ついに大流行しました。 ベータ版ツールのユーザーは、プロンプトに対して AI が生成したテキスト応答の例を投稿しましたが、これは非常に正当に思えたため、教師の心に恐怖を与え、ツールが研究活動を台無しにするのではないかと Google に恐れさえさせました。
OpenAI エンジニアが、平均的な人間と同等またはそれ以上にタイピングできるボットを作成できるのであれば、テキストが AI によって生成されたかどうかを検出する点で、平均的な人間よりも優れたボットを作成できるのも当然です。
現時点で述べたように、OpenAI は解決策に取り組んでいるため、使用可能な少なくとも XNUMX つの検出ツールが既にリリースされています。
GPT-2 出口検出器
GPT-2 出口検出モデルのオンライン デモでは、テキストをボックスに貼り付けて、そのテキストが AI によって入力された可能性をすぐに確認できます。 OpenAI の調査によると、このツールの検出率は比較的高いものの、「最も効果を発揮するには、メタデータ、人間の判断、および公教育に基づくアプローチと組み合わせる必要があります」。
GLTR
OpenAI が 2 年に GPT-2019 をリリースしたとき、MIT-IBM ワトソン AI ラボとハーバード自然言語処理グループのチームは、ボットによってテキストが入力されたかどうかを検出しようとするアルゴリズムを作成するために協力しました。
コンピュータで生成されたテキストは人間が書いたように見えるかもしれませんが、人間の書き手は予測できない言葉を選択する可能性が高くなります。 GLTR アルゴリズムが文の次の単語を予測できる場合、「XNUMX 人でわかる」方法を使用して、その文がボットによって書かれたものであると想定します。
GPTZエロ
クリスマス シーズン中、Edward Tian は GPTZero の作成に忙しくしていました。GPTZero は、テキストが人間によって書かれたものか、ボットによって書かれたものかを判断するのに役立つアプリです。 プリンストン大学の学者として、Tian は、大学教授が AI 支援盗作または AI 支援盗作を検出することに既得権を持つ方法を理解しています。
Tian 氏によると、彼のツールは文のランダム性 (「バズ」) と全体的なランダム性 (「バースト」) を測定して、テキストが ChatGPT によって書かれた確率を計算します。 2 月 XNUMX 日に GPTZero についてツイートして以来、Tian は、投資を希望するベンチャー キャピタリストからすでにアプローチを受けており、近日中に更新バージョンを開発する予定であると述べています。