ChatGPT는 인공 지능 챗봇 프로토타입입니다.
라는 소식이 전해졌습니다. OpenAI는 ChatGPT 모델이 텍스트를 생성했는지 감지할 수 있는 소프트웨어를 개발하고 있습니다. 이는 뉴욕시 교육 당국이 공립학교에서 학생의 도구 액세스를 차단하겠다고 발표한 직후입니다.
그리고 그들은 무엇에 대한 다양한 보고서를 발표했습니다. AI를 사용하여 숙제를 하는 학생들, 그들은 교사들이 그것이 교육에 미치는 영향에 대해 생각하게 만들었습니다.
일부는 자신의 언어 모델 방법에 대한 우려 그들은 학생들이 부정행위를 하도록 허용할 수 있습니다.
이를 감안하여 OpenAI는 사람들이 ChatGPT에서 자동으로 생성된 텍스트를 감지하는 데 도움이 되는 "완화"를 개발하기 위해 노력하고 있다고 발표했습니다.
“우리는 ChatGPT를 실제 사용에서 배우기 위한 연구 미리 보기로 사용할 수 있도록 했습니다. 우리는 이것이 유능하고 안전한 AI 시스템을 개발하고 배포하는 데 필수적인 부분이라고 생각합니다. 회사 대변인은 "피드백과 교훈을 지속적으로 반영하고 있다"고 말했다.
대학 교수들의 증언에 따르면, 학생들은 ChatGPT를 신뢰하여 숙제를 풀고, 특히 리허설에서.
“아카데미는 그것이 오는 것을 보지 못했습니다. 그래서 우리는 놀랐습니다.”라고 Furman University의 철학 조교수인 Darren Hudson Hick은 말합니다.
"페이스북에 신고했더니 [선생님] 친구들이 '그래! 나도 한 마리 잡았다"고 덧붙였다. 이달 초 Hick은 집에서 시험하기 위해 500세기 스코틀랜드 철학자 David Hume과 사람들이 두려워하는 것에서 즐거움을 얻을 수 있는 방법을 조사하는 공포의 역설에 대한 XNUMX단어 에세이를 쓰도록 학급 학생들에게 요청한 것으로 알려졌습니다. 그러나 철학 교수에 따르면 그에게 온 에세이 중 하나에는 학생의 "초보적인" 반응에서 AI의 사용을 "표시"하는 몇 가지 기능이 있었습니다. Hick은 이것이 훈련된 눈으로 감지될 수 있다고 설명합니다.
글씨를 구별할 수 있는 사람이나 기계가 손으로 만든 그것은 그들이 아카데미에서 사용될 수 있는 방식을 바꿀 것입니다. 학교는 AI 생성 테스트 금지를 보다 효과적으로 시행할 수 있습니다.
예, 생성 언어 모델은 좋을 수 있지만 그들이 말하는 내용을 모릅니다.
AI가 생성한 글이 타자기 사용을 금지하는 대학 회의 및 학교에서 헤드라인을 장식하는 것처럼 인상적이지만 실제 사람의 글에 대한 이해가 부족하다는 점을 상기시켜 드립니다.
그리고 OpenAI는 2015년부터 인간의 지능과 예술적 능력을 복제하려는 노력으로 인터넷에 깊은 인상을 남겼습니다. 하지만 지난 XNUMX월 회사는 마침내 AI 텍스트 생성기 ChatGPT를 출시하면서 엄청난 입소문을 냈습니다. 베타 도구 사용자는 너무 합법적인 것처럼 보이는 프롬프트에 AI가 생성한 텍스트 응답의 예를 게시하여 교사의 마음에 두려움을 불러일으켰고 심지어 도구가 연구 활동을 중단시킬 수 있다는 Google의 두려움을 불러일으켰습니다.
OpenAI 엔지니어가 일반 인간보다 더 잘 입력할 수 있는 봇을 만들 수 있다면 텍스트가 AI에 의해 생성되었는지 여부를 감지하는 데 일반 인간보다 더 나은 봇도 만들 수 있다는 것은 당연합니다.
언급한 대로 OpenAI가 솔루션을 개발 중이므로 사용할 수 있는 감지 도구가 이미 XNUMX개 이상 출시되었습니다.
GPT-2 종료 감지기
GPT-2 종료 감지기 모델의 온라인 데모를 통해 상자에 텍스트를 붙여넣고 AI가 텍스트를 입력했을 확률을 즉시 확인할 수 있습니다. OpenAI의 연구에 따르면 이 도구는 탐지율이 상대적으로 높지만 "가장 효과적이려면 메타데이터, 인간의 판단 및 공교육에 기반한 접근 방식과 결합해야 합니다."
GLTR
OpenAI가 2년에 GPT-2019를 출시했을 때 MIT-IBM Watson AI Lab과 Harvard Natural Language Processing Group의 사람들은 팀을 이루어 텍스트가 봇에 의해 입력되었는지 감지하는 알고리즘을 만들었습니다.
컴퓨터로 생성된 텍스트는 사람이 쓴 것처럼 보일 수 있지만 사람 작가는 예측할 수 없는 단어를 선택할 가능성이 더 큽니다. "takes one to know one" 방법을 사용하여 GLTR 알고리즘이 문장의 다음 단어를 예측할 수 있는 경우 문장이 봇에 의해 작성되었다고 가정합니다.
지피티제로
크리스마스 시즌 동안 Edward Tian은 텍스트를 사람이 쓴 것인지 봇이 쓴 것인지 판단하는 데 도움이 되는 앱인 GPTZero를 만들느라 바빴습니다. Princeton의 학자로서 Tian은 대학 교수가 AI 지원 표절 또는 AI 지원 표절을 탐지하는 데 기득권을 가질 수 있는 방법을 이해합니다.
Tian은 자신의 도구가 문장의 임의성("buzz")과 전체 임의성("bursts")을 측정하여 텍스트가 ChatGPT에 의해 작성되었을 확률을 계산한다고 말합니다. 2월 XNUMX일 GPTZero에 대해 트윗한 이후 Tian은 투자를 원하는 벤처 캐피탈리스트가 이미 접근했으며 곧 업데이트된 버전을 개발할 것이라고 말했습니다.