ChatGPT एक कृत्रिम बुद्धिमत्ता चॅटबॉट प्रोटोटाइप आहे
असे वृत्त प्रसिद्ध करण्यात आले ओपनएआय हे सॉफ्टवेअर विकसित करत आहे जे तुमच्या चॅटजीपीटी मॉडेलने मजकूर व्युत्पन्न केला आहे की नाही हे शोधू शकते. न्यू यॉर्क शहराच्या शिक्षण अधिकार्‍यांनी जाहीर केल्यानंतर लवकरच ते सार्वजनिक शाळांतील विद्यार्थ्यांचा प्रवेश अवरोधित करतील.
आणि ते असे आहे की त्यांनी काय विविध अहवाल प्रसिद्ध केले आहेत गृहपाठ करण्यासाठी AI वापरणारे विद्यार्थी, त्याचा शिक्षणावर कसा परिणाम होतो याचा त्यांनी शिक्षकांना विचार करायला लावला आहे.
काहींनी व्यक्त केले भाषा मॉडेल कसे याबद्दल चिंता ते विद्यार्थ्यांना फसवणूक करू शकतात.
हे पाहता, OpenAI ने घोषणा केली की ते "शमन" विकसित करण्यासाठी काम करत आहे ज्यामुळे लोकांना ChatGPT द्वारे स्वयंचलितपणे व्युत्पन्न केलेला मजकूर शोधण्यात मदत होईल.
“आम्ही ChatGPT हे वास्तविक-जगातील वापरातून शिकण्यासाठी संशोधन पूर्वावलोकन म्हणून उपलब्ध केले आहे, जो सक्षम आणि सुरक्षित AI प्रणाली विकसित आणि तैनात करण्याचा एक आवश्यक भाग आहे असे आम्हाला वाटते. आम्ही सतत फीडबॅक आणि शिकलेले धडे समाविष्ट करत आहोत,” कंपनीच्या प्रवक्त्याने सांगितले.
विद्यापीठाच्या प्राध्यापकांच्या प्रशस्तिपत्रांनुसार, विद्यार्थी त्यांचा गृहपाठ सोडवण्यासाठी ChatGPT वर विश्वास ठेवतात, विशेषत: तालीम मध्ये.
“अकादमीने ते येताना पाहिले नाही. त्यामुळे आम्हाला आश्चर्य वाटले,” फरमन विद्यापीठातील तत्त्वज्ञानाचे सहायक प्राध्यापक डॅरेन हडसन हिक म्हणतात.
"मी फेसबुकवर याची तक्रार केली, आणि माझे [शिक्षक] मित्र असे होते, 'हो! मी पण एक पकडला," तो पुढे म्हणाला. या महिन्याच्या सुरुवातीला, हिकने त्याच्या वर्गाला 500व्या शतकातील स्कॉटिश तत्वज्ञानी डेव्हिड ह्यूम आणि भयपट विरोधाभास यावर XNUMX शब्दांचा निबंध लिहिण्यास सांगितले, जे लोक त्यांना ज्या गोष्टीची भीती वाटते त्यातून आनंद कसा मिळवू शकतात याचे परीक्षण करते. , घरी चाचणीसाठी. परंतु तत्त्वज्ञानाच्या प्राध्यापकाच्या मते, त्यांच्याकडे आलेल्या निबंधांपैकी एक अशी काही वैशिष्ट्ये होती जी विद्यार्थ्याच्या "प्राथमिक" प्रतिसादात AI चा वापर "चिन्हांकित" करतात. हिक स्पष्ट करतो की हे प्रशिक्षित डोळ्याद्वारे शोधले जाऊ शकते.
हस्ताक्षर वेगळे करण्यास सक्षम असणे मानवाने किंवा यंत्राद्वारे हाताने उत्पादित ते अकादमीमध्ये वापरण्याची पद्धत बदलेल. शाळा अधिक प्रभावीपणे AI-व्युत्पन्न चाचणी बंदी लागू करू शकतात,
होय, जनरेटिव्ह लँग्वेज मॉडेल चांगले असू शकतात, परंतु ते कशाबद्दल बोलत आहेत हे त्यांना माहिती नाही.
युनिव्हर्सिटी कॉन्फरन्स आणि शाळांनी टंकलेखित पेपर्सवर बंदी घातल्याने AI-व्युत्पन्न केलेले लेखन जितके प्रभावी आहे तितकेच, येथे एक आठवण आहे की त्यांना वास्तविक मानवी लेखनाची समज नाही.
आणि हे असे आहे की OpenAI 2015 पासून मानवी बुद्धिमत्ता आणि कलात्मक क्षमतांची प्रतिकृती बनवण्याच्या आपल्या प्रयत्नांनी इंटरनेटवर प्रभाव पाडत आहे. परंतु गेल्या नोव्हेंबरमध्ये कंपनीने AI मजकूर जनरेटर ChatGPT लाँच केल्यावर ते मेगा व्हायरल झाले. बीटा टूलच्या वापरकर्त्यांनी AI-व्युत्पन्न केलेल्या मजकूर प्रतिसादांची उदाहरणे प्रॉम्प्टवर पोस्ट केली जी इतकी कायदेशीर वाटली की त्यांनी शिक्षकांच्या मनात भीती निर्माण केली आणि Google ला भीती वाटली की हे टूल त्यांच्या संशोधन क्रियाकलापांना नष्ट करू शकते.
जर ओपनएआय अभियंते असा बॉट तयार करू शकतात जे सरासरी माणसापेक्षा चांगले किंवा चांगले टाइप करू शकतात, तर ते AI द्वारे मजकूर व्युत्पन्न झाला आहे की नाही हे शोधण्यासाठी ते सरासरी माणसापेक्षा चांगले बॉट देखील तयार करू शकतात.
ओपनएआय सोल्यूशनवर काम करत आहे त्या क्षणी नमूद केल्याप्रमाणे, कमीतकमी तीन शोध साधने आधीच सोडली गेली आहेत जी वापरली जाऊ शकतात:
GPT-2 एक्झिट डिटेक्टर
GPT-2 एक्झिट डिटेक्टर मॉडेलचा ऑनलाइन डेमो तुम्हाला बॉक्समध्ये मजकूर पेस्ट करण्याची परवानगी देतो आणि AI द्वारे मजकूर टाईप केल्याची संभाव्यता लगेच पाहू शकतो. OpenAI च्या संशोधनानुसार, साधनाचा शोध दर तुलनेने उच्च आहे, परंतु "सर्वात प्रभावी होण्यासाठी मेटाडेटा, मानवी निर्णय आणि सार्वजनिक शिक्षणावर आधारित दृष्टिकोन एकत्र करणे आवश्यक आहे."
GLTR
जेव्हा OpenAI ने 2 मध्ये GPT-2019 जारी केले, तेव्हा MIT-IBM वॉटसन AI लॅब आणि हार्वर्ड नॅचरल लँग्वेज प्रोसेसिंग ग्रुपमधील लोकांनी एक अल्गोरिदम तयार करण्यासाठी एकत्र येऊन मजकूर बॉटद्वारे टाइप केला आहे की नाही हे शोधण्याचा प्रयत्न केला.
संगणकाद्वारे तयार केलेला मजकूर एखाद्या माणसाने लिहिलेला दिसतो, परंतु मानवी लेखकाने अप्रत्याशित शब्द निवडण्याची अधिक शक्यता असते. "एकला जाणून घेण्यासाठी एक घेते" पद्धतीचा वापर करून, जर GLTR अल्गोरिदम वाक्यातील पुढील शब्दाचा अंदाज लावू शकत असेल, तर ते वाक्य बॉटने लिहिलेले आहे असे गृहीत धरेल.
GPTZero
ख्रिसमसच्या हंगामात, एडवर्ड टियान GPTZero तयार करण्यात व्यस्त होता, एक अॅप जे मजकूर माणसाने किंवा बॉटने लिहिलेला आहे हे निर्धारित करण्यात मदत करू शकते. प्रिन्स्टन येथील एक शैक्षणिक म्हणून, Tian ला समजले आहे की AI-सहाय्यित साहित्यिक चोरी किंवा AI-सहाय्यित साहित्यिक चोरी शोधण्यात विद्यापीठातील प्राध्यापकांचा निहित स्वारस्य कसा असू शकतो.
टियान म्हणतात की मजकूर ChatGPT ने लिहिला होता या संभाव्यतेची गणना करण्यासाठी त्याचे साधन वाक्यांची यादृच्छिकता ("buzz") तसेच एकूणच यादृच्छिकता ("बर्स्ट") मोजते. 2 जानेवारी रोजी GPTZero बद्दल ट्विट केल्यापासून, Tian म्हणतो की गुंतवणूक करू इच्छिणाऱ्या उद्यम भांडवलदारांनी त्याच्याशी आधीच संपर्क साधला आहे आणि तो लवकरच अद्ययावत आवृत्ती विकसित करेल.
स्त्रोत: https://techcrunch.com