चैटजीपीटी एक आर्टिफिशियल इंटेलिजेंस चैटबॉट प्रोटोटाइप है
खबर जारी की गई थी कि OpenAI ऐसा सॉफ़्टवेयर विकसित कर रहा है जो यह पता लगा सकता है कि आपका ChatGPT मॉडल टेक्स्ट जनरेट करता है या नहीं, इसके तुरंत बाद न्यूयॉर्क शहर के शिक्षा अधिकारियों ने घोषणा की कि वे पब्लिक स्कूलों में छात्रों की इस टूल तक पहुंच को अवरुद्ध कर देंगे।
और यह है कि उन्होंने क्या की विभिन्न रिपोर्ट जारी की हैं अपना होमवर्क करने के लिए एआई का उपयोग करने वाले छात्र, उन्होंने शिक्षकों को यह सोचने पर मजबूर किया है कि यह शिक्षा को कैसे प्रभावित करता है।
कुछ ने व्यक्त किया है भाषा मॉडल के बारे में चिंता वे छात्रों को धोखा देने की अनुमति दे सकते हैं।
इसे देखते हुए, OpenAI ने घोषणा की कि यह "शमन" विकसित करने के लिए काम कर रहा है जो लोगों को चैटजीपीटी द्वारा स्वचालित रूप से उत्पन्न पाठ का पता लगाने में मदद करेगा।
“हमने चैटजीपीटी को वास्तविक दुनिया के उपयोग से सीखने के लिए एक शोध पूर्वावलोकन के रूप में उपलब्ध कराया है, जिसे हम मानते हैं कि सक्षम और सुरक्षित एआई सिस्टम को विकसित करने और तैनात करने का एक अनिवार्य हिस्सा है। कंपनी के एक प्रवक्ता ने कहा, हम लगातार फीडबैक और सीखे गए पाठों को शामिल कर रहे हैं।
विश्वविद्यालय के प्रोफेसरों के प्रशंसापत्र के अनुसार, छात्र अपना होमवर्क हल करने के लिए चैटजीपीटी पर भरोसा करते हैं, खासकर रिहर्सल में।
"अकादमी ने इसे आते हुए नहीं देखा। तो इसने हमें आश्चर्यचकित कर दिया, ”फुरमैन विश्वविद्यालय में दर्शनशास्त्र के सहायक प्रोफेसर डैरेन हडसन हिक कहते हैं।
"मैंने फेसबुक पर इसकी सूचना दी, और मेरे [शिक्षक] मित्र जैसे थे, 'हाँ! मैंने एक को भी पकड़ा," उन्होंने कहा। इस महीने की शुरुआत में, हिक ने कथित तौर पर अपनी कक्षा को 500 वीं शताब्दी के स्कॉटिश दार्शनिक डेविड ह्यूम और हॉरर पैराडॉक्स पर XNUMX शब्दों का एक निबंध लिखने के लिए कहा, जो इस बात की जांच करता है कि लोग घर पर एक परीक्षण के लिए किस तरह से किसी चीज से आनंद प्राप्त कर सकते हैं। लेकिन दर्शनशास्त्र के प्रोफेसर के अनुसार, उनके पास आए निबंधों में से एक में कुछ विशेषताएं थीं जो छात्र की "अल्पविकसित" प्रतिक्रिया में एआई के उपयोग को "चिह्नित" करती हैं। हिक बताते हैं कि प्रशिक्षित आंखों से इसका पता लगाया जा सकता है।
लिखावट में अंतर करने में सक्षम होना मानव या मशीन द्वारा हाथ से निर्मित यह अकादमी में उनके उपयोग के तरीके को बदल देगा। स्कूल एआई-जनित परीक्षण प्रतिबंध को अधिक प्रभावी ढंग से लागू कर सकते हैं,
हां, जनरेटिव लैंग्वेज मॉडल अच्छे हो सकते हैं, लेकिन वे नहीं जानते कि वे किस बारे में बात कर रहे हैं।
एआई-जनित लेखन जितना प्रभावशाली है, कॉलेज सम्मेलनों और स्कूलों में टाइपराइटिंग पेपर पर प्रतिबंध लगाने के साथ सुर्खियां बटोरता है, यहां एक अनुस्मारक है कि उन्हें वास्तविक मानव लेखन की समझ की कमी है।
और यह है कि OpenAI 2015 से मानव बुद्धि और कलात्मक क्षमताओं को दोहराने के अपने प्रयासों से इंटरनेट को प्रभावित कर रहा है। लेकिन पिछले नवंबर में, AI टेक्स्ट जनरेटर ChatGPT के लॉन्च के साथ कंपनी आखिरकार मेगा वायरल हो गई। बीटा टूल के उपयोगकर्ताओं ने संकेतों के लिए एआई-जनित पाठ प्रतिक्रियाओं के उदाहरण पोस्ट किए जो इतने वैध लग रहे थे कि उन्होंने शिक्षकों के दिलों में डर पैदा कर दिया और यहां तक कि Google को यह डर भी बना दिया कि टूल उनकी शोध गतिविधि को खत्म कर सकता है।
यदि OpenAI इंजीनियर एक ऐसा बॉट बना सकते हैं जो औसत मानव की तुलना में अच्छा या बेहतर टाइप कर सकता है, तो इसका कारण यह है कि वे एक ऐसा बॉट भी बना सकते हैं जो यह पता लगाने में औसत मानव से बेहतर है कि पाठ AI द्वारा उत्पन्न किया गया था या नहीं।
चूँकि इस समय उल्लेख किया गया है कि OpenAI एक समाधान पर काम कर रहा है, कम से कम तीन पहचान उपकरण पहले ही जारी किए जा चुके हैं जिनका उपयोग किया जा सकता है:
GPT-2 निकास डिटेक्टर
GPT-2 एग्जिट डिटेक्टर मॉडल का ऑनलाइन डेमो आपको टेक्स्ट को एक बॉक्स में पेस्ट करने की अनुमति देता है और तुरंत इस संभावना को देखता है कि टेक्स्ट AI द्वारा टाइप किया गया था। OpenAI के शोध के अनुसार, उपकरण में अपेक्षाकृत उच्च पहचान दर है, लेकिन "सबसे प्रभावी होने के लिए मेटाडेटा, मानव निर्णय और सार्वजनिक शिक्षा पर आधारित दृष्टिकोणों के साथ संयुक्त होने की आवश्यकता है।"
जीएलटीआर
जब OpenAI ने 2 में GPT-2019 जारी किया, तो MIT-IBM Watson AI लैब और हार्वर्ड नेचुरल लैंग्वेज प्रोसेसिंग ग्रुप के लोगों ने मिलकर एक एल्गोरिथ्म बनाया, जो यह पता लगाने की कोशिश करता है कि टेक्स्ट को बॉट द्वारा टाइप किया गया है या नहीं।
कंप्यूटर जनित पाठ मानव द्वारा लिखा गया प्रतीत हो सकता है, लेकिन एक मानव लेखक द्वारा अप्रत्याशित शब्दों का चयन करने की संभावना अधिक होती है। "टेक वन टू नो वन" पद्धति का उपयोग करते हुए, यदि जीएलटीआर एल्गोरिथ्म एक वाक्य में अगले शब्द की भविष्यवाणी कर सकता है, तो यह मान लेगा कि वाक्य एक बॉट द्वारा लिखा गया था।
जीपीटीजीरो
क्रिसमस के मौसम के दौरान, एडवर्ड तियान GPTZero बनाने में व्यस्त थे, एक ऐसा ऐप जो यह निर्धारित करने में मदद कर सकता है कि टेक्स्ट मानव या बॉट द्वारा लिखा गया था या नहीं। प्रिंसटन में एक अकादमिक के रूप में, तियान समझता है कि एआई-सहायता साहित्यिक चोरी या एआई-सहायता साहित्यिक चोरी का पता लगाने में विश्वविद्यालय के प्रोफेसरों का निहित स्वार्थ कैसे हो सकता है।
तियान का कहना है कि उनका टूल वाक्यों की यादृच्छिकता ("चर्चा") और समग्र यादृच्छिकता ("फट") को इस संभावना की गणना करने के लिए मापता है कि पाठ चैटजीपीटी द्वारा लिखा गया था। 2 जनवरी को GPTZero के बारे में ट्वीट करने के बाद से, तियान का कहना है कि निवेश करने के इच्छुक उद्यम पूंजीपतियों ने उनसे पहले ही संपर्क किया है, और वह जल्द ही अद्यतन संस्करण विकसित करेंगे।
Fuente: https://techcrunch.com