ChatGPT הוא אב טיפוס של בינה מלאכותית של צ'אטבוט
הידיעה פורסמה כי OpenAI מפתחת תוכנה שיכולה לזהות אם מודל ChatGPT שלך יצר טקסט, זאת זמן קצר לאחר שפקידי חינוך בעיר ניו יורק הודיעו שהם יחסמו את גישת התלמידים לכלי בבתי ספר ציבוריים.
וזה שהם פרסמו דיווחים שונים על מה תלמידים המשתמשים בבינה מלאכותית כדי להכין את שיעורי הבית שלהם, הם גרמו למורים לחשוב איך זה משפיע על החינוך.
חלקם הביעו את שלהם דאגה לגבי מודלים של שפה הם עשויים לאפשר לתלמידים לרמות.
לאור זאת, OpenAI הודיעה שהיא פועלת לפתח "הקלות" שיעזרו לאנשים לזהות את הטקסט שנוצר אוטומטית על ידי ChatGPT.
"הפכנו את ChatGPT לזמין כתצוגה מקדימה של מחקר כדי ללמוד משימוש בעולם האמיתי, שלדעתנו הוא חלק חיוני בפיתוח ופריסה של מערכות AI מסוגלות ומאובטחות. אנחנו כל הזמן משלבים משוב ולקחים", אמר דובר החברה.
על פי עדויות של פרופסורים באוניברסיטה, התלמידים סומכים על ChatGPT כדי לפתור את שיעורי הבית שלהם, במיוחד בחזרות.
"האקדמיה לא ראתה את זה מגיע. אז זה הפתיע אותנו", אומר דארן הדסון היק, עוזר פרופסור לפילוסופיה באוניברסיטת פורמן.
"דיווחתי על זה בפייסבוק, וחברי [המורה] אמרו, 'כן! גם אני תפסתי אחד", הוסיף. מוקדם יותר החודש, על פי הדיווחים, היק ביקש מהכיתה שלו לכתוב מאמר בן 500 מילים על הפילוסוף הסקוטי בן המאה ה-XNUMX דיוויד הום ופרדוקס האימה, שבוחן כיצד אנשים יכולים להפיק הנאה ממשהו שהם חוששים ממנו. , למבחן בבית. אבל לדברי הפרופסור לפילוסופיה, לאחד החיבורים שהגיעו אליו היו כמה מאפיינים ש"סימנו" את השימוש ב-AI בתגובה ה"בסיסית" של התלמיד. היק מסביר שניתן לזהות זאת על ידי עין מאומנת.
יכולת להבחין בכתב יד בעבודת יד מיוצר על ידי אדם או מכונה זה ישנה את הדרך שבה ניתן יהיה להשתמש בהם באקדמיה. בתי ספר יכולים לאכוף בצורה יעילה יותר את האיסור על בדיקות AI,
כן, מודלים של שפה גנרטיבית יכולים להיות טובים, אבל הם לא יודעים על מה הם מדברים.
עד כמה שהכתיבה שנוצרה על ידי AI עולה לכותרות עם כנסים אוניברסיטאיים ובתי ספר האוסרים על עבודות מודפסות במכונת כתיבה, הנה תזכורת שהם חסרי הבנה בכתיבה אנושית בפועל.
וזה ש-OpenAI הרשימה את האינטרנט במאמציה לשכפל את האינטליגנציה האנושית והיכולות האמנותיות מאז 2015. אבל בנובמבר האחרון, החברה סוף סוף הפכה למגה ויראלית עם השקת מחולל הטקסט של AI ChatGPT. משתמשים בכלי הבטא פרסמו דוגמאות לתגובות טקסט שנוצרו בינה מלאכותית להנחיות שנראו כל כך לגיטימיות שהן הטילו פחד בלב המורים ואף גרמו לגוגל לחשוש שהכלי עלול להרוג את פעילות המחקר שלהם.
אם מהנדסי OpenAI יכולים ליצור בוט שיכול להקליד טוב או טוב יותר מהאדם הממוצע, הגיוני שהם יכולים גם ליצור בוט שיותר טוב מהאדם הממוצע לזהות אם טקסט נוצר על ידי AI.
מכיוון שכאמור כרגע OpenAI עובדת על פתרון, כבר שוחררו לפחות שלושה כלי זיהוי שניתן להשתמש בהם:
גלאי יציאה GPT-2
ההדגמה המקוונת של דגם גלאי היציאה GPT-2 מאפשרת לך להדביק טקסט לתוך תיבה ולראות מיד את ההסתברות שהטקסט הוקלד על ידי ה-AI. לפי המחקר של OpenAI, לכלי יש שיעור זיהוי גבוה יחסית, אבל "צריך לשלב אותו עם גישות המבוססות על מטא נתונים, שיקול דעת אנושי וחינוך ציבורי כדי להיות הכי יעיל".
GLTR
כאשר OpenAI הוציאה את GPT-2 ב-2019, אנשי מעבדת MIT-IBM Watson AI ו-Harvard Natural Language Processing Group חברו יחד כדי ליצור אלגוריתם שמנסה לזהות אם טקסט הוקלד על ידי בוט.
נראה כי טקסט שנוצר על ידי מחשב נכתב על ידי אדם, אך סביר יותר שכותב אנושי יבחר מילים בלתי צפויות. שימוש בשיטת "לוקח אחד לדעת אחד", אם אלגוריתם GLTR יכול לחזות את המילה הבאה במשפט, הוא יניח שהמשפט נכתב על ידי בוט.
GPZero
במהלך עונת חג המולד, אדוארד טיאן היה עסוק ביצירת GPTZero, אפליקציה שיכולה לעזור לקבוע אם טקסט נכתב על ידי אדם או בוט. כאיש אקדמיה בפרינסטון, טיאן מבין כיצד לפרופסורים באוניברסיטאות יכול להיות אינטרס מובהק באיתור גניבת דעת בסיוע בינה מלאכותית או פלגיאט בסיוע בינה מלאכותית.
טיאן אומר שהכלי שלו מודד את האקראיות של המשפטים ("באזז") בתוספת האקראיות הכללית ("התפרצויות") כדי לחשב את ההסתברות שהטקסט נכתב על ידי ChatGPT. מאז שצייץ על GPTZero ב-2 בינואר, טיאן אומר שכבר פנו אליו משקיעי הון סיכון שרוצים להשקיע, והוא יפתח גרסאות מעודכנות בקרוב.
מקור: https://techcrunch.com