ChatGPT เป็นแชทบ็อตต้นแบบปัญญาประดิษฐ์
ได้ข่าวว่า OpenAI กำลังพัฒนาซอฟต์แวร์ที่สามารถตรวจจับได้ว่าโมเดล ChatGPT ของคุณสร้างข้อความหรือไม่ ไม่นานหลังจากที่เจ้าหน้าที่การศึกษาของนครนิวยอร์กประกาศว่าพวกเขาจะปิดกั้นการเข้าถึงเครื่องมือของนักเรียนในโรงเรียนของรัฐ
และมันก็คือว่าพวกเขาได้ออกรายงานต่าง ๆ ว่าอะไร นักเรียนใช้ AI ทำการบ้าน พวกเขาทำให้ครูคิดว่ามันส่งผลต่อการศึกษาอย่างไร
บางคนได้แสดงของพวกเขา ความกังวลเกี่ยวกับรูปแบบภาษา พวกเขาอาจยอมให้นักเรียนโกงได้
จากนี้ OpenAI ประกาศว่ากำลังทำงานเพื่อพัฒนา "การบรรเทา" ที่จะช่วยให้ผู้คนตรวจจับข้อความที่สร้างขึ้นโดยอัตโนมัติโดย ChatGPT
“เราทำให้ ChatGPT พร้อมใช้งานเป็นตัวอย่างการวิจัยเพื่อเรียนรู้จากการใช้งานจริง ซึ่งเราเชื่อว่าเป็นส่วนสำคัญในการพัฒนาและปรับใช้ระบบ AI ที่มีความสามารถและปลอดภัย เรารวบรวมข้อเสนอแนะและบทเรียนที่ได้รับอย่างต่อเนื่อง" โฆษกของบริษัทกล่าว
จากคำรับรองของอาจารย์มหาวิทยาลัยระบุว่า นักเรียนไว้วางใจให้ ChatGPT แก้การบ้าน โดยเฉพาะในการซ้อม
“สถานศึกษาไม่เห็นว่าจะมาถึง ดังนั้นมันจึงทำให้เราประหลาดใจ” Darren Hudson Hick ผู้ช่วยศาสตราจารย์ด้านปรัชญาแห่งมหาวิทยาลัย Furman กล่าว
"ฉันรายงานเรื่องนี้ทาง Facebook และเพื่อน [ครู] ของฉันก็แบบว่า 'ใช่! ฉันก็จับได้เหมือนกัน” เขากล่าวเสริม เมื่อต้นเดือนที่ผ่านมา มีรายงานว่าฮิคขอให้ชั้นเรียนของเขาเขียนเรียงความความยาว 500 คำเกี่ยวกับนักปรัชญาชาวสก็อตแลนด์ในศตวรรษที่ XNUMX เดวิด ฮูมและความขัดแย้งสยองขวัญ ซึ่งจะตรวจสอบว่าผู้คนได้รับความสุขจากสิ่งที่พวกเขากลัวได้อย่างไร สำหรับการทดสอบที่บ้าน แต่ตามที่ศาสตราจารย์ด้านปรัชญากล่าวว่า หนึ่งในเรียงความที่ส่งมาถึงเขามีคุณสมบัติบางอย่างที่ "ทำเครื่องหมาย" การใช้ AI ในการตอบสนอง "พื้นฐาน" ของนักเรียน ฮิคอธิบายว่าสิ่งนี้สามารถตรวจจับได้ด้วยตาที่ได้รับการฝึกฝน
สามารถแยกแยะลายมือได้ ทำด้วยมือโดยคนหรือเครื่องจักร มันจะเปลี่ยนวิธีการใช้ในสถานศึกษา โรงเรียนสามารถบังคับใช้การแบนการทดสอบที่สร้างโดย AI ได้อย่างมีประสิทธิภาพมากขึ้น
ใช่ โมเดลภาษาเชิงสร้างสรรค์อาจใช้ได้ดี แต่พวกเขาไม่รู้ว่ากำลังพูดถึงอะไร
การเขียนที่สร้างสรรค์โดย AI นั้นน่าประทับใจพอๆ กับการประชุมของมหาวิทยาลัยและโรงเรียนที่ห้ามพิมพ์เอกสาร นี่คือการย้ำเตือนว่าพวกเขาขาดความเข้าใจในการเขียนโดยมนุษย์จริงๆ
และนั่นคือการที่ OpenAI สร้างความประทับใจให้กับอินเทอร์เน็ตด้วยความพยายามในการจำลองความฉลาดของมนุษย์และความสามารถทางศิลปะมาตั้งแต่ปี 2015 แต่เมื่อเดือนพฤศจิกายนปีที่แล้ว ในที่สุดบริษัทก็กลายเป็นไวรัลขนาดใหญ่ด้วยการเปิดตัว ChatGPT โปรแกรมสร้างข้อความ AI ผู้ใช้เครื่องมือเบต้าโพสต์ตัวอย่างข้อความตอบกลับที่สร้างโดย AI เพื่อแจ้งสิ่งที่ดูเหมือนถูกต้องตามกฎหมาย จนทำให้ครูรู้สึกหวาดกลัว และถึงกับทำให้ Google กลัวว่าเครื่องมือนี้อาจทำลายกิจกรรมการวิจัยของพวกเขา
หากวิศวกรของ OpenAI สามารถสร้างบอทที่สามารถพิมพ์ได้ดีหรือดีกว่ามนุษย์ทั่วไป ก็แสดงว่าพวกเขาสามารถสร้างบอทที่ดีกว่ามนุษย์ทั่วไปในการตรวจจับว่าข้อความนั้นสร้างโดย AI หรือไม่
เนื่องจากตามที่กล่าวไว้ในขณะที่ OpenAI กำลังทำงานบนโซลูชัน มีเครื่องมือตรวจจับอย่างน้อยสามตัวที่สามารถใช้ได้:
เครื่องตรวจจับทางออก GPT-2
การสาธิตออนไลน์ของโมเดลเครื่องตรวจจับทางออก GPT-2 ช่วยให้คุณวางข้อความลงในช่องและดูความน่าจะเป็นที่ AI พิมพ์ข้อความได้ทันที จากการวิจัยของ OpenAI เครื่องมือนี้มีอัตราการตรวจจับที่ค่อนข้างสูง แต่ "จำเป็นต้องรวมเข้ากับแนวทางที่อิงตามข้อมูลเมตา การตัดสินของมนุษย์ และการศึกษาของสาธารณะเพื่อให้มีประสิทธิภาพสูงสุด"
GLTR
เมื่อ OpenAI เปิดตัว GPT-2 ในปี 2019 พนักงานที่ MIT-IBM Watson AI Lab และ Harvard Natural Language Processing Group ได้ร่วมมือกันสร้างอัลกอริทึมที่พยายามตรวจสอบว่าข้อความถูกพิมพ์โดยบอทหรือไม่
ข้อความที่สร้างขึ้นจากคอมพิวเตอร์อาจดูเหมือนว่าเขียนโดยมนุษย์ แต่ผู้เขียนที่เป็นมนุษย์มักจะเลือกคำที่คาดเดาไม่ได้ การใช้เมธอด "take one to know one" หากอัลกอริทึม GLTR สามารถทำนายคำถัดไปในประโยคได้ ก็จะถือว่าประโยคนั้นเขียนโดยบอท
จีพีทีซีโร่
ในช่วงเทศกาลคริสต์มาส Edward Tian กำลังวุ่นอยู่กับการสร้าง GPTZero ซึ่งเป็นแอปที่ช่วยตัดสินว่าข้อความนั้นเขียนโดยคนหรือบอท ในฐานะนักวิชาการที่ Princeton Tian เข้าใจดีว่าอาจารย์มหาวิทยาลัยสามารถมีส่วนได้เสียในการตรวจจับการลอกเลียนแบบที่อาศัยความช่วยเหลือจาก AI หรือการลอกเลียนแบบที่อาศัยความช่วยเหลือจาก AI ได้อย่างไร
Tian กล่าวว่าเครื่องมือของเขาวัดความสุ่มของประโยค ("buzz") บวกกับความสุ่มโดยรวม ("bursts") เพื่อคำนวณความน่าจะเป็นที่ ChatGPT เขียนข้อความ ตั้งแต่ทวีตเกี่ยวกับ GPTZero เมื่อวันที่ 2 มกราคม Tian กล่าวว่าเขาได้รับการทาบทามจากผู้ร่วมทุนที่ต้องการลงทุน และเขาจะพัฒนาเวอร์ชันอัปเดตในเร็วๆ นี้
Fuente: https://techcrunch.com