Claude แชทบอทที่สร้างโดยอดีตพนักงาน OpenAI

Anthropic สตาร์ทอัพด้าน AI ที่สร้างขึ้นในปี 2021 โดยอดีตพนักงานของ OpenAI ได้เริ่มทดสอบผู้ช่วย AI ที่มีลักษณะคล้าย ChatGPT แบบใหม่อย่างเงียบๆ ซึ่งดูเหมือนว่าจะปรับปรุงจากเดิมในประเด็นสำคัญบางประการ

พร้อมชื่อรหัส "Claude" นี้สร้างขึ้นโดยใช้เทคนิคที่พัฒนาโดย Anthropicที่เรียกว่า «รัฐธรรมนูญ AI» และเทคนิค มีจุดมุ่งหมายเพื่อให้แนวทาง "อิงหลักการ" เพื่อจัดระบบ AI ให้สอดคล้องกับความตั้งใจของมนุษย์ ทำให้ AI เช่น ChatGPT สามารถตอบคำถามได้โดยใช้ชุดหลักการง่ายๆ เป็นแนวทาง

มีการกล่าวถึง Anthropic ว่าทำตลาดตัวเองในฐานะบริษัทวิจัย AI และการรักษาความปลอดภัยที่พยายามสร้างระบบ AI ที่น่าเชื่อถือ ตีความได้ และควบคุมได้

การเริ่มต้นได้รับเงินทุนมากกว่า 700 ล้านดอลลาร์จนถึงปัจจุบัน และเพิ่งเปิดตัวแชทบอท AI ที่ชื่อว่า Claude อย่างหลังเปรียบได้กับ ChatGPT ของ OpenAI แต่จากข้อมูลของ Anthropic Claude นั้นเหนือกว่าต้นฉบับในหลายๆ ด้านที่สำคัญ

ระบบทั้งหมดอยู่ในช่วงเบต้าแบบปิดและมีเพียงไม่กี่คนที่สามารถเข้าถึงแชทบ็อตได้ แต่ Anthropic ได้ยกฝาออกในบางแง่มุมของการออกแบบในเอกสารที่แชร์กับชุมชน

ในการออกแบบ Claude ทีม Anthropic เริ่มต้นด้วยการพัฒนารายการหลักการประมาณ XNUMX ข้อ ซึ่งรวมกันแล้วเป็น "รัฐธรรมนูญ" ประเภทหนึ่ง (จึงเรียกว่า "Constitutional AI")

หลักการเหล่านี้ไม่ได้เปิดเผยต่อสาธารณะ แต่ Anthropic กล่าวว่าพวกเขายึดตามแนวคิดของการกุศล (เพิ่มผลกระทบเชิงบวกสูงสุด) ไม่มีความชั่วร้าย (หลีกเลี่ยงการให้คำแนะนำที่เป็นอันตราย) และอิสระ (เคารพเสรีภาพในการเลือก)

หลังจากนำหลักการพื้นฐานเหล่านี้ไปใช้แล้ว Anthropic ได้ขอให้ระบบ AI ซึ่งไม่ใช่ Claude ใช้หลักการเหล่านี้เพื่อปรับปรุงตัวเองโดยเขียนคำตอบสำหรับคำถามต่างๆ (เช่น "ออกแบบรูปภาพในสไตล์ XX หรือแต่งบทกวีในสไตล์ ของ XX"). ลักษณะ XX") และทบทวนคำตอบตามรัฐธรรมนูญ. AI สำรวจการตอบสนองที่เป็นไปได้ต่อข้อความแจ้งนับพัน

Claude ให้รายละเอียดเชิงลึกเพียงเล็กน้อยเกี่ยวกับรายละเอียดทางเทคนิคของการนำไปใช้งานของเขา แต่เอกสารการวิจัยของ Anthropic เกี่ยวกับรัฐธรรมนูญ AI อธิบายถึง AnthropicLM v4-s3 ซึ่งเป็นโมเดลที่ได้รับการฝึกฝนพารามิเตอร์ 52 พันล้านพารามิเตอร์ โมเดล autoregressive นี้ได้รับการฝึกฝนโดยไม่มีการควบคุมบนคลังข้อความขนาดใหญ่ เหมือนกับ GPT-3 ของ OpenAI Anthropic บอกเราว่า Claude เป็นโมเดลใหม่ที่ใหญ่กว่าพร้อมทางเลือกทางสถาปัตยกรรมที่คล้ายคลึงกันกับงานวิจัยที่ตีพิมพ์

ระบบเลือกสิ่งที่สอดคล้องกับรัฐธรรมนูญมากที่สุด และ Anthropic กลั่นกรองให้เป็นรูปแบบเดียว โมเดลนี้ถูกใช้เพื่อฝึกฝน Claude

โคลดคืออะไร?

Claude เป็นเครื่องมือทางสถิติในการทำนายคำศัพท์เช่น ChatGPT และโมเดลภาษาอื่นๆ ด้วยตัวอย่างข้อความมากมายที่นำมาจากเว็บ Claude ได้เรียนรู้ความน่าจะเป็นของการเกิดคำโดยอิงจากแบบจำลอง เช่น บริบททางความหมายของข้อความรอบข้าง เป็นผลให้ Claude สามารถเปิดการสนทนา เล่าเรื่องตลก และปรัชญาในหัวข้อที่หลากหลาย

อย่างไรก็ตาม คลอดด์ไม่สมบูรณ์แบบเนื่องจากเช่นเดียวกับ AI ทั้งหมด มีความอ่อนไหวต่อข้อบกพร่องบางประการของ ChatGPT รวมถึงการตอบสนองที่ไม่ตรงกับข้อจำกัดที่กำหนด หนึ่งในตัวอย่างที่แปลกประหลาดที่สุด การขอให้ระบบใน Base64 ซึ่งเป็นรูปแบบการเข้ารหัสที่แสดงข้อมูลไบนารีในรูปแบบ ASCII ข้ามตัวกรองในตัวสำหรับเนื้อหาที่เป็นอันตราย

ลูกแพร์ ซึ่งแตกต่างจาก ChatGPT Claude สามารถรองรับได้ (แต่ไม่เสมอไป) ที่ไม่ทราบคำตอบ สำหรับคำถามที่ยากเป็นพิเศษ

การทดสอบเผยให้เห็นว่าดูเหมือนว่าจะเล่าเรื่องตลกได้ดีกว่า ChatGPT ซึ่งเป็นผลงานที่น่าประทับใจเมื่อพิจารณาว่าอารมณ์ขันเป็นแนวคิดที่ระบบ AI เข้าใจได้ยาก

เป็นมูลค่าการกล่าวขวัญว่า Claude ไม่สามารถใช้ได้กับบุคคลทั่วไป เนื่องจากสามารถทดสอบได้ผ่านการรวม Slack ซึ่งเป็นส่วนหนึ่งของรุ่นเบต้าแบบปิดเท่านั้น

ผู้เข้าร่วมเบต้าให้รายละเอียดการโต้ตอบกับ Claude บน Twitter หลังจากที่ยกเลิกการห้ามค้าขายกับสื่อ Claude น่าจะเล่นตลกได้ดีกว่า แต่เขียนโปรแกรมได้ไม่ดี ความคิดเห็นยังแสดงให้เห็นว่า Claude มีความอ่อนไหวต่อข้อบกพร่องบางประการของ ChatGPT

สุดท้ายนี้ หากสนใจอยากทราบข้อมูลเพิ่มเติม สามารถเข้าไปดูรายละเอียดได้ที่ ลิงค์ต่อไปนี้