ความเสี่ยงที่เกิดขึ้นจริงและจินตนาการของปัญญาประดิษฐ์ (ความคิดเห็น)

โมเดลปัญญาประดิษฐ์ไม่สามารถตรวจจับความผิดปกติได้

เมื่อไม่นานมานี้ หุ้นส่วน Pablinux ของฉัน เขาบอกพวกเรา บน จดหมายที่ Elon Musk และบุคคลอื่นๆ เขียนขึ้นเพื่อขอให้หยุดการวิจัยด้านปัญญาประดิษฐ์ชั่วคราว จนกว่าจะมีมาตรการป้องกันผลกระทบที่อาจจะเกิดขึ้น นั่นทำให้ฉันมีข้ออ้างที่จะพูดถึงความเสี่ยงที่เกิดขึ้นจริงและจินตนาการของปัญญาประดิษฐ์

ฉันเสี่ยงที่จะหลอกตัวเองด้วยการทำนายแบบบิลล์ เกตส์ที่ล้มเหลว ฉันเริ่มด้วยการพูดแบบนั้นในความคิดของฉัน ความเสี่ยงที่ใหญ่ที่สุดในขณะนี้คือฟองสบู่แตก นั่นจะทำให้ดอทคอมตกใจเล็กน้อย

ความเสี่ยงที่แท้จริงและจินตนาการของปัญญาประดิษฐ์

ฉันเห็นด้วยกับ Pablinux ว่าจดหมายมีความคลุมเครือในยุคกลางมากกว่าเหตุผลทางวิทยาศาสตร์ ที่ ในขณะที่แบ่งปันความคิดต่อไปว่าควรมีการจัดตั้งกฎหมายเพื่อควบคุมการใช้เนื้อหา. แต่ก็ปฏิเสธไม่ได้ว่าเทคโนโลยีทั้งหลายสร้างความสับสนและหวาดกลัวให้กับผู้คนจนเป็นที่ทราบกันดีว่า

การฉายภาพการมาถึงของรถไฟในช่วงเริ่มต้นของการถ่ายทำทำให้ผู้คนหนีออกจากห้อง และแม้ว่ามันจะมีตำนานเมืองอยู่มาก แต่เวอร์ชันวิทยุของ สงครามของโลก โดย Orson Welles สร้างความตื่นตระหนกให้กับผู้คนที่เชื่อว่ามันเป็นเรื่องจริง

อันที่จริง กฎระเบียบด้านซอฟต์แวร์ประเภทนี้ไม่ใช่เรื่องใหม่ หน่วยงานกำกับดูแลด้านการเงินในหลายประเทศห้ามไม่ให้โปรแกรมต่างๆ เช่น Photoshop แก้ไขภาพธนบัตรหรือเช็ค

ในปี 1994 Tom Clancy ตีพิมพ์ หนี้เกียรติยศ. ถือว่าเป็นผู้เชี่ยวชาญในประเด็นการป้องกัน Clancy iจินตนาการถึงการโจมตีระบบการเงินของสหรัฐอเมริกาโดยควบคุมระบบผู้เชี่ยวชาญของบริษัทหุ้นให้เชื่อว่าเกิดวิกฤตขึ้น ปล่อยคลื่นขายที่ก่อให้เกิดวิกฤตในที่สุด

ก่อนที่จะมองว่ามันเป็นนิยาย โปรดจำไว้ว่าในนิยายเรื่องเดียวกันนั้น เมื่อ 7 ปีก่อนตึกแฝด แคลนซีคาดการณ์ว่าสหรัฐฯ อาจถูกโจมตีโดยใช้เครื่องบินพาณิชย์

จริงๆ แล้วแนวคิดนี้ไม่ใช่เรื่องใหม่ ภาพยนตร์ปี 1983 เกมสงคราม มันเล่าถึงการที่วัยรุ่นสับสนคอมพิวเตอร์ที่รับผิดชอบการยิงขีปนาวุธจนคิดว่ารัสเซียกำลังโจมตี

ลองจินตนาการว่าเราได้ยินเสียงควบม้าเข้ามาใกล้ ข้อสรุปแรกของเราคือมันเป็นม้าและ 9 ครั้งจาก 10 ครั้งเราจะถูกต้อง แต่มีความเป็นไปได้เสมอว่ามันเป็นม้าลายที่หนีออกมาจากสวนสัตว์ แพทย์ นักบินอวกาศ และนักบินเครื่องบินได้รับการฝึกฝนอย่างเข้มงวดเกี่ยวกับม้าลาย โดยรู้ว่าต้องทำอย่างไรหากเกิดความผิดปกติขึ้น โมเดลปัญญาประดิษฐ์ได้รับการฝึกฝนโดยคำนึงถึงม้าเป็นหลัก

แบบจำลองเช่นเดียวกับที่ใช้โดย ChatGPT จะขึ้นอยู่กับข้อมูลที่มีอยู่ในฐานความรู้ ยิ่งข้อมูลนั้นถูกทำซ้ำมากเท่าไหร่ ความน่าเชื่อถือก็จะยิ่งมากขึ้นเท่านั้น

เนื่องจากการบันทึกข้อมูลที่มีอยู่ทั้งหมดจะต้องใช้พื้นที่จัดเก็บจำนวนมาก มันบันทึกเฉพาะสิ่งที่เกี่ยวข้องและสร้างใหม่ตามคำขอโดยใช้โครงสร้างที่ดูเหมือนว่ามีความเกี่ยวข้องทางสถิติมากที่สุด. ดังนั้น หลายครั้งที่ฉันอ้างถึงข้อมูลอ้างอิงที่ไม่มีอยู่จริงเพียงเพราะในทางสถิติแล้ว มีแนวโน้มว่าจะมีเอกสารชื่อเรื่องที่มีเนื้อหานั้นอยู่

เกี่ยวกับม้าลายและสุนัขที่ไม่เห่า

มีจุดอื่นที่คุณต้องการดึงดูดความสนใจของฉันหรือไม่?
-เหตุการณ์ประหลาดของสุนัขในตอนกลางคืน
- สุนัขไม่ได้ทำอะไรเลยในตอนกลางคืน
นั่นคือเหตุการณ์ที่น่าสงสัย

เซอร์อาเธอร์โคนันดอยล์

ความเสี่ยงอีกประการหนึ่งที่ระบบปัญญาประดิษฐ์มีคือสิ่งที่พวกเขาไม่ได้ทำ และยังเป็นจุดสำคัญที่ต้องจำไว้

ในปี XNUMX แพทย์ชาวออสเตรเลียสันนิษฐานว่าสาเหตุส่วนใหญ่ของแผลคือแบคทีเรีย เนื่องจากเขาไม่มีประวัติการทำงานที่ดี พวกเขาจึงหัวเราะเยาะต่อหน้าเขาจนกว่าเขาจะพิสูจน์ได้ว่าถูกต้อง เช่นเดียวกับการค้นพบทางวิทยาศาสตร์อื่น ๆ อีกมากมาย (การหมุนรอบตัวเองของดาวเคราะห์ ความจริงที่ว่ายิ่งคุณหยุดพักมากเท่าไหร่ คุณก็ยิ่งมีประสิทธิผลมากขึ้นเท่านั้น) สิ่งเหล่านี้ตรงกันข้ามกับภูมิปัญญาของช่วงเวลา

แต่โมเดลข่าวกรองนั้นขึ้นอยู่กับภูมิปัญญาของช่วงเวลานั้น ในความรู้ที่มีฉันทาคติ เช่นเดียวกับเทคโนโลยีการแช่แข็ง รถยนต์และการจัดส่งได้เพิ่มจำนวนคนอ้วน ความพร้อมของเครื่องมือเทคโนโลยีประดิษฐ์สามารถทำให้เราปัญญาชนขี้เกียจและยับยั้งนวัตกรรม

อย่างที่คุณเห็น มีหลายอย่างที่ต้องกังวลเกี่ยวกับการกลัวว่าจะถูกกดขี่โดยเครื่องจักร และเรายังไม่ได้พูดถึงการเข้าถึงซอร์สโค้ดและความเป็นส่วนตัวของผู้ใช้


เป็นคนแรกที่จะแสดงความคิดเห็น

แสดงความคิดเห็นของคุณ

อีเมล์ของคุณจะไม่ถูกเผยแพร่ ช่องที่ต้องการถูกทำเครื่องหมายด้วย *

*

*

  1. รับผิดชอบข้อมูล: AB Internet Networks 2008 SL
  2. วัตถุประสงค์ของข้อมูล: ควบคุมสแปมการจัดการความคิดเห็น
  3. ถูกต้องตามกฎหมาย: ความยินยอมของคุณ
  4. การสื่อสารข้อมูล: ข้อมูลจะไม่ถูกสื่อสารไปยังบุคคลที่สามยกเว้นตามข้อผูกพันทางกฎหมาย
  5. การจัดเก็บข้อมูล: ฐานข้อมูลที่โฮสต์โดย Occentus Networks (EU)
  6. สิทธิ์: คุณสามารถ จำกัด กู้คืนและลบข้อมูลของคุณได้ตลอดเวลา