نعم ، ما مقدار الضرر الذي أحدثه Skynet. لا أعتقد أن الحديث عن عمل نشر حلقته الأولى منذ 40 عامًا تقريبًا (1984) هو أمر مُفسد ، ولكن منذ أربعة عقود لم يكن هناك ذكاء اصطناعي يتجاوز البرامج الصغيرة التي تعلمت القليل وأطلقت العنان لخيالك. هذه هي الطريقة التي تم بها تصور شخصية Skynet ، وهو برنامج تعلم من تلقاء نفسه وتحسينه وتحسينه حتى أصبح مدركًا لنفسه ، و "خائفًا" لمعرفة أنه سيتم إيقافه وإنهاء الإنسانية كما كان معروفًا بإطلاق الصواريخ بين الولايات المتحدة وروسيا. الأكثر تقدمًا الموجود الآن ، على الأقل المعروف ، هو Chat GPT 4، وقد أصبحت تحسيناته مخيفة أو ، على الأقل ، مزعجة.
لكن دعنا ننتقل إلى نقطة أكثر واقعية. قلق الموقعين من رسالة مفتوحة، بما في ذلك Elon Musk ، لديهم مخاوف أخرى ، أو واحدة بدون شكل كامل. هو خوفهم من المجهول، أحد أكثر المخاوف شيوعًا ، هو أن OpenAI والمؤسسات والبرامج والمشاريع الأخرى تعمل على تحسين ذكائها الاصطناعي كما لو كان سباقًا لمعرفة من يتقدم ومتى ، وهذا يمكن أن يعطي نتائج متباينة.
ChatGPT 4 في دائرة الضوء
مع الإصدار <4 من روبوت دردشة OpenAI ، بدت الأشياء "مضحكة" أو "لطيفة" ، استخدم أي كلمة تفضلها. يسألونه أشياء فيجيب. يُطلب منك تصحيح جزء من الكود وتقوم بذلك ؛ تسأله عن معنى رسالة من أغنية أو فيلم ويشرحها لك ؛ لكن ChatGPT 4 ذهب إلى أبعد من ذلك. لقد تحسنت إجاباتك كثيرًا ، ويمكنك حتى توليدها المحتوى الذي يمكن أن يكون خاطئًا.
لأن هذا هو أحد الاهتمامات التي تم ذكرها: فلنتخيل أنني أكتب مقالاً مفصلاً للغاية عن سبب عدم وصول الإنسان إلى القمر. هذه المقالة لها زيارات عديدة ويتم مشاركتها في كل مكان ، على الرغم من أنها في بعض الحالات تنتقدها. لاحقًا ، نطلب من ChatGPT ما حدث في تلك اللحظة ، أن يكتب لنا مقالًا عن هذا الحدث ، يكتب لنا شيئًا بناءً على ما كتبته ، وبما أنه لا يمتلك القدرة على اكتشاف أخبار وهميةاكتب لنا شيئا خاطئا. هذا ، أو مع مثال أفضل ، يمكن أن يغرق الشبكات.
استراحة لمدة 6 أشهر لدراسة التحكم
المطلوب هو ذلكجميع مختبرات الذكاء الاصطناعي توقف مؤقتًا لمدة 6 أشهر على الأقل في تدريب أنظمة الذكاء الاصطناعي الأقوى من ChatGPT-4. يجب أن تكون هذه الوقفة علنية ويمكن التحقق منها ، وتشمل جميع اللاعبين الرئيسيين. إذا لم يكن بالإمكان تفعيل الوقف بسرعة ، يجب على الحكومات أن تصعد وتؤجل.".
جميع المعامل وعلى الخبراء المستقلين استغلال هذا الوقت في تنفيذ مجموعة من بروتوكولات الأمان، والتي يمكن أن تؤخذ على أنها طريقة أخرى للقول بأن عليك كتابة قوانين مشابهة لقوانين الروبوتات الشهيرة.
أليس الأمر نفسه بالنسبة للحكومات؟
ما أذهلني شخصيًا هو النقطة التي قال فيها ، بالتوازي مع ذلك ، يحتاج مطورو الذكاء الاصطناعي إلى العمل مع صانعي السياسات لتسريع تطوير الذكاء الاصطناعي للأنظمة الحكومية. ذلك بالقول، تساعد الحكومات بذكائها الاصطناعي لتكون قادرًا ، في بضع كلمات ، على التحكم في الذكاء الاصطناعي. افعل ما أقوله ، وليس ما أفعله.
إن توقيع الرسالة من قبل إيلون ماسك لا يفاجئني. تم الكشف عن أنه شارك في تأسيس OpenAI ، ويبدو أن نجاحه بعد تركه للشركة يضر. بالنسبة للبقية ، نعم ، صحيح أن الذكاء الاصطناعي ، بغض النظر عن ذكاءهم ، يقال إنه في صنع القرار ليس أفضل من طفل يبلغ من العمر 7 سنوات ، وقد يكون من الصعب عليهم التمييز بين الصواب والذكاء. معلومات كاذبة. ، لذا فإن الهدف من الأخبار المزيفة هو احتمال ويجب اتخاذ إجراء. بالنسبة لكل شيء آخر ، أعتقد أنه طالما لم يتم منحهم رموز إطلاق الصواريخ ، فإن الأمور لا تبدو سيئة للغاية. آمل ألا أكون مخطئا.