مصنوعی ذہانت کے حقیقی اور تصوراتی خطرات (رائے)

تھوڑی دیر پہلے، میرا Pablinux پارٹنر اس نے ہمیں بتایا پر وہ خط جو ناقابل تسخیر ایلون مسک اور دیگر شخصیات نے لکھا تھا جس میں مصنوعی ذہانت میں تحقیق کو روکنے کا کہا گیا تھا۔ جب تک کہ اس کے ممکنہ منفی اثرات کو روکنے کے لیے اقدامات نہ کیے جائیں۔ اس سے مجھے مصنوعی ذہانت کے حقیقی اور تصوراتی خطرات کے بارے میں بات کرنے کا بہانہ ملتا ہے۔

بل گیٹس کی طرز کی ناکام پیشین گوئیوں سے اپنے آپ کو بیوقوف بنانے کے خطرے میں، میں یہ کہہ کر شروع کرتا ہوں کہ میری رائے میں اس وقت سب سے بڑا خطرہ ایک بلبلا پھٹنا ہے۔ یہ ڈاٹ کام کو ہلکے جھٹکے تک چھوڑنے والا ہے۔

مصنوعی ذہانت کے حقیقی اور تصوراتی خطرات

میں Pablinux سے اتفاق کرتا ہوں کہ اس خط میں سائنسی استدلال سے زیادہ قرون وسطی کی غیر واضحیت ہے۔ وہ اس خیال کا اشتراک کرتے ہوئے کہ اس کے مواد کے استعمال کو منظم کرنے کے لیے قانون سازی کی جانی چاہیے۔. تاہم، ہم اس بات سے انکار نہیں کر سکتے کہ تمام ٹیکنالوجی لوگوں کو الجھاتی اور خوفزدہ کرتی ہے جب تک کہ یہ اچھی طرح سے معلوم نہ ہو۔

سنیما گرافی کے آغاز میں ٹرین کی آمد کے پروجیکشن نے لوگوں کو کمرے سے بھاگنے پر مجبور کر دیا اور، اگرچہ اس میں زیادہ تر شہری لیجنڈ ہے، اس کا ریڈیو ورژن عالم کی جنگ اورسن ویلز نے ان لوگوں میں کافی گھبراہٹ کا باعث بنا جن کا خیال تھا کہ یہ حقیقی ہے۔

درحقیقت، اس قسم کے سافٹ ویئر ریگولیشن کوئی نئی بات نہیں ہے۔ بہت سے ممالک میں مالیاتی ریگولیٹری حکام فوٹوشاپ جیسے پروگراموں کو بینک نوٹ یا چیک کی تصاویر میں ترمیم کرنے سے منع کرتے ہیں۔

1994 میں ٹام کلینسی شائع ہوا۔ عزت کا قرض۔ دفاعی امور کے ماہر سمجھے جاتے ہیں، کلینسی آئیسٹاک کمپنیوں کے ماہر نظاموں کو یہ ماننے کے لیے کہ ایک بحران ہو رہا ہے، امریکہ کے مالیاتی نظام پر حملے کا تصور کیا۔ فروخت کی لہر کو جاری کرنا جس نے آخر کار بحران پیدا کیا۔

اسے افسانہ قرار دینے سے پہلے، یاد رکھیں کہ اسی ناول میں، ٹوئن ٹاورز سے 7 سال پہلے، کلینسی نے اندازہ لگایا تھا کہ امریکہ تجارتی ہوائی جہازوں کے ذریعے حملوں کا شکار ہو سکتا ہے۔

دراصل خیال نیا نہیں ہے۔ 1983 کی فلم جنگ کھیل اس میں بتایا گیا کہ کس طرح ایک نوجوان نے میزائل لانچ کے انچارج کمپیوٹر کو یہ سوچنے میں الجھایا کہ روسی حملہ کر رہے ہیں۔

آئیے تصور کریں کہ ہم ایک سرپٹ آتے ہوئے سن رہے ہیں۔ ہمارا پہلا نتیجہ یہ ہے کہ یہ گھوڑا ہے اور 9 میں سے 10 بار ہم درست ہوں گے۔ لیکن، اس بات کا ہمیشہ امکان رہتا ہے کہ یہ ایک زیبرا ہے جو چڑیا گھر سے فرار ہوا ہے۔ ڈاکٹر، خلاباز اور ہوائی جہاز کے پائلٹ زیبرا کے بارے میں سوچتے ہوئے سخت تربیت حاصل کرتے ہیں، یہ جانتے ہیں کہ اگر کوئی بے ضابطگی ہو جائے تو کیا کرنا ہے۔ مصنوعی ذہانت کے ماڈلز کو گھوڑوں کو ذہن میں رکھ کر تربیت دی جاتی ہے۔

ایک ماڈل جیسا کہ ChatGPT استعمال کرتا ہے اس کے علم کی بنیاد میں موجود معلومات پر مبنی ہے۔ اس معلومات کو جتنی بار دہرایا جاتا ہے، اتنی ہی زیادہ ساکھ یہ تفویض کرتی ہے۔

چونکہ تمام دستیاب معلومات کو محفوظ کرنے کے لیے کافی ذخیرہ کرنے کی جگہ درکار ہوگی، یہ صرف وہی بچاتا ہے جو متعلقہ ہے اور پھر اسے دوبارہ تعمیر کرتا ہے جیسا کہ اس ساخت کا استعمال کرتے ہوئے درخواست کی گئی ہے جو اعدادوشمار کے لحاظ سے سب سے زیادہ متعلقہ لگتا ہے۔. لہذا، میں کئی بار ایسے حوالہ جات کا حوالہ دیتا ہوں جو صرف اس وجہ سے موجود نہیں ہیں کہ اعداد و شمار کے لحاظ سے یہ ممکن ہے کہ اس عنوان کے ساتھ کوئی دستاویز موجود ہو جس میں وہ مواد موجود ہو۔

زیبرا اور کتوں کے بارے میں جو بھونکتے نہیں ہیں۔

کیا کوئی اور نکتہ ہے جس کی طرف آپ میری توجہ مبذول کروانا چاہتے ہیں؟
-رات کو کتے کا عجیب واقعہ۔
-کتے نے رات کو کچھ نہیں کیا۔
یہ عجیب واقعہ تھا۔

سر آرتھر کانن دوول

مصنوعی ذہانت کے نظاموں میں سے ایک اور خطرہ وہ ہے جو وہ نہیں کرتے۔ اور یہ بھی ایک اہم نکتہ ذہن میں رکھنا ہے۔

XNUMX کی دہائی میں، ایک آسٹریلوی ڈاکٹر نے اندازہ لگایا کہ السر کی سب سے عام وجہ بیکٹیریا ہے۔ چونکہ اس کے پاس کوئی بہترین تجربہ کار نہیں تھا، اس لیے وہ اس کے چہرے پر ہنستے رہے جب تک کہ وہ صحیح ثابت نہ ہو جائے۔ بہت سی دوسری سائنسی دریافتوں کی طرح (سیاروں کی گردش، یہ حقیقت کہ آپ جتنے زیادہ وقفے لیں گے، آپ اتنے ہی زیادہ کارآمد ہوں گے) وہ اس وقت کی حکمت کے خلاف ہیں۔

لیکن، انٹیلی جنس ماڈل اس وقت کی حکمت پر مبنی ہیں۔ ان علم میں جن میں اجماع ہے۔ جس طرح منجمد ٹیکنالوجی، آٹوموبائل اور ترسیل نے موٹاپے کی تعداد میں اضافہ کیا ہے، اسی طرح مصنوعی ٹیکنالوجی کے آلات کی دستیابی ہمیں کاہل دانشور بنا سکتی ہے اور جدت طرازی کو روک سکتی ہے۔

جیسا کہ آپ دیکھ سکتے ہیں، مشینوں کے غلام بنائے جانے سے ڈرنے کے علاوہ فکر کرنے کے لیے کافی چیزیں ہیں۔ اور یہ کہ ہم ابھی بھی سورس کوڈ تک رسائی اور صارفین کی رازداری کے بارے میں بات نہیں کرتے ہیں۔