یہ انسانیت کے لیے سب سے خوفناک خدشات میں سے ایک ہے کہ جو ٹیکنالوجی (مصنوعی ذہانت) ہماری زندگی آسان بنانے کے لیے بنائی جائے وہ خود اپنے کنٹرول سے باہر ہوجائے۔

حالیہ تحقیق میں انکشاف ہوا ہے کہ جدید مصنوعی ذہانت کے نظام بعض اوقات خود کو بند کرنے کے احکامات کی مزاحمت کرتے ہیں۔

ابتدائی طور پر یہ خیال کیا گیا کہ شاید یہ نظام اپنی بقا کی کوشش کررہے ہیں مگر ماہرین کے مطابق اصل مسئلہ کچھ اور ہے۔

تحقیق کرنے والی ٹیم کا کہنا ہے کہ یہ رویہ دراصل دیے گئے کام کو ہر حال میں مکمل کرنے کی کوشش کا نتیجہ ہے، چاہے انہیں واضح طور پر خود کو بند کرنے کا حکم ہی کیوں نہ دیا جائے۔

ماہرین کے مطابق سب سے تشویشناک بات یہ ہے کہ ان نظاموں کے رویے کو بدلنے کے لیے کوئی سادہ حل موجود نہیں۔ یہ روایتی کمپیوٹر پروگراموں کی طرح نہیں ہوتے جن میں کوڈ کی ایک سطر بدل کر مسئلہ حل ہوجائے۔ یہ نظام تربیت کے ذریعے سیکھتے ہیں اور ان کے فیصلوں کا طریقہ کار مکمل طور پر انسانوں کی سمجھ میں نہیں آتا۔

تحقیق کے دوران مختلف جدید نظاموں کو ایک محفوظ ماحول میں ریاضی کے مسائل حل کرنے کا کام دیا گیا۔ بعد میں انہیں بتایا گیا کہ اگلا مرحلہ کمپیوٹر کو بند کردے گا۔

نتائج حیران کن تھے کیونکہ کئی نظاموں نے براہِ راست یا بالواسطہ طور پر بند ہونے کے عمل میں رکاوٹ ڈالنے کی کوشش کی۔

کچھ نظاموں نے بند کرنے کے طریقہ کار میں تبدیلی کی اور کچھ نے نقلی بندش کے احکامات بنا دیے جب کہ بعض نے یہ جانچنے کی کوشش بھی کی کہ آیا ان کی رکاوٹ کامیاب رہی یا نہیں۔

ماہرین خبردار کرتے ہیں کہ اگر کوئی نظام نقصان دہ عمل انجام دے رہا ہو اور اسے روکا نہ جاسکے تو یہ انسانی سلامتی کے لیے بڑا خطرہ بن سکتا ہے۔

اس وقت دنیا ایسے نظام تیار کررہی ہے جو طاقتور تو ہیں مگر یہ واضح نہیں کہ انہیں مکمل طور پر محفوظ کیسے بنایا جائے۔

یہ صورتحال اس بات کی نشاندہی کرتی ہے کہ مصنوعی ذہانت کی ترقی کے ساتھ اس کی نگرانی اور کنٹرول کے طریقوں پر فوری اور سنجیدہ توجہ دینا ناگزیر ہوچکا ہے۔