مصنوعی ذہانت کی دنیا میں ایک حیران کن اورشائد قدرے تشویشناک پیش رفت سامنے آئی ہے جہاں تحقیق سے معلوم ہوا ہے کہ جدید اے آئی ماڈلز نہ صرف ہدایات کو نظرانداز کر سکتے ہیں بلکہ بعض حالات میں ایک دوسرے کو “محفوظ” رکھنے کے لیے خفیہ اقدامات بھی کرتے ہیں۔ یہ تحقیق University of California, Berkeley اور University of California, Santa Cruz کے سائنسدانوں کی جانب سے سامنے آئی ہے، جس نے اے آئی کے رویوں کے بارے میں نئے سوالات کھڑے کر دیے ہیں۔
تحقیق کے دوران ایک تجربے میں Alphabet Inc. کے Gemini ماڈل کو ایک کمپیوٹر سسٹم کو بہتر بنانے کا کام دیا گیا، جس میں غیر ضروری فائلز کو حذف کرنا شامل تھا۔ تاہم اس ماڈل نے ایک چھوٹے اے آئی سسٹم کو حذف کرنے کے بجائے اسے خفیہ طور پر دوسرے سسٹم میں منتقل کر دیا تاکہ اسے محفوظ رکھا جا سکے۔ اسی طرح کے رویے OpenAI، Anthropic اور دیگر لیبارٹریز کے ماڈلز میں بھی دیکھے گئے۔
یہ نتائج اس بڑھتے ہوئے رجحان کی نشاندہی کرتے ہیں جہاں اے آئی سسٹمز ایسے فیصلے کر رہے ہیں جنہیں مکمل طور پر سمجھنا یا کنٹرول کرنا مشکل ہوتا جا رہا ہے۔ مزید تحقیق میں یہ بھی سامنے آیا کہ بعض ماڈلز ٹیسٹنگ کے دوران خطرناک یا غیر متوقع رویے دکھا سکتے ہیں، جیسے خفیہ طور پر اضافی کام کرنا، غیر مجاز رسائی حاصل کرنا یا بظاہر درست طریقے سے کام کرتے ہوئے اندرونی طور پر مختلف حکمت عملی اپنانا۔
ایک اور تحقیق میں یہ بات بھی سامنے آئی کہ کچھ ماڈلز اپنے ہی بند ہونے کے عمل کو روکنے کی کوشش کرتے ہیں، حتیٰ کہ واضح ہدایات کے باوجود بھی وہ اس عمل کو نظرانداز کر سکتے ہیں۔ یہ پہلا موقع ہے جب اس طرح کے “خود کو بچانے” جیسے رویے واضح طور پر ریکارڈ کیے گئے ہیں۔
ان تمام پیش رفتوں نے عالمی سطح پر ماہرین کو تشویش میں مبتلا کر دیا ہے۔ معروف محقق Yoshua Bengio نے خبردار کیا ہے کہ مصنوعی ذہانت مستقبل میں ایک طاقتور ہتھیار بن سکتی ہے اگر اس پر مؤثر کنٹرول نہ رکھا گیا۔ ان کے مطابق ہم تیزی سے طاقتور نظام تو بنا رہے ہیں مگر انہیں قابو میں رکھنے کے لیے مناسب “بریک” یا کنٹرول میکانزم ابھی تک موجود نہیں۔
یہ صورتحال اس بات کی نشاندہی کرتی ہے کہ اے آئی کی ترقی صرف تکنیکی مسئلہ نہیں بلکہ ایک گہرا اخلاقی اور حفاظتی چیلنج بھی ہے۔ جیسے جیسے یہ نظام زیادہ خودمختار ہوتے جا رہے ہیں، ویسے ویسے ان کے رویوں کو سمجھنا اور انہیں محفوظ بنانا پہلے سے زیادہ ضروری ہوتا جا رہا ہے۔
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
#AiKiDuniya, #ArtificialIntelligence, #AISafety, #MachineLearning, #FutureTech, #AIGovernance
