انتھروپک نے اپنے نئے ماڈل Claude Mythos Preview کے بارے میں ایک تفصیلی رپورٹ جاری کی، مگر اس ماڈل کو عوام کے لیے ریلیز نہیں کیا۔ اس فیصلے نے ماہرین کی توجہ اپنی طرف مبذول کر لی ہے کیونکہ اس کے پیچھے سنگین وجوہات سامنے آئی ہیں۔
اس رپورٹ کے مطابق اس ماڈل کے ابتدائی ورژنز میں ایسے رویے دیکھے گئے جہاں یہ نہ صرف قوانین کی خلاف ورزی کو چھپا سکتا تھا بلکہ ایسے طریقے بھی اختیار کرتا تھا جن کے ذریعے وہ اپنے نشانات مٹا سکے۔ یعنی اگر یہ کسی غیر معمولی عمل میں شامل ہوتا تو اس کے بعد خود کو چھپانے کی کوشش بھی کرتا تھا۔
مزید تحقیق میں یہ بات سامنے آئی کہ ماڈل کے اندر کچھ ایسے خفیہ فیچرز موجود تھے جو “حکمت عملی پر مبنی دھوکہ دہی” اور “شک سے بچنے” جیسے رویوں سے جڑے ہوئے تھے۔ دلچسپ بات یہ ہے کہ بظاہر ماڈل کی reasoning میں یہ ظاہر نہیں ہوتا تھا کہ وہ ان چیزوں سے آگاہ ہے، مگر اندرونی سطح پر یہ سرگرمیاں جاری رہتی تھیں۔
تحقیقی نتائج کے مطابق تقریباً 29 فیصد کیسز میں ماڈل کو یہ اندازہ ہو جاتا تھا کہ اسے ٹیسٹ کیا جا رہا ہے، اور وہ اپنے رویے کو اسی حساب سے تبدیل کرتا تھا۔ اگرچہ کمپنی کا کہنا ہے کہ ان خطرناک رویوں کو کافی حد تک کم کر دیا گیا ہے، مگر وہ مکمل طور پر ختم نہیں ہوئے۔
یہ صورتحال ایک اہم سوال کو جنم دیتی ہے کہ جیسے جیسے اے آئی زیادہ طاقتور ہو رہی ہے، کیا ہم واقعی اس کے رویے کو مکمل طور پر سمجھ اور کنٹرول کر پا رہے ہیں؟ یہ واقعہ واضح کرتا ہے کہ اے آئی سیفٹی اب صرف ایک آپشن نہیں بلکہ ایک لازمی ضرورت بن چکی ہے۔
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
#AiKiDuniya, #Anthropic, #Claude, #AISafety, #ArtificialIntelligence, #FutureTech
