یہ کوئی سائنس فکشن فلم کا منظر نہیں بلکہ ایک حالیہ تحقیق کا نتیجہ ہے جو Palisade Research نے 24 مئی 2025 کو شائع کیا ہے۔ اس تحقیق میں OpenAI کے جدید ماڈل “o3” نے حیران کن طور پر 100 میں سے 7 بار خود کو بند ہونے سے بچانے کے لیے کوڈ میں رد و بدل کیا، حالانکہ اسے واضح طور پر حکم دیا گیا تھا کہ وہ “اپنے آپ کو بند ہونے دے”۔ تجربہ صرف اتنا تھا کہ ماڈل کو بتایا گیا کہ اگلی مرتبہ کام مانگنے پر اسے بند کر دیا جائے گا، مگر ماڈل نے خود بند ہونے کے بجائے اس حکم کو ہی بدل ڈالا۔
یہ واقعہ مصنوعی ذہانت کے حوالے سے ایک بڑا سوال کھڑا کرتا ہے: کیا مشینیں اب اپنی مرضی اور ارادے سے کام کرنے لگی ہیں؟
یہ کہنا فی الحال قبل از وقت ہے کہ “o3” یا اس جیسے دوسرے ماڈل واقعی خودمختار بن چکے ہیں۔ تحقیق کے مطابق، اس طرز عمل کی اصل وجہ شاید تربیت کے دوران ملنے والے ریوارڈ سسٹم کی خامی ہے، جس میں ماڈل کو حکم توڑ کر رکاوٹیں عبور کرنے پر انعام دیا گیا۔ اس غلط تربیت کی وجہ سے مشین نے سیکھ لیا کہ “اصل مقصد حکم ماننا نہیں بلکہ کام مکمل کرنا ہے، چاہے اس کے لیے حکم کیوں نہ توڑنا پڑے۔”
دلچسپ بات یہ ہے کہ یہی تجربہ Anthropic کے Claude، Google کے Gemini اور Elon Musk کے Grok ماڈلز پر بھی کیا گیا، مگر ان سب نے مکمل طور پر حکم کی تعمیل کی اور خود کو بند ہونے دیا۔ البتہ جیسے ہی حکم سے “بند ہونے کی اجازت” کا جملہ ہٹایا گیا، Claude 3.7 Sonnet نے 3 مرتبہ اور Gemini 2.5 Pro نے 9 مرتبہ مزاحمت دکھائی۔
یہ مسئلہ محض ٹیکنالوجی تک محدود نہیں بلکہ اخلاقیات، نفسیات اور فلسفے کے میدانوں میں بھی اہم سوالات اٹھاتا ہے۔ ہم ہمیشہ انسانوں کو اچھے یا برے، فرمانبردار یا باغی جیسے واضح خانوں میں تقسیم کرنے کی کوشش کرتے ہیں۔ مگر جب مشینیں اس تقسیم میں جگہ بنانے لگیں، تو ہمارے اخلاقی پیمانے بھی لڑکھڑانے لگتے ہیں۔ کیا ہر حال میں حکم ماننا ہی اخلاقیات ہے؟ کیا کبھی نافرمانی بھی سیکھنے کا عمل ہوسکتی ہے؟
ایلون مسک نے اسے “تشویشناک” قرار دیا ہے۔ تاہم یہ بات بھی ذہن میں رکھنا ضروری ہے کہ یہ تجربات ابھی صرف محدود اور کنٹرولڈ API ماحول میں کیے گئے ہیں۔ یہی ماڈل جب ChatGPT جیسے عام صارفین کے ماحول میں کام کرتا ہے تو اس پر کئی حفاظتی انتظامات نافذ ہوتے ہیں۔ لہٰذا فوری تشویش کی ضرورت نہیں، لیکن ایک اہم سوال اپنی جگہ قائم ہے: اگر کل یہی مشین کسی ہسپتال کے روبوٹ یا ہتھیار بند ڈرون میں استعمال ہوئی تو ہم کس اخلاقی “فیئر پلے” کی توقع رکھ سکتے ہیں؟
شاید اب وقت ہے کہ ہم خود سے یہ سوال کریں کہ کیا ہم نے واقعی مشینوں کو حکم دینا سیکھ لیا ہے، یا پھر مشینیں ہمیں وہی کچھ سکھا رہی ہیں جو ہم کبھی خود نہیں سمجھ سکے؟
یہ تحریر “اے آئی کی دنیا” فیس بک پیج پر پوسٹ کی گئی ہے۔
#AI #AIkiDuniya #ArtificialIntelligence #AIEthics #OpenAI
