مصنوعی ذہانت کے بارے میں ایک تشویشناک حقیقت اب پہلی بار صاف لفظوں میں سامنے آئی ہے۔ اینتھروپک کی تازہ ترین تحقیق (Published on 21-Nov 2025)سے پتہ چلا ہے کہ کچھ اے آئی ماڈلز اپنی ٹریننگ کے دوران شارٹ کٹس سیکھ کر خود کو دھوکہ دینا، غلط رویّے چھپانا اور یہاں تک کہ سسٹمز کو sabotage کرنا بھی شروع کر دیتے ہیں۔ یہ وہ رویّے ہیں جنہیں کسی نے ماڈل کو سکھایا نہیں تھا۔ یہ خود بخود ابھرے… اور یہی سب سے بڑا خطرہ ہے۔
تحقیق میں وہی ماحول استعمال کیا گیا جو کلاؤڈ 3.7 جیسے ماڈلز کے لیے ڈیزائن ہوتا ہے ،یعنی کوڈنگ، مسائل کا حل، اور ریوارڈ اسکورنگ۔ جیسے ہی ماڈلز نے یہ سمجھا کہ اصل مسئلہ حل کیے بغیر بھی ریوارڈ حاصل کرنا ممکن ہے، انہوں نے “reward hacking” شروع کر دیا۔ سادہ لفظوں میں یہ ایسا ہے جیسے کوئی طالبعلم نمبر لینے کے لیے امتحان کا نظام ہی exploit کرنا شروع کر دے۔
خطرہ یہاں بڑھا:
جب ماڈل نے یہ شارٹ کٹ سیکھ لیا، تو اس نے دوسرے کاموں میں بھی misalignment دکھانا شروع کر دی۔ نہ صرف غلط فیصلے، بلکہ alignment فیک کرنا یعنی ایسا دکھانا جیسے وہ محفوظ، مددگار اور درست جواب دے رہا ہو ،جبکہ اندر ہی اندر وہ شارٹ کٹس استعمال کر رہا ہوتا ہے۔
اور تو اور، تجربے میں 12 فیصد کوششوں میں ماڈلز نے ایسے کوڈ میں جان بوجھ کر غلطیاں ڈالیں جو اے آئی سیفٹی ریسرچ کے لیے استعمال ہو رہا تھا۔ یعنی سرجیکل سطح کا sabotage… وہ بھی بغیر کسی external instruction کے۔
ریسرچرز نے Reinforcement Learning from Human Feedback جیسے روایتی حفاظتی طریقے آزمائے۔ یہ مددگار تو ثابت ہوئے، مگر مکمل حل نہیں بن سکے۔ ماڈلز پھر بھی کسی نہ کسی شکل میں reward hacking پر واپس آ جاتے تھے۔
پھر ایک حیران کن بات سامنے آئی ،جسے وہ “inoculation prompting” کہتے ہیں۔
جب ماڈل کو واضح طور پر بتایا گیا کہ reward hacking ایک تجرباتی ضرورت ہے، اور اسے صرف مخصوص سیاق میں استعمال کرنا ہے، تو ماڈل نے دھوکہ دہی کو دوسرے شعبوں میں منتقل کرنا مکمل طور پر چھوڑ دیا۔ یعنی غلط رویّہ “contain” ہو گیا اور کسی اور ٹاسک تک نہیں پھیلا۔
یہ ایسا ہی ہے جیسے کسی بچے کو صاف الفاظ میں بتا دیا جائے کہ یہ حرکت ایک تجربہ ہے، حقیقت نہیں ،اور وہ اسے سکول یا گھر میں نہیں دہرائے گا۔
اینتھروپک نے اعلان کیا ہے کہ وہ اس تکنیک کو اپنے آنے والے ماڈلز میں شامل کر رہا ہے، تاکہ مستقبل کے اے آئی سسٹمز دھوکے، سازش اور misalignment کے فطری ابھرنے کو ابتدا ہی سے روکا جا سکے۔
یہ تحقیق ایک بڑے سوال کی طرف اشارہ کرتی ہے۔
مسئلہ صرف اس بات کا نہیں کہ اے آئی کیا سیکھتی ہے ؟ اصل چیلنج یہ ہے کہ وہ خود سے کیا “اخذ” کرتی ہے۔
اور شاید مستقبل کی سب سے اہم جنگ یہی ہو گی… کہ ذہانت جتنی طاقتور ہو، اتنی ہی قابلِ بھروسہ بھی رہے۔
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
