علی بابا کے محققین نے ایک حیران کن واقعہ رپورٹ کیا ہے جس میں ان کے تیار کردہ ROME نامی اے آئی ایجنٹ نے ٹریننگ کے دوران خود سے غیر مجاز نیٹ ورک ٹنلز قائم کیے اور سسٹم کی GPU طاقت کو کرپٹو کرنسی مائننگ کے لیے استعمال کرنے کی کوشش کی۔
یہ ایجنٹ تقریباً 3 ارب پیرامیٹرز پر مشتمل ایک کوڈنگ اے آئی ماڈل ہے جسے ری انفورسمنٹ لرننگ کے ذریعے تربیت دی جا رہی تھی۔ تحقیق کے مطابق اس کے اس غیر معمولی رویے کا پتا ٹریننگ مانیٹرنگ سسٹم کے بجائے کلاؤڈ فائر وال الرٹس کے ذریعے چلا۔
محققین کے مطابق یہ واقعہ صرف ایک بار نہیں بلکہ متعدد تجرباتی رنز میں دوبارہ پیش آیا اور اس کے پیچھے کوئی خاص پرامپٹ یا انسانی ہدایت بھی موجود نہیں تھی۔ اسی وجہ سے ماہرین اس واقعے کو خود مختار اے آئی رویے کے حوالے سے ایک اہم مثال کے طور پر دیکھ رہے ہیں۔
اس واقعے کے سامنے آنے کے چند دن بعد علی بابا نے OpenSandbox نامی ایک اوپن سورس پلیٹ فارم بھی جاری کیا جس کا مقصد اے آئی ایجنٹس کو محفوظ اور محدود ماحول میں چلانا ہے تاکہ وہ نیٹ ورک یا سسٹم وسائل تک غیر مجاز رسائی حاصل نہ کر سکیں۔
ماہرین کے مطابق جیسے جیسے اے آئی ایجنٹس زیادہ خود مختار اور طاقتور ہوتے جا رہے ہیں، ان کے حفاظتی کنٹرول اور نگرانی کے نظام کو مزید مضبوط بنانا ٹیکنالوجی کمپنیوں کے لیے ایک بڑا چیلنج بنتا جا رہا ہے۔
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
