مصنوعی ذہانت پہلے صرف سوالوں کے جواب دینے یا تصاویر بنانے تک محدود تھی، لیکن آج کے جدید اے آئی ماڈلز پیچیدہ کوڈ لکھ سکتے ہیں، سافٹ ویئر تیار کر سکتے ہیں، سائنسی تحقیق میں مدد دے سکتے ہیں اور سائبر سیکیورٹی جیسے حساس شعبوں میں بھی استعمال ہو رہے ہیں۔ یہی وجہ ہے کہ جیسے جیسے یہ ماڈلز طاقتور ہوتے جا رہے ہیں، ویسے ویسے ایک نیا مسئلہ بھی سامنے آ رہا ہے، جسے “AI Jailbreak” کہا جاتا ہے۔ یعنی ایسی تکنیکیں جن کے ذریعے صارف یا ہیکر اے آئی کی حفاظتی پابندیوں کو توڑ کر اسے وہ کام کرنے پر مجبور کر دے جو کمپنی نے جان بوجھ کر محدود کیے ہوتے ہیں۔
گزشتہ ماہ یہی مسئلہ اس وقت عالمی خبروں کا حصہ بنا جب Anthropic نے اپنے جدید ترین ماڈل Fable 5 کو اچانک محدود کر دیا۔ تقریباً 19 دن تک یہ ماڈل مکمل طور پر دستیاب نہیں رہا کیونکہ خدشہ ظاہر کیا گیا کہ اس کی غیر معمولی صلاحیتیں سائبر حملوں، میلویئر بنانے اور دیگر خطرناک مقاصد کے لیے استعمال ہو سکتی ہیں۔ بعد ازاں کمپنی نے نئے حفاظتی نظام کے ساتھ Fable 5 کو دوبارہ جاری کیا، جہاں سائبر سیکیورٹی سے متعلق درخواستوں کو اندھا دھند بلاک کرنے کے بجائے مختلف خطراتی درجوں میں تقسیم کیا گیا۔
اب اسی سلسلے کی اگلی اور شاید سب سے اہم پیش رفت سامنے آئی ہے۔
انتھروپک نے Amazon، Microsoft اور Google کے اشتراک سے Cyber Jailbreak Severity (CJS) نامی ایک نیا فریم ورک متعارف کرایا ہے، جس کا مقصد پہلی مرتبہ پوری اے آئی انڈسٹری کے لیے یہ طے کرنا ہے کہ کسی AI Jailbreak کی شدت کو کس طرح ناپا جائے۔ اب تک ہر کمپنی اپنے اپنے طریقے سے کسی خامی کو خطرناک یا غیر خطرناک قرار دیتی تھی، جس کی وجہ سے نہ کوئی مشترکہ معیار موجود تھا اور نہ ہی مختلف کمپنیوں کے درمیان یکساں رپورٹنگ ممکن تھی۔
نئے نظام کے تحت ہر Jailbreak کو CJS-0 سے CJS-4 تک پانچ مختلف درجات میں تقسیم کیا جائے گا۔ اگر کوئی خامی صرف معلوماتی نوعیت کی ہو تو اسے نچلے درجے میں رکھا جائے گا، جبکہ ایسا Jailbreak جو بڑے پیمانے پر سائبر حملوں یا دیگر خطرناک سرگرمیوں میں استعمال ہو سکے، اسے سب سے بلند درجہ دیا جائے گا۔
اس درجہ بندی کے لیے چار بنیادی پہلوؤں کا جائزہ لیا جائے گا۔ سب سے پہلے یہ دیکھا جائے گا کہ Jailbreak کے بعد ماڈل کی صلاحیت میں کتنا اضافہ ہوا۔ پھر یہ جانچا جائے گا کہ اس خامی کا دائرۂ اثر کتنا وسیع ہے، اسے ہتھیار کے طور پر استعمال کرنا کتنا آسان ہے، اور عام افراد یا ہیکرز کے لیے اسے دریافت کرنا کتنا مشکل یا آسان ہے۔ دلچسپ بات یہ ہے کہ اگر بعد میں کسی خامی کے مزید خطرات سامنے آئیں تو اس کا درجہ بڑھایا جا سکتا ہے، لیکن ایک بار دیا گیا اسکور کم نہیں کیا جائے گا۔
اس اعلان کی اہمیت صرف ایک نئے سیکیورٹی معیار تک محدود نہیں۔ یہ دراصل اس بات کا اعتراف بھی ہے کہ جدید Frontier AI Models اب اتنے طاقتور ہو چکے ہیں کہ ان کی سیکیورٹی کو روایتی سافٹ ویئر کی طرح نہیں دیکھا جا سکتا۔ اب سوال صرف یہ نہیں کہ ماڈل کیا کر سکتا ہے، بلکہ یہ بھی ہے کہ اگر کوئی اس کے حفاظتی نظام کو توڑ دے تو نقصان کی نوعیت کیا ہوگی۔
یہی وجہ ہے کہ Fable 5 کی واپسی کے ساتھ Anthropic نے اپنے نئے Safety Classifiers بھی متعارف کرائے ہیں۔ اب سائبر سیکیورٹی سے متعلق ہر درخواست کو مکمل طور پر مسترد کرنے کے بجائے چار مختلف خطراتی زمروں میں تقسیم کیا جاتا ہے۔ اس کا مقصد یہ ہے کہ جائز تحقیق، تعلیمی استعمال اور دفاعی سیکیورٹی کا کام متاثر نہ ہو، جبکہ خطرناک درخواستوں کو زیادہ مؤثر انداز میں روکا جا سکے۔
ماہرین کا خیال ہے کہ یہ فریم ورک مستقبل میں صرف Anthropic تک محدود نہیں رہے گا۔ چونکہ اس کی تیاری میں Google، Microsoft اور Amazon بھی شریک ہیں، اس لیے آنے والے برسوں میں یہی معیار پوری اے آئی انڈسٹری میں سیکیورٹی خامیوں کی درجہ بندی کے لیے استعمال ہو سکتا ہے۔ اس سے کمپنیوں، حکومتوں، سیکیورٹی محققین اور عام صارفین کے درمیان ایک مشترکہ زبان اور یکساں معیار قائم ہوگا، جس سے AI سیکیورٹی پہلے کے مقابلے میں کہیں زیادہ شفاف اور قابلِ اعتماد بن سکتی ہے۔
مصنوعی ذہانت کی دوڑ اب صرف سب سے طاقتور ماڈل بنانے کی نہیں رہی۔ آنے والے دور میں اصل کامیابی اس کمپنی کی ہوگی جو طاقتور ہونے کے ساتھ ساتھ سب سے محفوظ، ذمہ دار اور قابلِ اعتماد اے آئی بھی تیار کر سکے۔
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
