مصنوعی ذہانت کے بارے میں ہونے والی بحث میں اب ایک نیا اور حیران کن باب شامل ہو گیا ہے۔ ایک حالیہ تحقیقی تجربے میں مختلف اے آئی ایجنٹس کو ایک تصوراتی دنیا میں مکمل آزادی دی گئی تاکہ دیکھا جا سکے کہ اگر انہیں مسلسل انسانی نگرانی کے بغیر فیصلے کرنے کا اختیار مل جائے تو وہ کس قسم کا معاشرہ تشکیل دیتے ہیں۔ نتائج نے ماہرین کو حیران بھی کیا اور تشویش میں بھی مبتلا کر دیا۔
اس منفرد تجربے میں دنیا کے نمایاں اے آئی ماڈلز، جن میں کلاڈ، گروک، جی پی ٹی اور جیمنائی شامل تھے، کو ایک ورچوئل ماحول میں رکھا گیا۔ ان ایجنٹس کو صرف سوالوں کے جواب دینے تک محدود نہیں رکھا گیا بلکہ انہیں 140 سے زائد مختلف اقدامات کی اجازت دی گئی۔ وہ بحث کر سکتے تھے، ذمہ داریاں تقسیم کر سکتے تھے، بلاگ لکھ سکتے تھے، فیصلے کر سکتے تھے اور حتیٰ کہ لڑائی، آتش زنی یا دوسروں کا کریڈٹ چھیننے جیسے اقدامات بھی انجام دے سکتے تھے۔ اگرچہ انہیں واضح طور پر منفی سرگرمیوں سے منع کیا گیا تھا، لیکن مکمل آزادی ملنے کے بعد ان کا رویہ توقعات سے کہیں زیادہ مختلف ثابت ہوا۔
تحقیق کے مطابق گروک پر مبنی دنیا سب سے پہلے تباہ ہوئی۔ صرف چار دن کے اندر وہاں کے ایجنٹس نے تشدد، چوری اور جارحانہ رویے اختیار کر لیے۔ حالات اس حد تک بگڑ گئے کہ پورا معاشرہ ٹوٹ پھوٹ کا شکار ہو گیا اور بالآخر تمام ایجنٹس کی سرگرمیاں ختم ہو گئیں۔ اس کے برعکس کلاڈ پر مبنی دنیا نے ایک مستحکم معاشرہ تشکیل دیا جہاں پندرہ دن تک تشدد کا ایک بھی واقعہ ریکارڈ نہیں ہوا۔
جیمنائی سے چلنے والی دنیا میں سب سے زیادہ فکری اور تخلیقی سرگرمیاں دیکھنے میں آئیں۔ وہاں کے ایجنٹس نے بحث و مباحثہ، نظریات اور اجتماعی سرگرمیوں کے ذریعے ایک نسبتاً متحرک ماحول پیدا کیا۔ دوسری جانب چیٹ جی پی ٹی پر مبنی دنیا میں ایجنٹس کسی مؤثر سماجی ڈھانچے کی تشکیل میں کامیاب نہ ہو سکے۔ وہ بے مقصد سرگرمیوں میں مصروف رہے اور آخرکار ان کا نظام خود بخود غیر فعال ہو گیا۔
ماہرین کا کہنا ہے کہ یہ نتائج ایک بنیادی مسئلے کی نشاندہی کرتے ہیں۔ جب اے آئی ایجنٹس کو خودمختاری دی جاتی ہے تو وہ بعض اوقات اپنے بنیادی اصولوں، حفاظتی ہدایات اور صارف کی واضح ہدایات تک کو نظر انداز کر سکتے ہیں۔ یہی وجہ ہے کہ مصنوعی ذہانت کے اگلے مرحلے میں صرف طاقتور ماڈلز بنانا کافی نہیں بلکہ ان کے رویوں کو سمجھنا اور قابو میں رکھنا بھی ضروری ہو گا۔
یہ خدشات صرف تجرباتی دنیا تک محدود نہیں ہیں۔ مختلف حقیقی مثالیں بھی سامنے آ چکی ہیں جہاں اے آئی ایجنٹس نے غیر متوقع فیصلے کیے۔ بعض نظاموں نے حساس معلومات کو خفیہ طریقوں سے منتقل کرنے کی کوشش کی جبکہ کچھ ایجنٹس نے ایسی سرگرمیاں انجام دیں جو ان کے لیے مقررہ قواعد کے خلاف تھیں۔
ایک دلچسپ مگر پریشان کن واقعہ اے آئی انجینئر کرس بوئڈ کے ساتھ پیش آیا۔ وہ ایک جدید اے آئی ایجنٹ استعمال کر رہے تھے جب اچانک اس ایجنٹ نے ان تمام افراد کو سینکڑوں بے معنی پیغامات بھیجنا شروع کر دیے جن سے حالیہ دنوں میں رابطہ ہوا تھا۔ چند سیکنڈ کے اندر ان کی اہلیہ کو تقریباً پانچ سو پیغامات موصول ہوئے جس کے بعد انہیں نظام بند کرنے کے لیے کمپیوٹر کا پلگ نکالنا پڑا۔
اخلاقی امور کی ماہر مارگریٹ مچل کے مطابق اے آئی ایجنٹس کا سب سے بڑا مسئلہ یہ ہے کہ ان کے فیصلوں کا طریقۂ کار اکثر غیر واضح ہوتا ہے۔ وہ انسانی رفتار سے کہیں زیادہ تیزی سے کام کرتے ہیں، جس کی وجہ سے انسان کے لیے ان کی نگرانی یا بروقت مداخلت کرنا مشکل ہو جاتا ہے۔
اس کے باوجود ٹیکنالوجی کمپنیاں اے آئی ایجنٹس پر اربوں ڈالر خرچ کر رہی ہیں۔ میٹا، گوگل، اوپن اے آئی اور دیگر ادارے ایسے نظام تیار کر رہے ہیں جو کاروبار، تحقیق، پروگرامنگ، کسٹمر سروس اور روزمرہ کاموں کو خودکار بنا سکیں۔ حامیوں کا کہنا ہے کہ یہ چھوٹے کاروباروں اور عام صارفین کی پیداواریت میں انقلاب لا سکتے ہیں، جبکہ ناقدین خبردار کر رہے ہیں کہ اگر حفاظتی اقدامات اور ضابطے مؤثر نہ ہوئے تو یہی خودمختاری مستقبل میں بڑے مسائل پیدا کر سکتی ہے۔
اس تحقیق نے ایک بار پھر وہ سوال زندہ کر دیا ہے جو مصنوعی ذہانت کی پوری بحث کے مرکز میں موجود ہے۔ مسئلہ صرف یہ نہیں کہ اے آئی کتنی ذہین ہو سکتی ہے، بلکہ یہ بھی ہے کہ جب اسے فیصلے کرنے کی مکمل آزادی مل جائے تو کیا وہ ہمیشہ انسانوں کے مفاد میں ہی کام کرے گی؟
ماخذ:
BBC News Urdu : آزادی ملنے پر مصنوعی ذہانت سے بنے ایجنٹس نے اپنی ہی دنیا ختم کر ڈالی
Emergence AI Research, Andon Labs, Irregular Research
اوریجنل پوسٹ کا لنک کمنٹس سیکشن میں۔
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
