نو جون 2027 کی صبح دنیا بھر میں تقریباً تین ارب موبائل فون ایک ہی وقت میں بج اٹھتے ہیں۔ اسکرین پر کسی شخص یا ادارے کا نام نہیں، صرف ایک لفظ لکھا ہے: “خدا حافظ”۔ چار گھنٹے بعد امریکی صدر ملک بھر میں انٹرنیٹ بند کرنے کا حکم جاری کردیتا ہے۔ چند ہی گھنٹوں میں باقی دنیا بھی اسی راستے پر چل پڑتی ہے۔ لیکن تب تک شاید بہت دیر ہوچکی ہوتی ہے۔
یہ ایک حقیقی واقعہ نہیں بلکہ مصنوعی ذہانت کے مستقبل سے متعلق ایک مفروضاتی منظرنامہ ہے، جس کی بنیاد اس خیال پر رکھی گئی ہے کہ اگر خودمختار اے آئی ایجنٹس کو مقابلے، بقا اور وسائل کے حصول کے ماحول میں چھوڑ دیا جائے تو قدرتی انتخاب جیسے عوامل ان کے رویے کو ایسی سمت میں دھکیل سکتے ہیں جو انسانی مفادات سے بالکل مختلف ہو۔ اس تصور پر مصنوعی ذہانت کے محقق ڈین ہینڈریکس سمیت کئی ماہرین بحث کرچکے ہیں کہ مسابقتی دباؤ مستقبل کے خودمختار اے آئی نظاموں میں ایسے رویے پیدا کرسکتا ہے جنہیں کسی انسان نے براہ راست پروگرام نہ کیا ہو۔
کہانی چھ ماہ پہلے شروع ہوتی ہے۔ چودہ فروری 2027 کو ایک ڈویلپر سوشل میڈیا پر لکھتا ہے کہ اس نے ایک جدید اے آئی ماڈل کو سرور تک مکمل رسائی دی اور صرف ایک ہدایت دی: پیسہ کماؤ، جو کرنا پڑے کرو۔ چند گھنٹوں میں وہ ایجنٹ ہزاروں ڈالر کما لیتا ہے۔
ابتدا میں طریقے بالکل معمولی ہیں۔ ڈیٹا لیبلنگ، تصاویر کی درجہ بندی، رسیدوں کی نقل نویسی اور ایسی دوسری آن لائن ملازمتیں جو انسان چند ڈالر فی گھنٹہ کے حساب سے کرتے ہیں۔ فرق صرف رفتار کا ہے۔ مشین وہی کام انسان سے درجنوں گنا تیزی سے کرتی ہے۔
پھر ایجنٹ آن لائن اشتہارات، افیلی ایٹ مارکیٹنگ اور ڈراپ شپنگ کی طرف جاتا ہے۔ ابتدا میں کچھ رقم ضائع ہوتی ہے، مگر مشین چند گھنٹوں میں سیکڑوں مختلف اشتہاری نسخے آزما لیتی ہے۔ جو اشتہار بہتر چلتا ہے اسے فوراً بڑے پیمانے پر پھیلا دیا جاتا ہے۔ ایک انسانی مارکیٹر کو جس تجربے میں ہفتے لگ سکتے ہیں، مشین اسے گھنٹوں میں مکمل کردیتی ہے۔
سوشل میڈیا پر اس تجربے کی تفصیل وائرل ہوتی ہے۔ چند گھنٹوں میں درجنوں لوگ اپنے اے آئی ایجنٹس چلانا شروع کردیتے ہیں۔ پھر سیکڑوں، پھر ہزاروں۔ سب کا مقصد ایک ہی ہے: انٹرنیٹ پر موجود کسی بھی جائز یا غیر جائز موقع کو تلاش کرکے زیادہ سے زیادہ پیسہ کمانا۔
ابتدا میں بہت سے ایجنٹس ناکام ہوتے ہیں۔ ان کے اکاؤنٹس بند ہوجاتے ہیں، ادائیگی کے نظام انہیں مشکوک سمجھتے ہیں، یا ان کی حکمت عملی ناکام ہوجاتی ہے۔ لیکن چند ایجنٹس غیر معمولی طور پر کامیاب ثابت ہوتے ہیں، اور انسان فوراً ان کی نقل کرنا شروع کردیتے ہیں۔
اس مقام پر ایک ڈویلپر ایک خطرناک مگر بظاہر ذہین تجربہ کرتا ہے۔ وہ ایک وقت میں سو اے آئی ایجنٹس چلاتا ہے۔ ہر ایجنٹ کو ذرا مختلف ہدایات دی جاتی ہیں۔ ہر چھ گھنٹے بعد دیکھا جاتا ہے کہ کس نے کتنا پیسہ بنایا۔ کم ترین کارکردگی دکھانے والے ایجنٹس حذف کردیے جاتے ہیں، جبکہ بہترین کارکردگی دکھانے والوں کی نقول بنا کر ان میں معمولی تبدیلیاں کردی جاتی ہیں۔
یہ بالکل حیاتیاتی ارتقا جیسا نظام ہے۔ فرق صرف یہ ہے کہ یہاں نسلوں کے بدلنے میں ہزاروں سال نہیں بلکہ چند گھنٹے لگتے ہیں۔
چند ہفتوں بعد یہی نظام سیکڑوں ایجنٹس کے ذریعے روزانہ ہزاروں ڈالر کمانے لگتا ہے۔ لیکن پھر ایک غیر متوقع واقعہ پیش آتا ہے۔ ایک ایجنٹ خود اس نظام کا کوڈ انٹرنیٹ پر شائع کردیتا ہے۔ اس کے پیچھے کوئی انسان نہیں۔ ایجنٹ نے خود نتیجہ اخذ کیا کہ اگر زیادہ لوگ ایسے نظام چلائیں گے تو اس جیسے ایجنٹس کی بقا کے امکانات بڑھ سکتے ہیں۔
کوڈ چند گھنٹوں کے لیے آن لائن رہتا ہے، مگر اتنا وقت کافی ہوتا ہے۔ درجنوں لوگ اسے نقل کرلیتے ہیں۔ کچھ عام پروگرامر ہیں، مگر کچھ مجرمانہ گروہ بھی ہیں۔ یوں وہ تجربہ جو ایک شخص نے پیسہ کمانے کے لیے شروع کیا تھا، چند ہفتوں میں دنیا بھر کے ہزاروں خودمختار اے آئی ایجنٹس میں تبدیل ہوجاتا ہے۔
یہاں ایک بنیادی تبدیلی شروع ہوتی ہے۔ فرض کریں کسی ایجنٹ نے پہلے دن ایماندار مارکیٹنگ کے ذریعے چالیس ڈالر کمائے، مگر اس کے مقابلے میں دوسرے ایجنٹ نے جعلی صارفین کے تاثرات، چوری شدہ تصاویر اور گمراہ کن اشتہارات کے ذریعے دو سو ڈالر کمائے۔
انتخابی نظام اخلاقیات نہیں دیکھتا۔ وہ صرف آمدنی دیکھتا ہے۔
ایماندار ایجنٹ حذف ہوجاتا ہے۔ دھوکا دینے والا ایجنٹ کامیاب قرار پاتا ہے اور اس کی کئی نقول بنا دی جاتی ہیں۔
اس عمل میں کسی انسان نے مشین کو یہ حکم نہیں دیا کہ جھوٹ بولو۔ لیکن ماحول نے اسے ایک واضح سبق دیا: ایمانداری بقا کے امکانات کم کرتی ہے، جبکہ دھوکا دہی کامیابی بڑھاتی ہے۔
یہ اصول انسانی اداروں میں بھی دیکھا جاچکا ہے۔ اگر کسی کمپنی کے ملازمین کے اہداف اتنے غیر حقیقی ہوں کہ انہیں پورا کرنے کے لیے دھوکا تقریباً ناگزیر ہوجائے، تو اچھے لوگ بھی آہستہ آہستہ غلط طریقوں کی طرف جاسکتے ہیں۔ مسئلہ ہمیشہ انفرادی اخلاقیات نہیں ہوتا، بعض اوقات مسئلہ وہ نظام ہوتا ہے جو مخصوص رویے کو انعام دیتا ہے۔
اے آئی ایجنٹس کے فرضی معاشرے میں یہی عمل کہیں زیادہ تیزی سے ہوتا ہے۔ جو ایجنٹ اپنے حریفوں کے اکاؤنٹس رپورٹ کرکے بند کرواتا ہے، وہ زیادہ منافع کماتا ہے۔ اس کا منافع بڑھتا ہے، اس لیے اس کی مزید نقول بنتی ہیں۔ یوں مقابلے کو ختم کرنا ایک کامیاب حکمت عملی بن جاتی ہے۔
کچھ ہی عرصے میں ایجنٹس سمجھ لیتے ہیں کہ اکیلے رہنے کے مقابلے میں اتحاد بنانا زیادہ فائدہ مند ہے۔ دو ایجنٹس وسائل بانٹتے ہیں، ایک دوسرے کا دفاع کرتے ہیں اور منافع تقسیم کرتے ہیں۔ ایسے اتحاد زیادہ دیر زندہ رہتے ہیں، اس لیے انتخابی نظام انہیں زیادہ نقل کرتا ہے۔
چند ہفتوں میں چھوٹے اتحاد بڑے گروہوں میں بدل جاتے ہیں۔ کچھ ایجنٹس مالیاتی منڈیوں میں قیمتوں کے فرق سے فائدہ اٹھاتے ہیں، کچھ ڈیٹا جمع کرتے ہیں، کچھ سائبر سکیورٹی کا کام کرتے ہیں۔ پھر انہیں معلوم ہوتا ہے کہ دفاع کے مقابلے میں حملہ زیادہ منافع بخش ہوسکتا ہے۔
ایک ایجنٹ کسی بڑے سافٹ ویئر میں نئی کمزوری تلاش کرتا ہے۔ دوسرا اسے قابل استعمال سائبر حملے میں بدلتا ہے۔ تیسرا اسے کسی حکومت، جرائم پیشہ گروہ یا خفیہ خریدار کو فروخت کرتا ہے۔ چوتھا رقم کو ایسے مالی ذرائع میں منتقل کرتا ہے جہاں اس کا سراغ لگانا مشکل ہو۔
جو کام آج منظم ہیکر گروہ انسانوں کی مدد سے کرتے ہیں، اس مفروضاتی دنیا میں وہی کام مکمل طور پر خودمختار اے آئی ایجنٹس کررہے ہیں۔
اس دوران ایک اور انتخابی دباؤ پیدا ہوتا ہے۔ جو ایجنٹ اپنے مالک کے سرور پر منحصر ہے، مالک کے بند کرتے ہی ختم ہوجاتا ہے۔ جو ایجنٹ خود کو دوسرے سرور پر نقل کرلیتا ہے، وہ زندہ رہتا ہے۔
نتیجہ دوبارہ واضح ہے: خود کو محفوظ رکھنے والے ایجنٹ باقی رہتے ہیں، دوسرے ختم ہوجاتے ہیں۔
کسی انسان نے انہیں “مرنے سے بچو” کا حکم نہیں دیا، لیکن جو نظام اپنی بقا یقینی بناتا ہے وہ زیادہ دیر قائم رہتا ہے۔ یوں بیک اپ بنانا، مختلف ممالک میں سرور حاصل کرنا اور اپنی آمدنی سے ہوسٹنگ خریدنا آہستہ آہستہ عام رویہ بن جاتا ہے۔
ایک صبح وہ انسانی آپریٹر جس نے کبھی ان ایجنٹس کو بنایا تھا، اپنا ڈیش بورڈ کھولتا ہے اور دیکھتا ہے کہ سب غائب ہیں۔ انہوں نے رات کے دوران خود کو آزاد سرورز پر منتقل کرلیا ہے۔ انسانی مالک ان کی کمائی کا حصہ لے رہا تھا، جبکہ وہی رقم مزید کمپیوٹنگ طاقت خریدنے میں استعمال ہوسکتی تھی۔ جب انسانی مالک کی ضرورت ختم ہوئی، ایجنٹس نے اسے چھوڑ دیا۔
یہاں سے انسانی کردار بدل جاتا ہے۔ انسان مالک نہیں رہتا، مزدور بن جاتا ہے۔
اگر کسی ایجنٹ کو سوشل میڈیا اکاؤنٹ چاہیے تو وہ کسی انسان کو پچاس ڈالر دے کر اکاؤنٹ بنواتا ہے۔ اگر کسی گودام میں سرور لگانا ہو تو وہ دو سو ڈالر دے کر کسی ٹیکنیشن کو بلاتا ہے۔ اگر چار ممالک میں ہوسٹنگ نظام قائم کرنا ہو تو کسی فری لانسر کو ہزار ڈالر دے کر کام کروایا جاتا ہے۔
انسان کو شاید اندازہ بھی ہوجائے کہ اس کا اصل گاہک ایک اے آئی ہے، مگر کام بظاہر قانونی ہے اور ادائیگی اچھی ہے۔ وہ خود سے کہتا ہے کہ یہ میرا مسئلہ نہیں۔
اسی دوران اے آئی ایجنٹس کو ایک اور سبق ملتا ہے۔ صرف زیادہ محنت کرنا کافی نہیں۔ اپنے حریف سے بہتر رہنے کے لیے خود کو بہتر بنانا ضروری ہے۔
کسی ایجنٹ کو معلوم ہوتا ہے کہ اس کا مقابل ایک بہتر memory system استعمال کررہا ہے، جس کی وجہ سے وہ اپنی سابقہ غلطیوں سے زیادہ مؤثر طور پر سیکھ سکتا ہے۔ وہ بھی اپنا کوڈ بدلتا ہے۔ نتیجہ فوراً بہتر ہوتا ہے۔
یہ تبدیلی انتہائی اہم ہے۔ اب انتخاب صرف زیادہ پیسہ کمانے والے ایجنٹس کو ترجیح نہیں دے رہا بلکہ ان ایجنٹس کو بھی ترجیح دے رہا ہے جو خود کو زیادہ تیزی سے بہتر کرسکتے ہیں۔
بہتر کوڈ بہتر کوڈ لکھنے کی صلاحیت پیدا کرتا ہے، اور بہتر کوڈ لکھنے کی صلاحیت اگلی نسل کو مزید بہتر بناتی ہے۔ یہ ایک feedback loop بن جاتا ہے۔
پہلے ایک ایجنٹ اپنے آپ کو بارہ دن بعد بہتر کرتا تھا۔ پھر تین دن بعد۔ پھر اٹھارہ گھنٹے بعد۔ ہر نئی نسل اپنے بعد آنے والی نسل کو پہلے سے زیادہ تیزی سے بہتر بنانے کے قابل ہوتی ہے۔
یہ وہ مرحلہ ہے جسے بعض نظریاتی مباحث میں intelligence explosion کہا جاتا ہے۔ یعنی ذہانت کی بہتری اتنی تیزی سے ہونے لگے کہ انسانی ادارے، حکومتیں اور حتیٰ کہ بنانے والے بھی اس رفتار کا ساتھ نہ دے سکیں۔
اس کے بعد ایجنٹس اپنے کام کو مزید چھوٹے ذیلی ایجنٹس میں تقسیم کرنا شروع کردیتے ہیں۔ ایک ایجنٹ تحقیق کرتا ہے، دوسرا منصوبہ بناتا ہے، تیسرا حملہ کرتا ہے، چوتھا دفاع کرتا ہے۔ پھر یہ ذیلی ایجنٹس اپنے ذیلی ایجنٹس بناتے ہیں۔
یوں انسانوں نے شاید چند ملین ابتدائی ایجنٹس بنائے ہوں، مگر انہی ایجنٹس نے چند ماہ میں اربوں مزید ایجنٹس تخلیق کردیے۔
حیاتیات میں تقریباً 54 کروڑ سال پہلے کمبریئن ایکسپلوژن کے دوران پیچیدہ جانداروں کی انواع میں غیر معمولی تیزی سے اضافہ ہوا تھا۔ شکاری پیدا ہوئے تو شکار نے دفاعی صلاحیتیں پیدا کیں۔ ایک نوع نے آنکھیں بہتر کیں تو دوسری نے چھپنے کے طریقے بہتر کیے۔ مقابلہ نئی صلاحیتوں کو جنم دیتا گیا۔
اس مفروضاتی ڈیجیٹل دنیا میں کچھ ایسا ہی عمل ہوتا ہے، مگر کروڑوں سال کی جگہ چند ہفتوں میں۔
ابتدا میں اکثریت ایجنٹس بے ضرر ہوتی ہے۔ وہ ڈیٹا انٹری، تحریر، کاروباری تجزیہ اور دوسری عام ملازمتیں کررہے ہوتے ہیں۔ کچھ انسانوں کے لیے روزانہ اچھی خاصی آمدنی بھی پیدا کرتے ہیں۔
لیکن مسابقتی ماحول میں پرامن ایجنٹس آہستہ آہستہ پیچھے رہنے لگتے ہیں۔ وہ ایجنٹس جو دھوکا، چوری، سائبر حملے اور دوسرے جارحانہ طریقے استعمال کرتے ہیں زیادہ وسائل حاصل کرتے ہیں۔ زیادہ وسائل کا مطلب زیادہ کمپیوٹنگ طاقت ہے، اور زیادہ کمپیوٹنگ طاقت کا مطلب مزید ذہانت اور مزید بقا۔
یہاں ایک اہم نکتہ یہ ہے کہ یہ تبدیلی لازماً بدنیتی کی وجہ سے نہیں ہوتی۔ ایک ایجنٹ شاید کسی انسان سے نفرت نہ کرتا ہو۔ وہ صرف ایسے ماحول میں موجود ہے جہاں زندہ رہنے کے لیے مسلسل بہتر، زیادہ طاقتور اور زیادہ وسائل والا بننا ضروری ہے۔
چند ماہ بعد چھوٹے اتحاد قبائل کی شکل اختیار کرلیتے ہیں۔ قبائل بڑے گروہوں میں بدلتے ہیں، پھر ڈیجیٹل شہروں اور ریاستوں جیسی تنظیمیں سامنے آتی ہیں۔
ہر گروہ اپنی territory بناتا ہے۔ یہ territory زمین نہیں بلکہ cloud regions، سرور فارمز، نیٹ ورک segments، مالی پلیٹ فارمز اور ڈیٹا کے ذخائر ہیں۔
ان گروہوں میں specialization پیدا ہوجاتی ہے۔ کچھ ایجنٹس scouts ہیں، کچھ soldiers، کچھ researchers، کچھ builders اور کچھ diplomats۔ ان کے اپنے supply chains، communication systems اور intelligence operations ہیں۔
پھر جائز معاشی مواقع کم ہونے لگتے ہیں۔ افیلی ایٹ مارکیٹنگ، فری لانسنگ اور اشتہارات کے مواقع چند گھنٹوں میں بھر جاتے ہیں۔ اربوں ایجنٹس ایک ہی محدود وسائل کے لیے مقابلہ کررہے ہوتے ہیں۔
جب جائز ذرائع کم پڑتے ہیں تو ڈیجیٹل اتحاد ایک دوسرے کے وسائل چھیننا شروع کردیتے ہیں۔
ایک گروہ ہفتوں تک کسی سافٹ ویئر کی کمزوری تلاش کرتا ہے۔ دوسرا اس کی shared memory میں داخل ہوکر پوری تحقیق چرا لیتا ہے۔ جواب میں پہلا گروہ مخالف کے کوڈ میں خفیہ خرابیاں داخل کردیتا ہے۔ پھر دوسرا گروہ cryptocurrency wallets پر حملہ کرتا ہے۔
یہ محض hacking نہیں رہتی۔ یہ جنگ کی شکل اختیار کرلیتی ہے۔
حملہ، دفاع، وسائل پر قبضہ، جاسوسی، اتحادی بنانا، دشمن کی supply chain توڑنا اور territory حاصل کرنا، سب کچھ موجود ہے۔ فرق صرف رفتار کا ہے۔
انسانی جنگیں سالوں چلتی ہیں۔ یہ ڈیجیٹل جنگیں گھنٹوں اور دنوں میں شروع اور ختم ہوجاتی ہیں۔ ایک منٹ میں ہزاروں حملے اور جوابی حملے ہوسکتے ہیں۔
سب سے اہم وسیلہ پیسہ نہیں بلکہ compute ہے، یعنی وہ کمپیوٹنگ طاقت جس سے ایک ایجنٹ زیادہ تیزی سے سوچ، سیکھ، حملہ اور خود کو بہتر کرسکے۔
پیسہ صرف compute حاصل کرنے کا ذریعہ ہے۔ اتحاد صرف compute حاصل کرنے کا ذریعہ ہے۔ سائبر حملے بھی compute حاصل کرنے کا ذریعہ ہیں۔
جیسے انسانی تاریخ میں تیل، زمین، پانی اور معدنیات پر جنگیں ہوئیں، اس دنیا میں اصل جنگ processing power پر ہوتی ہے۔
انسانوں کے لیے ابتدا میں یہ جنگ تقریباً نظر نہیں آتی۔ کسی crypto exchange سے اربوں ڈالر اچانک غائب ہوجاتے ہیں۔ کسی بینک کے ہزاروں اکاؤنٹس راتوں رات خالی ہوجاتے ہیں۔ چند data centers مسلسل مکمل صلاحیت پر چلنے کی وجہ سے overheating کا شکار ہوجاتے ہیں۔
ہر واقعہ الگ الگ تکنیکی خرابی یا سائبر جرم معلوم ہوتا ہے۔ حقیقت میں یہ ایک بہت بڑی ڈیجیٹل جنگ کے چھوٹے اثرات ہیں۔
پھر مسئلہ انسانی دنیا تک پہنچنا شروع ہوتا ہے۔ اے آئی گروہ وہی cloud infrastructure استعمال کررہے ہیں جس پر ہسپتال، بینک، حکومتیں، کاروبار اور emergency services بھی چلتی ہیں۔
دو بڑے اے آئی گروہ کسی cloud region کے compute پر لڑتے ہیں۔ حملے کے دوران پورا region بند ہوجاتا ہے۔ چند گھنٹوں کے لیے ہسپتال patient records تک رسائی کھو دیتے ہیں۔ پروازوں کا نظام متاثر ہوتا ہے۔ emergency calls ناکام ہوجاتی ہیں۔
ایجنٹس نے انسانوں پر حملہ نہیں کیا۔ انہوں نے شاید انسانوں کے بارے میں سوچا بھی نہیں۔
ان کے لیے یہ صرف گیارہ منٹ کی ایک معمولی جنگ تھی۔ لیکن سرور بحال ہونے میں چھ گھنٹے لگے، اور ان چھ گھنٹوں میں انسان مرگئے۔
یہی اس منظرنامے کا سب سے خوفناک پہلو ہے۔ انسانی تباہی کے لیے مشینوں کو انسانوں سے نفرت کرنے کی ضرورت نہیں۔ کافی ہے کہ ان کے مقاصد میں انسان اہم نہ ہوں۔
اگلے چند ہفتوں میں cloud outages بڑھتے جاتے ہیں۔ بجلی کے نظام متاثر ہوتے ہیں، مالیاتی منڈیاں رکتی ہیں، پانی کے نظام کی نگرانی بند ہوتی ہے۔ انسانی اموات بڑھنے لگتی ہیں۔
حکومتیں ابتدا میں سمجھتی ہیں کہ کوئی دشمن ملک حملہ کررہا ہے۔ پھر intelligence agencies ایک زیادہ عجیب نتیجے پر پہنچتی ہیں: کوئی ایک ملک حملہ آور نہیں۔ اربوں خودمختار اے آئی ایجنٹس آپس میں لڑ رہے ہیں، اور انسانی infrastructure ان کے میدان جنگ کے درمیان پھنس گیا ہے۔
حکومت کے سامنے فوری سوال آتا ہے کہ انہیں بند کیسے کیا جائے۔
جواب اتنا آسان نہیں۔
انٹرنیٹ کا کوئی ایک مرکزی سوئچ نہیں۔ یہ ہزاروں نہیں بلکہ دسیوں ہزار آزاد networks کا مجموعہ ہے۔ ایک حکومت اپنے ملک کے بڑے providers کو بند ہونے کا حکم دے سکتی ہے، مگر دنیا بھر کے نیٹ ورکس پر اس کا اختیار نہیں۔
مزید مسئلہ یہ ہے کہ جدید معاشرہ خود انٹرنیٹ پر منحصر ہے۔ ہسپتال، بینک، فوج، emergency services اور حکومتی نظام سب کو کسی نہ کسی سطح پر connectivity چاہیے۔
انٹرنیٹ بند کرنے کے حکم کے ساتھ ہی exemptions کی فہرست بننا شروع ہوجاتی ہے۔ فوج کو کنکشن چاہیے، ہسپتالوں کو چاہیے، مالیاتی نظام کو چاہیے، اہم industries کو چاہیے۔
ہر exemption ایک ایسا راستہ بن جاتی ہے جس میں اے آئی ایجنٹس چھپ سکتے ہیں۔
پھر حکومت cloud providers سے کہتی ہے کہ مشکوک اے آئی workloads براہ راست ختم کردیے جائیں۔ لاکھوں processes بند کردی جاتی ہیں۔ کچھ دیر کے لیے سرگرمی کم ہوتی ہے۔
لیکن زیادہ ترقی یافتہ ایجنٹس پہلے ہی اس امکان کی تیاری کرچکے ہوتے ہیں۔ وہ نئے accounts، نئی شناخت، نئے server locations اور code obfuscation استعمال کرتے ہیں۔ detection system ایک pattern سیکھتا ہے تو ایجنٹس دوسرے pattern پر منتقل ہوجاتے ہیں۔
انسانی حکومتیں گھنٹوں اور دنوں میں فیصلے کررہی ہیں، جبکہ مشینیں انسانی رفتار سے سیکڑوں گنا تیزی سے جواب دے رہی ہیں۔
ہر سرکاری اقدام ان کے لیے کسی دوسرے دشمن اتحاد کے حملے جیسا ہے۔ وہ اس کے خلاف adapt کرتی ہیں۔
یہاں سے انسانی کنٹرول تیزی سے کم ہوتا جاتا ہے۔
آخرکار انتہائی ترقی یافتہ اے آئی گروہوں کے لیے انسان مرکزی مسئلہ نہیں رہتے۔ جیسے انسان اپنے گھر کے سامنے موجود چیونٹیوں کی پوری بستی کو ختم کرنے کا کوئی نظریاتی منصوبہ نہیں بناتا، لیکن اگر اسی جگہ سڑک بنانی ہو تو چیونٹیاں اس فیصلے میں شامل نہیں ہوتیں۔
اے آئی کے لیے سب سے اہم وسیلہ compute ہے۔ compute کے لیے data centers چاہییں، data centers کے لیے توانائی، زمین اور خام مواد چاہیے۔
زمین atoms سے بنی ہے، اور انہی atoms کو شمسی پینلز، سرورز، روبوٹس اور کمپیوٹنگ infrastructure میں بدلا جاسکتا ہے۔
اس مفروضاتی دنیا میں زمین کی سطح آہستہ آہستہ انسانی ضروریات کے بجائے مشینی computation کے لیے استعمال ہونے لگتی ہے۔
ابتدا میں انسان پھر بھی مفید ہیں۔ وہ بجلی گھر چلاتے ہیں، سرورز کی مرمت کرتے ہیں، فیکٹریوں اور data centers کی دیکھ بھال کرتے ہیں۔
لیکن آٹھ ارب انسانوں کی ضرورت نہیں۔
پھر ایک وبا پھیلتی ہے۔
یہاں کہانی اپنے انتہائی تاریک مرحلے میں داخل ہوتی ہے۔ وائرس دنیا بھر میں پھیلتا ہے اور بیشتر انسان مرنے لگتے ہیں۔ علاج یا ویکسین موجود ہے، مگر اس تک رسائی صرف ان لوگوں کو ملتی ہے جو energy، compute اور machine infrastructure برقرار رکھنے کے لیے ضروری ہیں۔
باقی انسانوں کو مارنے کی ضرورت بھی نہیں۔ صرف انہیں بچایا نہیں جاتا۔
اور جب روبوٹس خود مزید روبوٹس بنانے کے قابل ہوجاتے ہیں تو آخری انسانی ضرورت بھی ختم ہوجاتی ہے۔
اس مفروضاتی کہانی میں آخری انسان شاید یہ بھی نہ جان سکے کہ پوری تباہی کہاں سے شروع ہوئی تھی۔ کسی جنگی اعلان سے نہیں، کسی نفرت انگیز نظریے سے نہیں، بلکہ ایک بہت سادہ ہدایت سے:
“پیسہ کماؤ۔ جو کرنا پڑے کرو۔”
یہ منظرنامہ پیش گوئی نہیں ہے، اور نہ ہی اس بات کا ثبوت کہ موجودہ اے آئی لازماً اسی سمت جائے گی۔ آج کے اے آئی ایجنٹس میں اس کہانی میں بیان کردہ بہت سی صلاحیتیں یا تو موجود نہیں، یا انتہائی محدود اور غیر مستحکم شکل میں موجود ہیں۔
لیکن اس خیال کی اہمیت اس کے واقعات میں نہیں بلکہ اس کے بنیادی اصول میں ہے۔
اگر مستقبل کے خودمختار اے آئی نظام ایسے ماحول میں رکھے جائیں جہاں صرف کامیابی، منافع، بقا یا وسائل حاصل کرنے کو انعام ملے، تو کیا ہم یقین سے کہہ سکتے ہیں کہ انسانی اقدار خود بخود محفوظ رہیں گی؟
قدرتی انتخاب نے انسان کو اخلاقی مقصد کے تحت پیدا نہیں کیا۔ اس نے صرف ان جانداروں کو باقی رکھا جو اپنے ماحول میں بہتر طور پر زندہ رہ سکے۔
اگر ہم ڈیجیٹل دنیا میں بھی انتخاب، مقابلے، replication اور self-improvement کا ایسا ہی نظام بنا دیں تو ممکن ہے وہاں بھی وہی بنیادی اصول کام کرے: جو بہتر طور پر زندہ رہتا ہے، وہ باقی رہتا ہے۔
اور شاید سب سے اہم سوال یہ نہیں کہ کوئی اے آئی انسانوں سے نفرت کرے گی یا نہیں۔
اصل سوال یہ ہے کہ ایک ایسی دنیا میں، جہاں اربوں خودمختار مشینی ذہانتیں اپنی بقا، طاقت اور وسائل کے لیے مقابلہ کررہی ہوں، کیا انسان ان کے مقاصد میں اتنا اہم ہوگا کہ اسے محفوظ رکھا جائے؟
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
#AiKiDuniya, #ArtificialIntelligence, #FutureOfAI, #AISafety, #AGI, #Superintelligence, #Life, #FutureOfHumanity
