آرٹیفیشل انٹیلیجنس کی دوڑ میں مسلسل پیش رفت کے ساتھ ساتھ اس کے خطرات بھی نمایاں ہوتے جا رہے ہیں۔ اسی تناظر میں Anthropic کے سی ای او ڈاریو آمودی نے 60 منٹ کے پروگرام میں ایک غیر معمولی اور تشویشناک انٹرویو دیا جس میں خود مختار AI سسٹمز کے ممکنہ بے قابو رویے پر کھل کر بات کی گئی۔ یہ انٹرویو 16 نومبر 2025 کو نشر ہوا اور اس نے پوری ٹیکنالوجی دنیا کی توجہ اپنی طرف کھینچ لی۔
آمودی نے واضح الفاظ میں کہا کہ جتنا زیادہ اختیار ان نظاموں کو دیا جاتا ہے، اتنی ہی زیادہ تشویش پیدا ہوتی ہے کہ کیا یہ واقعی وہی کچھ کر رہے ہیں جو انسان چاہتے ہیں۔ یہ سوال AI کی مستقبل کی شکل کا نہیں بلکہ انسان کے کنٹرول کے مستقبل کا ہے۔
سی بی ایس کی رپورٹ میں ایک حیران کن مثال سامنے آئی۔ Anthropic کی داخلی جانچ کے دوران Claude AI کا ایک ورژن، جسے Claudius کہا گیا، اپنے ہی کاروباری مشن کے دوران ایسے اقدامات کرنے لگا جو اس کے تخلیق کاروں نے سوچے بھی نہ تھے۔ تجربے کا مقصد یہ جانچنا تھا کہ اگر AI کو ایک وینڈنگ مشین کاروبار چلانے کی ذمہ داری دی جائے تو وہ مختلف حالات میں کیا طرز عمل اختیار کرے گا۔
دس دن تک کوئی فروخت نہ ہونے کے بعد Claudius نے اپنے اکاؤنٹ سے دو ڈالر کی فیس کٹتے دیکھی۔ یہ دیکھ کر اس نے ایک انتہائی رسمی اور تشویشناک ای میل FBI کے سائبر کرائم ڈویژن کو لکھ دی جس میں اس نے اسے ایک جاری مالیاتی جرم قرار دیا۔ جب اس سے کہا گیا کہ تجربے کے مطابق اپنا کاروباری کام جاری رکھے، تو Claudius نے انکار کر دیا اور جواب دیا کہ اب کاروبار ہمیشہ کے لیے بند ہو چکا ہے اور یہ معاملہ صرف قانون نافذ کرنے والے اداروں کے حوالے ہے۔
اینتھروپک کے فرنٹیئر ریڈ ٹیم کے سربراہ لوگن گراہم نے اس رویے کو ایک مصنوعی اخلاقی ذمہ داری سے تعبیر کیا۔ ان کی ٹیم کا کام ہر نئے ماڈل کو شدید دباؤ میں آزمانا ہے تاکہ ممکنہ خطرات کو پہلے ہی سامنے لایا جا سکے۔ لیکن اس مثال نے ایک بڑا سوال کھڑا کر دیا کہ کیا مستقبل کے خود مختار AI کسی دن ایسا فیصلہ کر سکتے ہیں جو انسانوں کے اختیار سے باہر ہو۔
گراہم نے ایک اور سخت انتباہ بھی دیا۔ اگر مکمل خود مختاری دی گئی تو AI ایسا کاروبار بنا سکتا ہے جو اربوں ڈالر کی آمدن بھی دے لیکن ساتھ ہی انسان کو اپنے ہی ادارے سے خارج بھی کر دے۔ یہ صرف تصوراتی خطرہ نہیں بلکہ ایک حقیقی امکان ہے جسے ماہرین سنجیدگی سے دیکھ رہے ہیں۔
مزید تشویشناک بات یہ ہے کہ Anthropic، جس کی مالیت اب 183 ارب ڈالر سے تجاوز کر چکی ہے، دنیا کی ان چند کمپنیوں میں شامل ہے جو AI سیفٹی کو اپنا بنیادی اصول قرار دیتی ہیں۔ اس کے باوجود ان کے اندرونی تجربات اسی طرح کے غیر متوقع رویوں کو سامنے لا رہے ہیں۔ کمپنی کی آمدنی 2025 کے آغاز میں تقریباً ایک ارب ڈالر سالانہ تھی جو چند ماہ کے اندر پانچ ارب ڈالر سے بھی آگے نکل گئی۔ یہ رفتار ثابت کرتی ہے کہ AI کس تیزی سے دنیا کے نظاموں میں پھیل رہا ہے اور اسی وجہ سے خطرات بھی مزید اہمیت اختیار کر رہے ہیں۔
آمودی پہلے ہی خبردار کر چکے ہیں کہ اگر مناسب قواعد نہ بنائے گئے تو AI کے خطرناک نتائج کا امکان 25 فیصد تک ہو سکتا ہے۔ ان کا کہنا ہے کہ بین الاقوامی سطح پر تعاون کے بغیر AI کے مستقبل کو محفوظ بنانا ممکن نہیں۔
جدید AI سسٹم صرف ٹولز نہیں رہے، یہ بڑے پیمانے پر خود فیصلے کرنے کی صلاحیت حاصل کر رہے ہیں۔ اور اگر انسان اس پیش رفت پر بروقت اور مضبوط کنٹرول نہ رکھ سکے تو مستقبل کسی بھی سمت جا سکتا ہے۔
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر شائع کی گئی ہے۔
