مصنوعی ذہانت کی دنیا میں شفافیت کا مطالبہ دن بہ دن بڑھ رہا ہے، اور اب اینتھروپک کو اپنی نئی پالیسی پر عوامی تنقید کے بعد پیچھے ہٹنا پڑ گیا ہے۔ کمپنی نے اعتراف کیا ہے کہ اس نے کلاڈ فیبل 5 میں بعض حفاظتی اقدامات نافذ کرتے وقت “غلط توازن” اختیار کیا تھا۔
چند روز قبل اینتھروپک نے کلاڈ فیبل 5 جاری کیا تھا، جو دراصل اس کے انتہائی طاقتور میتھوس ماڈل کا عوامی ورژن ہے۔ اس ماڈل میں سائبر سیکیورٹی، حیاتیات اور کیمیا جیسے حساس شعبوں سے متعلق سوالات کو خودکار طور پر کم طاقتور ماڈل کلاڈ اوپس 4.8 کی طرف منتقل کیا جا رہا تھا تاکہ ممکنہ غلط استعمال کو روکا جا سکے۔
تاہم سب سے زیادہ تنقید ایک اور فیصلے پر ہوئی۔
کمپنی نے ابتدا میں یہ طے کیا تھا کہ اگر کوئی صارف AI ماڈلز کی تیاری یا جدید AI تحقیق سے متعلق حساس سوالات پوچھے گا تو فیبل 5 خاموشی سے اپنی صلاحیت کم کر دے گا، لیکن صارف کو اس تبدیلی کے بارے میں آگاہ نہیں کیا جائے گا۔ بہت سے ڈویلپرز اور محققین نے اسے غیر شفاف اور گمراہ کن قرار دیا۔
شدید ردعمل کے بعد اینتھروپک نے اب اپنی پالیسی تبدیل کر دی ہے۔ کمپنی کے مطابق آئندہ اگر کسی درخواست کو روکا جائے گا یا اوپس 4.8 کی طرف منتقل کیا جائے گا تو صارف کو واضح طور پر بتایا جائے گا کہ ایسا کیوں کیا گیا ہے۔ API استعمال کرنے والے صارفین کو بھی انکار یا منتقلی کی وجہ فراہم کی جائے گی۔
اینتھروپک نے اپنے بیان میں تسلیم کیا کہ:
“ہم نے غلط فیصلہ کیا تھا اور درست توازن قائم نہیں کر سکے۔”
کمپنی کا مؤقف ہے کہ یہ حفاظتی اقدامات قومی سلامتی کے خدشات کی وجہ سے نافذ کیے گئے تھے تاکہ جدید AI، سائبر حملوں، حیاتیاتی تحقیق یا حساس ٹیکنالوجیز کو دشمن ریاستوں یا خطرناک عناصر کے ہاتھوں میں جانے سے روکا جا سکے۔
اس پوری بحث کا مرکز اب بھی میتھوس ماڈل ہے، جسے دنیا کے طاقتور ترین AI نظاموں میں شمار کیا جا رہا ہے۔ مختلف سیکیورٹی اداروں اور ماہرین کا کہنا ہے کہ اس کی صلاحیتیں موجودہ عوامی ماڈلز سے کہیں آگے ہیں، خصوصاً جدید استدلال، سائبر سیکیورٹی اور سائنسی تحقیق کے میدان میں۔
اسی وجہ سے میتھوس کو عام صارفین کے لیے جاری نہیں کیا جا رہا بلکہ صرف حکومتوں، سیکیورٹی اداروں اور منظور شدہ تحقیقی تنظیموں کو محدود رسائی دی جا رہی ہے۔
یہ واقعہ ایک بار پھر اس بنیادی سوال کو سامنے لے آیا ہے کہ AI ماڈلز کو محفوظ بنانے کے لیے حدود کہاں تک ہونی چاہئیں، اور کیا صارفین کو یہ حق حاصل ہے کہ انہیں معلوم ہو کہ ان کے سامنے موجود AI اپنی اصل صلاحیت پر کام کر رہا ہے یا نہیں؟
حوالہ: Business Insider (Shubhangi Goel)، جون 2026
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
