مصنوعی ذہانت کی دنیا میں پہلی بار ایک ایسا فیچر متعارف کرایا گیا ہے جو صرف سوالوں کے جواب دینے کے لیے نہیں بلکہ انسانی جان بچانے کے لیے ڈیزائن کیا گیا ہے۔
اوپن اے آئی نے “ٹرسٹڈ کانٹیکٹ” نامی ایک نیا سیفٹی فیچر متعارف کرایا ہے جس کے تحت چیٹ جی پی ٹی استعمال کرنے والا بالغ صارف کسی قابلِ اعتماد شخص کو اپنے اکاؤنٹ سے منسلک کر سکتا ہے۔ اگر اے آئی کو گفتگو کے دوران خودکشی، خود کو نقصان پہنچانے یا شدید ذہنی بحران کے اشارے ملیں، تو سسٹم اس مخصوص شخص کو الرٹ بھیج سکتا ہے۔
اہم بات یہ ہے کہ یہ نظام مکمل طور پر “آپٹ اِن” ہے، یعنی صارف کی مرضی کے بغیر فعال نہیں ہوگا۔ مزید یہ کہ اطلاع بھیجنے سے پہلے اوپن اے آئی کی تربیت یافتہ سیفٹی ٹیم مشکوک گفتگو کا جائزہ لیتی ہے تاکہ غلط الرٹس سے بچا جا سکے۔
اطلاع ای میل، ٹیکسٹ یا اِن ایپ نوٹیفکیشن کے ذریعے بھیجی جا سکتی ہے، لیکن گفتگو کی اصل تفصیلات شیئر نہیں کی جاتیں۔ یعنی رابطہ کیے گئے شخص کو صرف یہ بتایا جاتا ہے کہ صارف ممکنہ ذہنی خطرے میں ہو سکتا ہے۔
یہ قدم ایک ایسے وقت میں سامنے آیا ہے جب اے آئی چیٹ بوٹس کے ذہنی صحت پر اثرات کے حوالے سے دنیا بھر میں بحث بڑھ رہی ہے۔ اوپن اے آئی اس وقت ایک درجن سے زائد قانونی مقدمات کا سامنا بھی کر رہی ہے، جن میں ایک نوعمر صارف کی خودکشی کے بعد دائر کیا گیا پہلا “غلط موت” کیس بھی شامل ہے۔
یہ پیش رفت ایک نئی حقیقت کی نشاندہی کرتی ہے۔ اے آئی اب صرف معلوماتی ٹول نہیں رہی بلکہ انسانی جذبات، ذہنی کیفیت اور ذاتی زندگی کے انتہائی حساس پہلوؤں تک پہنچ چکی ہے۔ یہی وجہ ہے کہ اب سوال صرف ٹیکنالوجی کی ترقی کا نہیں بلکہ اس کی اخلاقی اور انسانی ذمہ داری کا بھی ہے۔
مستقبل میں شاید ہر اے آئی اسسٹنٹ کو صرف ذہین نہیں بلکہ “محفوظ” ہونا بھی ثابت کرنا پڑے گا۔
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
#AiKiDuniya, #ChatGPT, #OpenAI, #MentalHealth, #AISafe
